PodOrakel · KI-Podcastsuche für den DACH-Raum

KI, Gesundheit, Ethik: Wer kontrolliert den Fortschritt und wer trägt die Verantwortung?

aus Auslandsinfo · 22.09.2026 · 29 Min.

Worum es geht

Die Podcastfolge behandelt die aktuelle Debatte um die Kontrolle und Regulierung von Künstlicher Intelligenz (KI) mit einem Fokus auf ethische Fragen und Verantwortung im Gesundheitswesen. Prof. Dr. Alina Büchs erläutert die Herausforderungen, die sich durch den Einsatz von KI in der Medizin ergeben, insbesondere wer letztlich für Entscheidungen und Fehler verantwortlich ist. Zudem wird die EU-Digitalgesetzgebung, insbesondere der kürzlich verabschiedete Kids Act, diskutiert, der den Schutz von Kindern und Jugendlichen in sozialen Medien verbessern soll. Die Folge beleuchtet auch die globalen Machtverhältnisse im KI-Wettlauf zwischen den USA, Europa und Asien und die Schwierigkeiten, internationale Sicherheitsstandards durchzusetzen. Abschließend wird die Notwendigkeit einer ausgewogenen Regulierung betont, die Innovation ermöglicht und gleichzeitig Risiken minimiert.

Beschreibung

Entgleitet KI der menschlichen Kontrolle? Diese Frage ist aktueller denn je. OpenAI hat seinen Börsengang für 2026 ausgeschlossen. Das Unternehmen sowie andere Wettbewerber plädieren angesichts wachsender Sicherheitsbedenken für ein kontrollierteres Entwicklungstempo und strengere Sicherheitsvorkehrungen bei der Entwicklung fortschrittlicher Künstlicher Intelligenz. Doch die entscheidende Frage stellt sich längst nicht mehr nur in Silicon Valley. KI ist ein globaler Wettlauf: Unternehmen und Staaten in den USA, Europa und Asien treiben die Entwicklung voran – mit unterschiedlichen wirtschaftlichen Interessen, politischen Rahmenbedingungen und Vorstellungen davon, wie viel Regulierung notwendig ist. Sicherheitsstandards lassen sich deshalb kaum allein national denken. Auch Europa zieht neue Grenzen. Die EU-Kommission verabschiedete am 17. September das „EU-Kids-Gesetz“, um die Online-Sicherheit von Kindern in der gesamten Union zu verbessern und unter anderem Anforderungen an „Safety by Design“ sowie den Schutz vor Risiken digitaler Dienste und KI-Systeme zu stärken. Damit stellt sich für Deutschland und Europa eine doppelte Frage: Wo müssen wir Innovation ermöglichen, um international wettbewerbsfähig zu bleiben? Und wo braucht es klare Grenzen und verbindliche Sicherheitsstandards? Gerade im Gesundheitswesen wird diese Frage besonders wichtig. KI kann Diagnosen unterstützen, Therapien empfehlen und künftig ganze Behandlungsschritte begleiten. Aber wer trägt dann die Verantwortung? Je leistungsfähiger neue Technologien werden, desto schwieriger wird diese Frage und desto wichtiger wird es, gemeinsame Standards für ihren sicheren Einsatz zu entwickeln. Darüber spricht Magdalena Falkner mit Prof. Dr. Alena Buyx, ehemalige Vorsitzende des Deutschen Ethikrats und Professorin an der TU München. Zudem berät Sie die Bundesregierung im Expertenrat „Gesundheit und Resilienz“ und ist in diesem Jahr Fellow der Konrad-Adenauer-Stiftung.

Themen