KI, Gesundheit, Ethik: Wer kontrolliert den Fortschritt und wer trägt die Verantwortung?

Entgleitet KI der menschlichen Kontrolle?

Diese Frage ist aktueller denn je.

OpenAI hat seinen Börsengang für 2026 ausgeschlossen. Das Unternehmen sowie andere Wettbewerber plädieren angesichts wachsender Sicherheitsbedenken für ein kontrollierteres Entwicklungstempo und strengere Sicherheitsvorkehrungen bei der Entwicklung fortschrittlicher Künstlicher Intelligenz.

Doch die entscheidende Frage stellt sich längst nicht mehr nur in Silicon Valley. KI ist ein globaler Wettlauf: Unternehmen und Staaten in den USA, Europa und Asien treiben die Entwicklung voran – mit unterschiedlichen wirtschaftlichen Interessen, politischen Rahmenbedingungen und Vorstellungen davon, wie viel Regulierung notwendig ist. Sicherheitsstandards lassen sich deshalb kaum allein national denken.

Auch Europa zieht neue Grenzen. Die EU-Kommission verabschiedete am 17. September das „EU-Kids-Gesetz“, um die Online-Sicherheit von Kindern in der gesamten Union zu verbessern und unter anderem Anforderungen an „Safety by Design“ sowie den Schutz vor Risiken digitaler Dienste und KI-Systeme zu stärken.

Damit stellt sich für Deutschland und Europa eine doppelte Frage: Wo müssen wir Innovation ermöglichen, um international wettbewerbsfähig zu bleiben? Und wo braucht es klare Grenzen und verbindliche Sicherheitsstandards?

Gerade im Gesundheitswesen wird diese Frage besonders wichtig. KI kann Diagnosen unterstützen, Therapien empfehlen und künftig ganze Behandlungsschritte begleiten. Aber wer trägt dann die Verantwortung? Je leistungsfähiger neue Technologien werden, desto schwieriger wird diese Frage und desto wichtiger wird es, gemeinsame Standards für ihren sicheren Einsatz zu entwickeln.

Darüber spricht Magdalena Falkner mit Prof. Dr. Alena Buyx, ehemalige Vorsitzende des Deutschen Ethikrats und Professorin an der TU München. Zudem berät Sie die Bundesregierung im Expertenrat „Gesundheit und Resilienz“ und ist in diesem Jahr Fellow der Konrad-Adenauer-Stiftung.