WHO warnt vor KI-Risiken

AHF

Die Weltgesundheitsorganisation (WHO) hat vor den Risiken bei der Verwendung von sogenannter Generativer Künstlicher Intelligenz im Gesundheitsbereich gewarnt.

Eine neue Analyse der WHO kommt zu dem Schluss, dass Generative Künstliche Intelligenz zwar in verschiedenen Bereichen der Medizin hilfreich sein kann, wenn sie aber nicht mit ausreichend Daten entwickelt werde, könne sie irreführende und potenziell gefährliche Ergebnisse liefern. Die sogenannte Generative Künstliche Intelligenz wird dafür verwendet, beispielsweise in Programmen wie ChatGPT, Texte, Bilder oder Videos zu erzeugen. Die Programme können dabei mit unterschiedlichen Datenarten gespeist werden, diese umwandeln, verarbeiten und daraus neue Daten generieren.

Die WHO rechnet damit, dass Generative Künstliche Intelligenz in der Zukunft breite Anwendung in der Medizin finden wird. So könnte die Technologie bei der Diagnose, in der Forschung und Entwicklung sowie in der Bildung von Ärzt:innen und Pflegekräften genutzt werden. Weiteres Potenzial von Generativer Künstlicher Intelligenz sieht die WHO in der Verwaltung von Gesundheitsdaten sowie in der Unterstützung von Patienten, die sich über ihre Symptome informieren wollen.

Das Risiko in der Verwendung von Generativer KI liegt der Analyse zufolge in der Qualität der Daten, mit denen die Modelle trainiert werden. So verzerre eine nicht repräsentative Datenlage auch die Ergebnisse der Programme, was falsche, ungenaue, voreingenommene oder unvollständige Diagnosen zur Folge haben könne. Die Konsequenzen seien im Gesundheitsbereich entsprechend schwerwiegend, warnte die WHO. Mit der zunehmenden Verwendung der neuen Technologie im Gesundheitsbereich seien „Fehler, Missbrauch und schlussendlich gesundheitliche Schäden einzelner Menschen unvermeidbar“, heißt es in der Analyse. Die WHO mahnt, dass es nur möglich sei, von den Vorteilen zu profitieren, wenn alle Beteiligten transparent und verantwortungsbewusst mit der Technologie umgingen. Dazu müssten Regeln aufgestellt und medizinisches Personal sowie Patient:innen an der Entwicklung der KI-Programme für den Gesundheitsbereich beteiligt werden. (red/APA)