Einleitung

Die Entwicklung der Künstlichen Intelligenz (KI) hat sich in einer Geschwindigkeit entwickelt, die sowohl Forschung als auch Regierungen weltweit überholen kann. Das unabhängige internationale wissenschaftliche Expertengremium für KI der Vereinten Nationen hat seinen vorläufigen Bericht veröffentlicht. Dies bildet den ersten globalen unvoreingenommenen Versuch, die Chancen, Risiken und Auswirkungen der Technologie wissenschaftlich fundiert zu bilanzieren.

UN-Bericht zu KI-Risiken: „Die Welt kann nicht regieren, was sie nicht versteht“

Zentrales Leitmotiv

Das zentrale Leitmotiv, das die UN dem Bericht in ihrer Ankündigung voranstellt, bringt die entdeckte Misere auf den Punkt: „Die Welt kann nicht regieren, was sie nicht versteht.

Kernbereiche der Studie

Die Studie umfasst sieben Kernbereiche, darunter wissenschaftliche Entwicklungspfade, wirtschaftliche Folgen sowie gesellschaftliche Anwendungen in Medizin und Bildung. Die Fachleute beleuchten Fragen der nationalen Sicherheit, der Menschenrechte, des Kinderschutzes und der Zuverlässigkeit der Systeme.

Risiken und Herausforderungen

Politische Entscheidungsträger benötigen wissenschaftliche Beweise, um KI effektiv zu steuern. Doch bis diese feststehen, könnte es bereits zu spät sein, um noch lenkend einzugreifen. Der Co-Vorsitzende des Gremiums, KI-Pionier Yoshua Bengio, gab zu bedenken, dass die Fähigkeiten der KI die Kapazitäten der Politik überholen könnten. Besonders besorgniserregend seien Hinweise auf täuschendes Verhalten von Systemen. Die Wissenschaft könne derzeit nicht garantieren, dass künftige KI nicht katastrophale Schäden anrichten, sei es autonom oder durch böswillige Akteure. Um effektiv zu handeln, müsse die Politik die Technik grundlegend verstehen.

Risiken für Gesellschaft und Menschheit

Die zweite Vorsitzende, die Journalistin und Nobelpreisträgerin Maria Ressa, ist ebenfalls wenig optimistisch. KI besitze zwar transformatives Potenzial. Doch auf dem aktuellen Pfad werde die Menschheit die versprochenen Gewinne nicht realisieren. Die Risiken für Gesellschaften und die menschliche Spezies seien zu hoch. Die treibenden Kräfte hinter der KI seien zugleich nicht dafür bekannt, erlangte Vorteile gerecht zu verteilen.

Warnung vor globaler Ungleichheit

Der UN-Tech-Sonderbeauftragte Amandeep Singh Gill betonte, dass KI digitale Gräben nicht von alleine schließen könne. Die positiven Effekte landeten primär dort, wo bereits starke Institutionen und Datenbestände vorhanden seien. Wo diese fehlten, drohe die Technik Arbeitsplätze zu vernichten und Gemeinschaften in die Abhängigkeit von Systemen zu treiben, die ohne Berücksichtigung ihrer Belange entwickelt worden seien.

Konsequenzen und Handlung

Mit der Übergabe des Berichts ist die wissenschaftliche Basis gelegt. Konsequenzen daraus muss die Politik ziehen. Der erste Härtetest steht an, wenn sich die Staatenvertreter nächste Woche zum Globalen Dialog über KI-Governance in Genf treffen, um die Empfehlungen in gemeinsames Handeln zu übersetzen.

Schlussfolgerung

UN-Generalsekretär António Guterres betonte, dass die Staatengemeinschaft in der Pflicht stehe, von der Zukunft der KI nicht allein von den Kräften des Marktes, sondern von einer geeinten Weltgemeinschaft gestaltet zu werden. Ein umfassender Hauptreport soll 2027 erscheinen.

Der UN-Expertengremium für KI hat einen vorläufigen Bericht veröffentlicht, der globale Risiken und Chancen der Technologie wissenschaftlich abwägt. Die Warnung vor globaler Ungleichheit und die Risiken für Gesellschaft und Menschheit ist jedoch stark.

Kommentare