Führende KI-Forscher warnen: KI könnte Menschheit auslöschen

Philip Fox, 30. Mai 2023

Prof. Geoffrey Hinton, Prof. Yoshua Bengio, Sam Altman, Demis Hassabis und viele weitere renommierte KI-Forscherinnen und -Entwickler haben einen offenen Brief des Center for AI Safety (CAIS) unterzeichnet. Der Brief fordert, eine mögliche Auslöschung der Menschheit durch KI genauso ernst zu nehmen wie Pandemien oder die Gefahr eines Atomkriegs.

Unser Fact Sheet fasst den Hintergrund des offenen Briefs zusammen: Warum sorgen sich KI-Fachleute um das Überleben der Menschheit? Wie kann die Politik diesem Risiko begegnen?

Wir wollen über die Forderung des Briefs aufklären und den öffentlichen Diskurs darüber konstruktiv gestalten. KIRA-Geschäftsführer Daniel Privitera: “Mehr und mehr Fachleute sind besorgt, das zeigt dieses Statement. Es ist gut, wenn auch im öffentlichen Diskurs jetzt klar wird: Die Möglichkeit eines KI-Kontrollverlusts ist eine echte Bedrohung für die Menschheit.”

KIRA-Gründungsmitglied Anka Reuel kommentiert: “Viele der mit KI-Entwicklung einhergehenden Risiken sind nur unzureichend erforscht und verstanden. Wir können nicht ausschließen, dass es existentielle Bedrohungen durch KI geben wird.”

KIRA-Gründungsmitglied Charlotte Siegmann ergänzt: “Auch führende chinesische Forscher haben unterzeichnet. Globale Regeln rund um KI zu finden, wird schwierig. Aber wenn es um das drohende Ende der Menschheit geht, sollte ein Kompromiss möglich sein, auch zwischen Ländern wie China und den USA.”

Das Zentrum für KI-Risiken & -Auswirkungen (KIRA) ist ein unabhängiger Think Tank. Wir setzen uns für eine konstruktive öffentliche Debatte über die Chancen und Risiken von KI-Technologie ein.