Philip Fox, 18. April 2023

Für die effektive Kontrolle von KI-Risiken braucht es eine wirkmächtige internationale Organisation, in der neben nationalen Regierungen auch Tech-Firmen, Forschungs-Institute, NGOs und Zivilgesellschaft vertreten sind: Dafür plädieren KIRA-Gründungsmitglied Anka Reuel (Stanford) und der führende KI-Experte Prof. em. Gary Marcus (NYU) in einem aktuellen Beitrag für den Economist. 

Sie schlagen die Gründung einer gemeinnützigen International Agency for Artificial Intelligence (IAAI) vor, die politisch neutral ist und KI-Risiken weltweit adressiert. Sie solle sowohl technische als auch Governance-Lösungen in den Blick nehmen und damit Forschungs- und Regulierungs-Ebene verbinden.

Am Dienstag ging Marcus mit dem Vorschlag in einem TED-Talk an die Öffentlichkeit. Er schlägt die Gründung einer International Agency for Artificial Intelligence (IAAI) vor, die als globale, politisch neutrale Non-Profit-Organisation KI-Risiken weltweit adressiert. Sie solle sowohl technische als auch Governance-Lösungen in den Blick nehmen und dabei Forschungs- und Regulierungs-Ebene verbinden.

Anka Reuel kommentiert: “Die Risiken, die von fortgeschrittener KI für die Menschen ausgehen, haben ein globales Ausmaß. Es reicht deshalb nicht, wenn sich einzelne Länder diesem Problem unabhängig voneinander stellen. Wir brauchen eine gemeinsame, global koordinierte Anstrengung, die negativen Auswirkungen von KI zu begrenzen und ein mögliches KI-Wettrüsten zu verhindern. Und zwar möglichst schnell – denn die nächsten Jahre und Jahrzehnte werden für einen sicheren und gerechten Übergang in eine Welt mit fortgeschrittener KI entscheidend sein.”

Anka Reuel promoviert in Informatik an der Stanford-Universität. Neben ihrer Forschung an technischen Lösungen in der KI-Sicherheit beschäftigt sie sich u.a. bei KIRA mit Governance- und Regulierungs-Fragen.