Konstantin Pilz, 28. April 2023

KIRA wurde ins Leben gerufen, weil die Entwicklung von Künstlicher Intelligenz (KI) einen kritischen Punkt erreicht hat. Wir denken, dass die Menschheit von nun an in der KI-Entwicklung besonders wohlüberlegt und vorsichtig vorgehen sollte. Zur Zeit passiert das nicht. Aber wie kam es dazu?

Der Beginn von KI

1950 war der Alltag der Menschen vollständig analog: Beim Einkaufen rechnete man Beträge im Kopf aus, anstelle von E-Mails wurden Briefe geschrieben, und Informationen mussten in der Bibliothek nachgeschlagen werden. Damals wurden die ersten Computer gebaut, zum Besipiel vom Mathematiker Alan Turing. Diese Computer füllten ganze Hallen aus, waren langsam und konnten nicht viel mehr als ein paar Zahlen multiplizieren. Und trotzdem trieb Turing eine Frage um: Würden sich Computer eines Tages intelligent verhalten können?

Zusammen mit Marvin Minsky und John McCarthy war Turing einer der ersten Forscher auf dem Gebiet der KI, einem Teilbereich der Informatik. Sie wollten Computer dazu zu bringen, menschliches Verhalten zu imitieren. Doch nach einer ersten Phase des Optimismus wurde schnell klar, dass Computer viel zu schwach und langsam waren, um komplexe Probleme zu lösen.

Dennoch gab es Fortschritte. Einer der ersten großen Erfolge gelang Arthur Samuel in den 1960er Jahren. Er entwarf einen Computer, der das Brettspiel Dame spielen konnte. Statt das Spielbrett auf einem Bildschirm darzustellen, zeigte die KI ihre Züge mittels kleiner Lämpchen an. Zwar gewannen Profis leicht gegen das Programm, doch nach einiger Arbeit gelang es der Maschine, weniger erfahrene Menschen zu besiegen.

Langsamer Fortschritt

In den folgenden Jahrzehnten wechselten sich sogenannte KI-Winter und KI-Frühlinge ab. In manchen Phasen gab es viel Hoffnung und große Investitionen, dann wieder wurden die Erwartungen enttäuscht und es fand kaum Forschung statt.

Als Computer jedoch von Jahr zu Jahr leistungsfähiger wurden, konnten sie auch für immer anspruchsvollere Zwecke eingesetzt werden. In den 1980er Jahren entwickelte Martin Marietta das erste selbstfahrende Auto, das auf unbefahrenen, geraden Straßen stolze 31 km/h erreichte. 

Weltweite Schlagzeilen machte KI erstmals 1997. Damals gelang es dem Schachcomputer Deep Blue, den Weltmeister Garri Kasparow zu schlagen. Deep Blue basierte auf einer fest definierten Suchmethode, die in einem riesigen Datensatz von vergangenen Spielen den besten Zug suchte.

Maschinelles Lernen eröffnet neue Möglichkeiten

Systeme wie Deep Blue, die größtenteils auf festen Regeln basierten, wurden bald von einem flexibleren Ansatz abgelöst: dem Maschinellen Lernen (ML). Ein System erkennt hier in großen Datenmengen eigenständig Regelmäßigkeiten. Als besonders nützlich sollten sich dafür sogenannte neuronale Netze erweisen. Sie sind von der Funktionsweise unseres Gehirns inspiriert und bestehen aus vielen simulierten Neuronen, die untereinander verbunden sind. Durch einen Trainingsprozess kann das Netz lernen, bestimmte Muster zu erkennen. Dazu werden der KI große Mengen an Daten gezeigt – oft Millionen von Bildern, Zahlen oder Texten. Wie genau das funktioniert, werden wir in einem späteren Blogeintrag genauer erklären.

Neuronale Netze setzten sich in den frühen 2000er Jahren langsam durch und gaben KI neue Fähigkeiten. Programme wie Siri verstehen gesprochene Wörter; andere KI-Systeme besiegten Menschen in komplexen Videospielen wie StarCraft. Facebook entwickelte 2014 eine KI, die Gesichter so gut identifizieren kann wie ein Mensch. Bald begann Google neuronale Netze in seinen berühmten Suchalgorithmus zu integrieren. Und wenig später wurde die Methode von Instagram, Twitter, Tinder und vielen anderen Plattformen übernommen, um relevante Inhalte und Werbung vorzuschlagen.

Ein Wendepunkt: Deep Learning

Weil Computer immer leistungsfähiger wurden, konnte man von Jahr zu Jahr größere neuronale Netze verwenden. So begann die Ära des Deep Learning: Neuronale Netze haben seitdem besonders viele Schichten. Das beschleunigte die Entwicklung von KI stark und ermöglichte mehrere Durchbrüche. 

Vor zehn Jahren etwa war es für KIs noch eine echte Herausforderung, einen Hund von einer Katze zu unterscheiden. Mittlerweile kann KI hunderte verschiedene Hunderassen erkennen, mehr als die meisten Menschen. Sprachverarbeitung ist inzwischen weit fortgeschritten. Chatbots haben mit ChatGPT eine völlig neue Dimension erreicht und können dynamisch auf verschiedene Situationen reagieren. KI-generierte Bilder sind so realistisch, dass sie kaum noch von echten Fotos zu unterscheiden sind.

Bemerkenswert ist, dass KI in den letzten Jahren vor allem durch mehr Rechenleistung besser geworden ist. Der Forscher Richard Sutton beschrieb das 2019 als eine „bittere Lektion“: Fortschritt in KI komme nicht etwa daher, dass wir das Phänomen Intelligenz besser verstünden. Wir statten einfach immer generellere Systeme mit immer mehr Rechenleistung aus, ohne dass wir dabei verstehen, warum moderne KI-Systeme so gut funktionieren. Deshalb können wir oft auch nicht die Gründe erklären, aus denen eine KI eine bestimmte Entscheidung trifft.

Ausblick: Mögliche Risiken

Da unsere Computer weiterhin von Jahr zu Jahr exponentiell leistungsfähiger werden und zunehmend mehr in KI investiert wird, dürften KI-Systeme auch in den nächsten Jahren komplexer und für uns Menschen schwerer verständlich werden.

Angesichts dieser rasanten Entwicklung ist es schwierig vorherzusagen, welche Aufgaben KI als nächstes lösen können wird. Eine Gruppe bekannter Persönlichkeiten aus Forschung und Wirtschaft hat kürzlich dazu aufgerufen, für sechs Monate die Entwicklung noch leistungsfähigerer Systeme zu pausieren. Sie warnen, dass die Auswirkungen von KI auf die Gesellschaft nicht vorhersehbar seien. KI könne bald viele Arbeitsplätze ersetzen und zu sozialer Ungleichheit führen, oder durch massenweise gefälschte Bilder und Fake News den demokratischen Diskurs destabilisieren.

Der Brief warnt außerdem davor, dass in Zukunft unkontrollierbare KI-Systeme erschaffen werden könnten. Um dies zu verhindern, solle mehr in Forschung zur Sicherheit von KI-Systemen investiert werden. Dabei solle sichergestellt werden, dass KI menschliche Werte versteht und verinnerlicht. Die Unterzeichnenden fordern daher Regierungen weltweit dazu auf, gesetzlich festzuschreiben wie KI entwickelt werden darf. (Einen Überblick über mögliche KI-Risiken haben wir hier zusammengestellt.)

KIRA wurde gegründet, um sicherzustellen, dass zukünftige KI-Systeme sicher und gerecht sind und keine negativen Folgen für die Gesellschaft haben. Denn egal, über welche möglichen Auswirkungen von KI man am meisten besorgt ist: Es ist in unser aller Interesse, die weitere Entwicklung von KI jetzt schnell in geregelte Bahnen zu bringen.