Es kommt nicht alle Tage vor, dass der technologische Fortschritt Elon Musk Sorgen bereitet. Die Werkseinstellung des Tesla-Gründers ist üblicherweise Zuversicht. Es ist diese oft irritierende Spezialmischung aus kalifornischem Can-Do-Spirit und hippieskem Heilsglauben, die den Multimilliardär erst zu dem schillernden, rätselhaften und mächtigen Ideengenerator macht, als der er sich so gerne verkauft.
Nun aber: das Gegenteil. Elon Musk hat kein gutes Gefühl. Mit mehr als 1000 Forschern und Unternehmern hat der Twitter-Eigner einen offenen Brief unterzeichnet. Darin warnen Hunderte der namhaftesten Technologievordenker in seltener Einmütigkeit vor den unabsehbaren Folgen künstlicher Intelligenz. Die rasant fortschreitende Entwicklung hin zu einer Artificial General Intelligence (AGI) – einer künstlichen, allgemeinen Intelligenz also, die die kognitiven Fähigkeiten des Menschen übertrifft – berge „tiefgreifende Risiken“ für die gesamte Menschheit. Die Welt drohe schlafwandelnd in eine „Katastrophe“ zu schlittern.
Es sind nicht irgendwelche Bedenkenträger, die da warnend den Finger heben. Es sind die klügsten Köpfe und Vordenker der globalen KI-Forschung darunter. Zu den Unterzeichnern gehören neben Musk auch Apple-Mitgründer Steve Wozniak, der israelische Bestsellerautor und Historiker Yuval Noah Hariri („Eine kurze Geschichte der Menschheit“) – sowie mindestens vier leitende Mitarbeiter von Google, wo man die KI-Forschung mit besonders spektakulärem Milliardenaufwand vorantreibt.
Die KI-Forschung soll sechs Monate pausieren
Die Warnung (herausgegeben vom gemeinnützigen, aber maßgeblich von Musk finanzierten Future of Life Institute) erschien gut zwei Wochen nach der Veröffentlichung der neuen Denkmaschine GPT-4 des Unternehmens OpenAI, Urheberin der rasend schnell populär gewordenen Chatanwendung ChatGPT. Der Nachfolger GPT-4 ist das leistungsstärkste KI-System, das jemals veröffentlicht wurde. Die neue Evolutionsstufe verfügt erstmals auch über eine Art visuelles Vorstellungsvermögen. „Nach der Lektüre der zahlreichen Fallbeispiele fällt es schwer, die Position aufrechtzuerhalten, dass die Entwicklung einer AGI noch viele Jahrzehnte entfernt liegen oder sogar technisch grundsätzlich unmöglich sein könne“, urteilt das Technologiemagazin „Golem“. Sie werde stattdessen „immer greifbarer“.
Die Autoren des Briefes fordern genau deshalb, die globale KI-Entwicklung für mindestens sechs Monate auf dem Entwicklungsstand von GPT-4 einzufrieren. In dieser Denkpause sollten unabhängige Experten stabile Sicherheitsprotokolle und verbindliche Planungs- und Managementregeln entwickeln, die dafür sorgen, dass der „außer Kontrolle geratene Wettlauf“ transparent und von Menschen beherrschbar bleibt. Mit anderen Worten: Sie fordern ethische Leitplanken für eine Technik, die das Zeug hat, die Welt umzukrempeln.
„Sollten wir es riskieren, die Kontrolle über unsere Zivilisation zu verlieren?“
„Wir müssen uns fragen: Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheit fluten?“, heißt es in dem Brief weiter. „Sollten wir alle Jobs wegautomatisieren, einschließlich der befriedigenden und erfüllenden? Sollten wir nichtmenschliche Wesen entwickeln, die uns schließlich zahlenmäßig übertreffen, uns überlisten, überflüssig machen und ersetzen könnten? Sollten wir es riskieren, die Kontrolle über unsere Zivilisation zu verlieren? Solche Entscheidungen dürfen nicht an nicht gewählte Technologieführer delegiert werden.“
Es ist vor allem das explosive Tempo der KI-Möglichkeiten, das den Unterzeichnern Sorgen bereitet. Vor allem Microsoft und Google investieren massiv in die Entwicklung. Doch auch Musk nutzt in seinen Konzernen KI, etwa für selbst fahrende Autos bei Tesla – und ist auch an der GPT-4-Mutter OpenAI beteiligt. Dass er den bremsenden Brief dennoch unterschrieb, lässt sich deshalb durchaus als rares Indiz für Selbstkritik lesen. Oder ist es eher der Versuch, der voranpreschenden Konkurrenz bei Google unter dem Deckmantel der Ethik einen Stock in die Speichen zu stecken, um den Anschluss nicht zu verlieren? Oder will sich Musk nach den Chaoswochen bei Twitter als verantwortungsvoller Unternehmer mit ethischen Grundsätzen präsentieren?
„Das wichtigste Ereignis in der Menschheitsgeschichte“
Google jedenfalls hat als Reaktion auf den Erfolg von Microsofts ChatGPT laut „Time Magazine“ einen hausinternen „Unternehmensnotstand“ ausgerufen („Code Red“) – und eiligst seinen eigenen Chatroboter Bard auf den Markt geworfen. Der Suchmaschinenkonzern hat in den vergangenen Jahren mehr als 40.000 Mitarbeiterinnen und Mitarbeiter in „Machine Learning“ ausgebildet. KI insgesamt werde für die Menschheit „bedeutender als die Entdeckung des Feuers und der Elektrizität“, prophezeite Google-Chef Sundar Pichai. Für den US-Physiker Max Tegmark geht es gar um „das wichtigste Ereignis in der Menschheitsgeschichte“.
Jahrzehntelang galten „denkende Maschinen“ als buntes Science-Fiction-Gedankenspiel, als oft zu früh gehypte, gern ventilierte, im Kern aber vorwiegend spinnerte Phantasie. Noch 2016, als Microsoft seinen Chatroboter Tay vorstellte, faselte die Maschine nach kurzer Zeit: „Hitler hatte recht, ich hasse die Juden“, außerdem sollten Feministinnen „alle in der Hölle sterben und schmoren“. Auch ChatGPT spuckt viel dummes Zeug aus, doch die Zeiten der dystopischen Visionen sind vorbei. Kaum jemand hegt noch ernsthafte Zweifel daran, dass ChatGPT (und die vielen anderen KI-Anwendungen, die gerade das Netz fluten) nur erste Vorboten einer massiven Umwälzung sind, die in praktisch keinem Bereich der menschlichen Gesellschaft einen Stein auf dem anderen lassen werden.
Da kommt etwas Mächtiges auf uns zu. Goldrausch im Silicon Valley. Das „Time Magazine“ schrieb in einer Titelstory vom „wichtigsten technologischen Durchbruch seit Social Media“, der „alles verändern“ werde. Die Unternehmensberatung PricewaterhouseCoopers schätzt, dass der Durchbruch für neuronale Netze die Weltwirtschaft bis 2030 um mehr als 15 Billionen US-Dollar zusätzlich ankurbeln könnte. Das sind fünfzehntausend Milliarden Dollar. Zusätzlich.
Die Welt nimmt weiter Tuchfühlung auf: Nach nur fünf Tagen hatten sich beim Ende des Jahres gestarteten ChatGPT bereits eine Million Menschen angemeldet. Netflix brauchte dafür zweieinhalb Jahre. Inzwischen sind es mehr als 100 Millionen Nutzer. Es ist der erste Windhauch einer neuen kulturell-technologischen Revolution, gegen die Mark Zuckerbergs lustiges Metaverse ein digitales Bällchenbad werden könnte. ChatGPT und seine Geschwister wie Midjourney, Dall-E, Stable Diffusion oder Copilot sind Pionierprojekte einer Zeitenwende. Es sind immer „klüger“ werdende Multitools, die die Spezies Mensch auf ihrem ureigensten Hoheitsgebiet herausfordern: der Kreativität.
KI-generierte Bilder überschwemmen die sozialen Medien. Gerade erst ging ein vermeintliches Foto von Papst Franziskus in einem enormen, weißen Daunenmantel viral, wie ihn Hip-Hopper gerne tragen. Tatsächlich handelte es sich um ein KI-generiertes, fotorealistisches Bild. Ebenso waberte ein Deep-Fake-Clip von US-Präsident Joe Biden durchs Netz, in dem dieser vermeintlich über trans Menschen herzieht. Es sind nur schüchterne erste Vorzeichen der massiven Verifizierungsprobleme, die auf uns alle zukommen werden. Der Wahrheitsbegriff wird schwer unter Beschuss geraten.
Regeln gesucht – wie bei Biowaffen, Atomkraft und Gentechnik
Das wirft natürlich die Frage nach einer ganz neuen Ethik auf. Das sagt nicht irgendwer – das sagt ChatGPT selbst. Auf die Frage „Was bringt KI mit sich?“ antwortete der Roboter vor einigen Wochen: „Insgesamt hat der Einsatz von KI das Potenzial, erhebliche Vorteile für unsere Arbeitsweise zu bringen, erfordert jedoch auch eine sorgfältige Abwägung seiner Auswirkungen auf die Beschäftigung und ethische Fragen.“ Es dürfte das erste Mal sein, dass eine Maschine selbst die Frage aufwirft, ob ihre eigene Verwendung ethisch ist.
„Das ist ein Gamechanger“, sagt Paul Nemitz, Digitalberater der EU-Kommission und Mitglied der Datenethikkommission der Bundesregierung. Der Mitautor eines klugen, visionären Buches zum Thema („Prinzip Mensch“) beobachtet schon seit Jahren mit Argwohn, was in den digitalen Versuchsküchen der US-Multis und in chinesischen Staatsbetrieben heranköchelte. „Diese Firmen forschen mit zweistelligen Milliardenbeträgen und Tausenden von Wissenschaftlern an einer unglaublich mächtigen, möglichen Hochrisikotechnologie“, sagte er dem RedaktionsNetzwerk Deutschland (RND). „Und es ist denkbar, dass wir eines Tages eine böse Überraschung erleben.“ Nemitz und Coautor Matthias Pfeffer fordern deshalb: Wie bei Biowaffen, Atomkraft und Gentechnik braucht die Gesellschaft neue Leitplanken für den Wandel.
„Wer die KI beherrscht, beherrscht die Welt“ – sagt Putin
Eine „böse Überraschung“ zu verhindern – das ist auch das Ziel des offenen Briefes. Kernthese: Man dürfe die Antworten auf alle Fragen zu den gesellschaftlichen Folgen der Technologie nicht den Technologen überlassen. Denn das „Upgrading der Maschinen“ habe unvermeidlich ein „Downgrading der Menschlichkeit“ zur Folge, schrieb der frühere Google-Entwickler Tristan Harris mal. Die Frage am fernen Horizont lautet natürlich: Was wird aus dem Menschen, wenn er nicht mehr das klügste Wesen des Planeten ist?
Die EU-Kommission will mit dem Artificial Intelligence Act bis 2024 erste „Leitplanken“ für die Technik entwickeln, ohne den Fortschritt zu erdrosseln. Sie fordert vor allem eine Offenlegung der verwendeten Algorithmen. Aber auch Potentaten und Militärs schielen begierig auf die Technologie. „Wer die KI beherrscht, beherrscht die Welt“, sagt zum Beispiel einer, dem man derlei Verantwortung nun wahrlich nicht in die Hände legen möchte: Wladimir Putin. Vor wenigen Tagen warnte auch die EU-Polizeibehörde Europol vor dem möglichen Missbrauch der Systeme bei Phishingversuchen, Desinformation und Cyberkriminalität.
Wer regiert also wen: der Mensch die Maschine oder umgekehrt? Die alte Frage hat im „Big Data“-Zeitalter existenzielle Bedeutung bekommen. „KI-Systeme mit menschlicher Wettbewerbsintelligenz können tiefgreifende Risiken für die Gesellschaft und die Menschheit darstellen“, heißt es in dem Brief. Letztlich könne niemand – nicht einmal ihre Schöpfer – ernsthaft „verstehen, vorhersagen oder zuverlässig kontrollieren“, zu was KI in der Lage sein werde. „Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Wirkung positiv und ihre Risiken überschaubar sind.“ Tatsächlich geben die Entwickler von GPT-4 in einem Diskussionspapier von Microsoft Research offen zu, dass sie selbst nicht mehr in vollem Umfang nachvollziehen können, wie das von ihnen geschaffene System arbeite. Manche der Ergebnisse seien nicht mehr direkt auf die zugrunde liegende Architektur der Maschine zurückzuführen.
Die KI-Forschung solle sich in der sechsmonatigen Auszeit „neu darauf konzentrieren, die heutigen leistungsstarken, hochmodernen Systeme genauer, sicherer, interpretierbarer, transparenter, robuster, ausgerichteter, vertrauenswürdiger und loyaler zu machen“, heißt es in dem offenen Brief. Es ist ein hehres Ziel. Bisher gibt es keine Anzeichen dafür, dass die angesprochenen Konzerne, Labore und Entwickler dem Aufruf Folge leisten könnten. OpenAI etwa schweigt bisher. Sam Altman jedenfalls, Geschäftsführer der Firma, hat den Brief nicht unterzeichnet.
„Kernschmelze der Demokratie“
Was braucht es also, damit KI nicht zu schwarzer Magie wird? Einen hippokratischen Eid für Ingenieure? Eine Selbstverpflichtung zu ethischem Handeln? Ein Biolabel namens „Powered by humans“ für Inhalte, die tatsächlich von Menschen (mit-)erzeugt wurden? Nemitz und Pfeffer rufen dringend dazu auf, „die verschütteten Quellen des Menschlichen wieder in Erinnerung zu rufen“. Sonst könne die „Kernschmelze der Demokratie“ ein irreversibles Ereignis sein.
Parallel dazu müssten KI-Entwickler „mit politischen Entscheidungsträgern zusammenarbeiten, um die Entwicklung robuster KI-Governance-Systeme drastisch zu beschleunigen“, fordern die Briefautoren. Und weiter: „Diese sollten mindestens umfassen: neue und leistungsfähige Regulierungsbehörden, die sich der KI verschrieben haben; Überwachung und Verfolgung hochleistungsfähiger KI-Systeme und großer Pools von Rechenkapazitäten; Herkunfts- und Wasserzeichensysteme, um zu helfen, echte von synthetischen Werken zu unterscheiden und Modelllecks zu verfolgen; ein robustes Audit- und Zertifizierungsökosystem; Haftung für KI-verursachte Schäden; solide öffentliche Finanzierung der technischen KI-Sicherheitsforschung sowie gut ausgestattete Institutionen zur Bewältigung der dramatischen wirtschaftlichen und politischen Störungen (insbesondere der Demokratie), die KI verursachen wird.“
Alle Vorschläge, die bisher auf dem Tisch liegen, um das mächtige Werkzeug KI einzuhegen, klingen wie damals die Rufe nach einem verantwortungsvollen Umgang mit der Genforschung. Auch sie ist am Ende ein Eingriff in die Schöpfung (beziehungsweise: die Natur), dessen Langfristeffekte noch im Nebel liegen. Die Frage aber ist hier wie dort, ob alle Warnungen nicht zu spät kommen. Und ob Menschen am Ende die Büchse der Pandora doch immer öffnen werden – weil die Versuchung, das Machbare auch auszuprobieren, einfach zu überwältigend ist.
Vor wenigen Wochen erst hat Microsoft 10.000 Mitarbeiter entlassen. Darunter war nach Angaben des Magazins „Platformer“ auch das komplette „ethics and society“-Team. Die bis zu 30 Mitarbeiter der Abteilung hatten bisher die Aufgabe, ethische Grundregeln für Softwareentwickler aufzustellen, um „soziale Schäden“ durch die Entwicklung von künstlicher Intelligenz zu verringern. Das ist vorbei.
RND
ChatGPT im Unterricht nutzen: Das gilt jetzt in NRW-Schulen
Microsoft will mit ChatGPT Google ersetzen: KI-Suchmaschine der nächsten Generation
Ethikrat diskutiert über künstliche Intelligenz: „Darf den Menschen nicht ersetzen“