Das Bild ist düster: Die Rede ist von «katastrophalen» nationalen Sicherheitsrisiken, die durch die rasante Entwicklung künstlicher Intelligenz (KI) entstehen, und davon, dass für die Regierung die Zeit knapp wird, eine Katastrophe abzuwenden.
Dies sind die Ergebnisse eines vom US-Aussenministerium in Auftrag gegebenen neuen Berichts. Er basiert auf Interviews mit mehr als 200 Personen, die über einen Zeitraum von mehr als einem Jahr geführt wurden – darunter mit Führungskräften führender KI-Unternehmen, Cybersecurity-Forschern, Experten für Massenvernichtungswaffen und nationalen Sicherheitsbeamten innerhalb der Regierung.
Der Bericht, der in dieser Woche von Gladstone AI veröffentlicht wurde, stellt eindeutig fest, dass die fortschrittlichsten KI-Systeme im schlimmsten Fall «eine tödliche Bedrohung für die ganze menschliche Spezies darstellen könnten».
Ein Beamter des US-Aussenministeriums bestätigte CNN, dass das Aussenministerium den Bericht in Auftrag gegeben habe, da sie ständig bewerte, wie KI mit dem Ziel der Sicherung US-amerikanischer Interessen im In- und Ausland in Einklang stehe. Der Beamte betonte jedoch, dass der Bericht nicht die Ansichten der US-Regierung widerspiegle.
Die Warnung im Bericht ist eine weitere Erinnerung daran, dass es, obwohl das Potenzial von KI die Investoren und die Öffentlichkeit weiterhin fasziniert, auch reale Gefahren gibt. Jeremie Harris, CEO und Mitbegründer von Gladstone AI, sagte am Dienstag zu CNN:
«KI ist bereits eine wirtschaftlich transformative Technologie. Sie könnte uns ermöglichen, Krankheiten zu heilen, wissenschaftliche Entdeckungen zu machen und Herausforderungen zu überwinden, von denen wir einst dachten, sie seien unüberwindbar.
Aber sie könnte auch ernsthafte Risiken, einschliesslich katastrophaler Risiken, mit sich bringen, derer wir uns bewusst sein müssen. Und eine wachsende Menge an Beweisen – einschliesslich empirischer Forschung und Analysen, die auf den weltweit führenden KI-Konferenzen veröffentlicht wurden – legt nahe, dass KI über einer bestimmten Leistungsschwelle potenziell unkontrollierbar werden könnte.»
Die Sprecherin des Weissen Hauses, Robyn Patterson, sagte, die Exekutivanordnung von Präsident Joe Biden zur KI sei «die bedeutendste Massnahme, die eine Regierung weltweit ergriffen hat, um (…) die Risiken der künstlichen Intelligenz zu managen». Und weiter:
«Der Präsident und die Vizepräsidentin werden weiterhin mit unseren internationalen Partnern zusammenarbeiten und den Kongress drängen, parteiübergreifende Gesetzgebung zur Bewältigung der mit diesen aufstrebenden Technologien verbundenen Risiken zu verabschieden»
Die Nachricht vom Bericht von Gladstone AI wurde zuerst vom Nachrichtenmagazin Time gebracht. Forscher warnen in diesem Bericht vor zwei zentralen Gefahren, die von KI im Allgemeinen ausgehen.
Erstens könnten laut Gladstone AI die fortschrittlichsten KI-Systeme zu Waffen umfunktioniert werden, um potenziell irreversible Schäden anzurichten.
Zweitens besagt der Bericht, es gebe private Bedenken innerhalb von KI-Laboren, dass sie irgendwann die Kontrolle über die von ihnen entwickelten Systeme verlieren könnten, mit «potenziell verheerenden Folgen für die globale Sicherheit».
Der Bericht von Gladstone AI fordert einschneidende neue Massnahmen, um dieser Bedrohung zu begegnen, darunter die Gründung einer neuen KI-Agentur, die Einführung «notfallmässiger» regulatorischer Schutzmassnahmen und Grenzen dafür, wie viel Rechenleistung zur Schulung von KI-Modellen verwendet werden kann. «Es besteht eine klare und dringende Notwendigkeit für die US-Regierung einzugreifen», bilanzieren die Autoren in dem Bericht.
Harris, der leitende Angestellte von Gladstone AI, sagte, das «nie dagewesene Mass an Zugang», das sein Team zu Beamten im öffentlichen und privaten Sektor hatte, führte zu den alarmierenden Schlussfolgerungen. Gladstone AI sagte, es habe mit Führungsteams von OpenAI, Google DeepMind, der Facebook-Muttergesellschaft Meta und Anthropic gesprochen.
«Auf diesem Weg haben wir einige ernüchternde Dinge gelernt», sagte er in einem auf der Website von Gladstone AI veröffentlichten Video, das den Bericht ankündigte. «Hinter den Kulissen scheint die Sicherheit bei fortschrittlicher KI (...) ziemlich unzureichend zu sein.»
In dem Bericht von Gladstone AI wird auch darauf hingewiesen, dass wettbewerblicher Druck Unternehmen dazu bringe, die Entwicklung von KI «auf Kosten von Sicherheit und Schutz» zu beschleunigen. Dies wiederum erhöhe die Möglichkeit, dass die fortschrittlichsten KI-Systeme «gestohlen» und «gegen die Vereinigten Staaten eingesetzt» werden könnten.
Vor diesem Hintergrund wird die Liste derer, die vor den existenziellen Risiken, die von KI ausgehen können, warnen, immer länger – und Warnungen kommen sogar von einigen der mächtigsten Persönlichkeiten der Branche.
**********************
Unterstützen Sie uns mit einem individuellen Betrag oder einem Spenden-Abo. Damit leisten Sie einen wichtigen Beitrag für unsere journalistische Unabhängigkeit. Wir existieren als Medium nur dank Ihnen, liebe Leserinnen und Leser. Vielen Dank!
Oder kaufen Sie unser Jahrbuch 2023 (mehr Infos hier) mit unseren besten Texten im Webshop:
Kommentare