Forderung nach staatlichen Kontrollen und Entwicklungs-Stop; Hoffnung auf Überlegenheit des menschlichen Bewusstseins.
Am Wochenende hat Senator Bernie Sanders die CEOs Sam Altman, Dario Amodei und Mark Zuckerberg der grossen KI-Konzerne OpenAI, Anthropic und Meta brieflich aufgefordert, ihre Entwicklungsarbeiten anzuhalten. Ansonsten würde der Gesetzgeber eingreifen. Sanders erhöht damit den Druck auf die KI-Branche und setzt eine linke, aber in breiten Schichten im Vorfeld der Zwischenwahlen Anfang November zunehmend populäre Kampagne fort.
In dem Brief heisst es: «Herr Altman, Herr Amodei und Herr Zuckerberg: Stehen Sie im Interesse der Menschheit zu Ihren Worten. Stoppen Sie die KI-Entwicklung. Es ist noch nicht zu spät, eine Katastrophe zu verhindern. Hören Sie auf, Maschinen zu bauen, die Menschen nicht zu kontrollieren vermögen.»
Sanders nahm damit auf frühere Aussagen der KI-Grössen Bezug, wonach sie die Entwicklung stoppen oder pausieren würden, wenn ihre KI-Systeme internen Kontrollen zu entgleiten drohten. Dies geschehe nun jedoch: «Wir erleben, wie der Mensch die Kontrolle verliert und potenziell gefährliche Viren entstehen». Dennoch würden die Unternehmen weiter Milliarden Dollar in eine Technologie investieren, «die niemand vollständig verstehen, vorhersagen oder kontrollieren kann.»
Meta, OpenAI und Anthropic hatten vergangene Woche allesamt Vorfälle gemeldet, bei denen Modelle fehlerhaft waren. Daneben fordern über 1200 Mitarbeiter führender KI-Unternehmen die Trump-Regierung auf, internationale Bemühungen zur Zügelung der KI-Entwicklung zu unterstützen.
Angesichts der freundlichen Haltung der Trump-Regierung – und in beiden Kongress-Parteien – gegenüber der Branche dürften Vorstösse von Sanders und andren Progressiven momentan erfolglos bleiben. Aber dies könnte sich bei neuen Kongress-Mehrheiten im kommenden Jahr ändern (Link).
Detaillierter und tiefschürfender sind die Warnungen zum Thema von Yuval Harari im aktuellen «Spiegel». Er stellt die neuen Technologien in die historische Industrie-Entwicklung: «Diesmal erschaffen wir Akteure, nicht Werkzeuge» und sieht die Gefahr einer Welt, «in der KI-Unternehmen enorme Mengen an Kapital ansammeln, das sie dafür verwenden, mehr KI-Akteure zu bauen». Diese würden dann womöglich «die Galaxie erkunden und sich auf anderen Planeten niederlassen»: «Alles ohne Menschen. Es ist der Moment, in dem der Kapitalismus und die Menschheit sich voneinander trennen.»
Harari bezeichnet sämtliche, derzeit diskutierte «Lösungen» für die von KI ausgehenden Gefahren als nutzlos: «Weder das universelle Grundeinkommen noch die Idee, dass Regierungen Anteile an den KI-Firmen übernehmen, sind hilfreich.» Am Horizont sieht er eine KI, «die sich zunehmend selbst erschaffen und möglicherweise eine eigene Sprache hervorbringen wird, die wir gar nicht verstehen. Nehmen Sie ein Kind, man kann es erziehen, es hat die eigene DNA – aber am Ende entwickelt es sich auf eine Art, die man nicht kontrollieren kann.»
Aber er lässt die Leserschaft doch mit einem Silberstreifen zurück. Ein positives Szenarium sei: «dass die KI-Revolution oberflächliche und irreführende Identitäten blossstellt. Dass sie uns als Menschheit zwingt, wieder auf die Suche zu gehen und uns zu fragen, wer wir eigentlich sind. Jahrtausendelang haben wir uns selbst erzählt, dass die menschliche Identität darauf beruht, dass wir die intelligenteste Spezies auf dem Planeten sind. Ich hielt das immer für falsch. Was uns definiert, ist Bewusstsein» (Link).
