Am Samstag haben die Köpfe der Branche vor akuten Gefahren neuer KI-Modelle gewarnt und Entwicklungs-Stops gefordert. Politische Flankierung kommt von Barack Obama.
Der Ablauf der Warnungen wirkt eigentlich zu fein abgestimmt, um zufällig zu sein. Am Samstag früh hat Anthropic-CEO Dario Amodei in einem langen Essay für die Bremsung der Modellentwicklung plädiert. Andernfalls drohten Katastrophen-Szenarien wie die Übernahme des gesamten Internets durch eine ausser Kontrolle geratene KI, was seiner Einschätzung nach schon in sechs Monaten geschehen könnte. Eine Stunde später zitierte Elon Musk auf X aus Amodeis Essay und kommentierte: «Dario hat recht.» Musk hatte zuvor demonstrativ branchenweite Forderungen nach einer Verlangsamung der Entwicklung abgelehnt.
Um 12:30 Uhr stimmte auch OpenAI-CEO Sam Altman per X Amodei zu: «wir müssen das Tempo bei der Entwicklung der Spitzenmodelle drosseln.» Zuvor hatte Altman in einem Interview erklärt, sein Unternehmen werde in diesem Jahr nicht an die Börse gehen. Bei OpenAI stünden noch umfangreiche Sicherheitsarbeiten anstünden, die sich als privates Unternehmen besser bewältigen liessen. Gegen Abend stimmte dann auch Demis Hassabis – Nobelpreisträger, Mitbegründer und Vorsitzender von Google DeepMind sowie Chief Scientist von Alphabet ein: «Darios Essay weist den richtigen Weg in die Zukunft.» Details müssten zwar noch ausgearbeitet werden, aber die Richtung stimme in diesem entscheidenden Moment (Link).
Die Hintergründe dieses Ruf-Konzerts sind anhin unklar. Jedenfalls war die Branche anhin von tiefen Kontroversen über Tempo, Nutzen, Kosten und Risiken der KI-Entwicklung geprägt. Bemerkenswert ist indes ein Bericht der «New York Times», wonach Barack Obama stark an der Thematik engagiert ist und persönliche Kontakte zumindest mit Altman und Amodei pflegt. Er unterstützt Amodeis Essay angeblich als notwendig und gut argumentiert.
Laut der Times hat der ex-Präsident bereits am Donnerstag an einer geschlossenen Spendenveranstaltung mit Hakeem Jeffries – Fraktionsführer der Demokraten im US-Repräsentantenhaus – die Notwendigkeit betont, KI in der Politik aufzugreifen und bald möglichst ein umfassendes Regelwerk zu entwickeln.
Ansätze dazu gab es anscheinend im US-Kongress während der Biden-Ära. Aber ein 2023 von beiden Parteien lanciertes Diskussionsforum kam nicht über Ansätze hinaus und die Demokraten haben ab 2024 im Alleingang weiter gearbeitet. Dies allerdings anscheinend ohne konkrete Ergebnisse. Trump hat keinerlei Sympathien für eine staatliche Aufsicht über die Branche.
Laut dem Bericht stehen sämtliche Akteure auch ratlos vor einer zentralen Frage: wie wird der grosse Konkurrent China agieren? Dort hat die Regierung anscheinend keinerlei Interesse, auf die Bremse zu treten (Link).
