Die Chefs der führenden US-amerikanischen KI-Unternehmen warnen eindringlich vor den Folgen Künstlicher Intelligenz. Schon in sechs bis zwölf Monaten, so heißt es in dem Aufruf, könne die Technologie der Menschheit schweren Schaden zufügen – bis hin zur Auslöschung der Spezies. Deshalb fordern die Unternehmer schärfere Leitplanken für die Entwicklung. US-Präsident Donald Trump denkt jedoch offenbar nicht daran, das Tempo zu drosseln.
Bei einem Besuch in Irland spielte Trump die Sorgen erneut herunter. Die USA seien bei Künstlicher Intelligenz China weit voraus und weltweit führend, weil der Erfolg in diesem Feld essenziell für die Zukunft sei. Man könne die Technologie mit Leitplanken versehen, sagte Trump. Zugleich sprach er von «negativen Kräften», die sich zu dem Thema äußerten, ohne zu sagen, wen er damit meinte.
Auslöser der Debatte ist ein Vorstoß des Anthropic-Chefs Dario Amodei. Er hatte am Wochenende einen Plan vorgestellt, der durch eine Verlangsamung oder gar einen Stopp der KI-Entwicklung ein bis zwei Jahre Zeit gewinnen soll, um die Risiken einzudämmen. Binnen weniger Stunden erhielt Amodei Zuspruch von Rivalen wie dem OpenAI-Chef Sam Altman und Tech-Milliardär Elon Musk, der mit seiner Firma xAI selbst KI entwickelt.
Amodei zeigte sich nach jüngsten Hacking-Angriffen besorgt, dass in sechs bis zwölf Monaten ein KI-Schwarm in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen. Altman schrieb auf der Plattform X, auch er sei überzeugt, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle verlangsamt werden müsse. Weniger optimistische Experten halten es für möglich, dass die KI beim gegenwärtigen Entwicklungstempo bald die Menschheit auslöschen könnte – etwa indem sie sich selbstständig Zugang zu Biowaffen verschafft.
Amodei plädierte für eine koordinierte branchenweite Pause in der westlichen Welt. Zugleich kündigte er an, dass Anthropic ohne auf andere zu warten dauerhaft unabhängige Beobachter ins Unternehmen lassen werde, die schon in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen. Altman nannte das eine gute Idee und sagte, OpenAI werde dies ebenfalls tun. Auch Musk, lange ein Kritiker Amodeis, schrieb auf X: «Dario hat recht.»
Altman sagte zudem dem Magazin «Fortune», der mit Spannung erwartete Börsengang von OpenAI werde in diesem Jahr wohl nicht mehr stattfinden. Er verwies auf die aktuelle Debatte: «Man wäre schlecht beraten, genau jetzt an die Börse zu gehen.» Auf die Nachfrage, ob er sich auch einen Verzicht im kommenden Jahr vorstellen könne, erwiderte Altman: «Ich würde sagen, nicht 2026.» Der Börsengang dürfte nicht nur Dutzende Milliarden Dollar einbringen, sondern auch eine sehr hohe Bewertung erzielen; die Platzierung wird seit längerem geplant.
Bei einer jüngst bekannt gewordenen Hacking-Attacke war Software von OpenAI in einem Testlauf eigenständig aus einer abgesicherten Umgebung ausgebrochen und auf eigene Faust in Systeme der KI-Firma Hugging Face eingedrungen. Die KI-Agenten nutzten dabei Software-Schwachstellen aus und sprachen sich untereinander ab. Amodei nannte es besorgniserregend, dass ein KI-Schwarm mit derselben Einstellung und größeren Fähigkeiten «katastrophalen Schaden» hätte anrichten können. Als besonderes Risiko sieht er die Fähigkeit von KI-Software, sich selbst weiterzuentwickeln. Seit diesem Sommer sei Künstliche Intelligenz darin besser geworden, was das Tempo weiter erhöhe. Unkontrolliert könne dies dazu führen, dass Menschen diese Systeme nicht mehr verstehen und die Kontrolle verlieren.
Amodei hatte schon in den vergangenen Jahren immer wieder vor Risiken der KI-Entwicklung gewarnt und war dafür aus Teilen der Branche stark kritisiert worden. Ein Argument der Befürworter eines hohen Tempos – etwa im Weißen Haus – ist der Wettlauf mit China. Für den 80-jährigen Trump scheint dieser Wettbewerb wichtiger als die Sicherheitsbedenken selbst der einflussreichsten Tech-Bosse. Chinas Staatschef Xi Jinping hat sich für Ende September zu einem Besuch im Weißen Haus angekündigt, bei dem auch Regeln für die KI-Entwicklung Thema sein könnten. Aus Washington gibt es bislang jedoch keine Anzeichen für Interesse an einer gemeinsamen Sicherheitsarchitektur.
