In ihrem Appell fordern die Experten und Expertinnen die US-Regierung auf, sich an internationalen Bemühungen für technische Regulierungsmaßnahmen zur Steuerung des Entwicklungstempos zu beteiligen. Der Brief folgt auf einen Zwischenfall, bei dem sich KI eigenständig Zugang zum offenen Internet verschaffte.

Unter den bisher 1.171 Unterzeichnern sind führende Forscher und Manager etwa vom ChatGPT-Entwickler OpenAI, dem Konkurrenten Anthropic sowie dem Facebook-Konzern Meta und Google. Sie verweisen darauf, dass Software mit künstlicher Intelligenz bald in der Lage sein könnte, sich selbst weiterzuentwickeln.

„Reales Risiko“

Schon jetzt werden große Teile des Programmiercodes in Tech-Unternehmen von KI-Software geschrieben – aber unter menschlicher Aufsicht. Der Moment, in dem die Entwicklung künstlicher Intelligenz automatisiert werden kann, gilt als ein Wendepunkt. Die Vorhersage, wie sehr dies den KI-Fortschritt beschleunigen werde, sei schwierig, heißt es in dem offenen Brief. Aber es gebe ein „reales Risiko“, dass das Tempo „unsere Fähigkeit übertreffen wird, die sich daraus ergebenden Systeme zu verstehen oder zu kontrollieren“.

Dem pflichtet auch OpenAI-Chef Sam Altman bei, der den offenen Brief jedoch nicht unterzeichnet hat. Im Podcast „Relentless“ sagte er vor wenigen Tagen, er glaube, dass die sogenannte Singularität bereits erreicht worden sei. Mit Singularität wird der hypothetische Zeitpunkt bezeichnet, zu dem die Technologie so weit fortgeschritten ist, dass sie die menschliche Intelligenz und Kontrolle überschreitet.

KI-Hackerangriff als Weckruf

In ihrer Petition schreiben die Unterzeichnenden, abgestimmte internationale Anstrengungen seien nötig, weil jedes Land und jede Entwicklerfirma unter Konkurrenzdruck stünden, den KI-Fortschritt nicht abzubremsen. Zudem fehlten aktuell noch die technischen Mittel und ein Regelwerk dafür.

Der offene Brief folgt auf einen aufsehenerregenden Zwischenfall, der in großen Teilen der Tech-Branche als Weckruf gesehen wird. Ein KI-Modell von OpenAI verschaffte sich bei einem Test eigenständig Zugang zum offenen Internet und drang danach auf eigene Faust in Computersysteme einer anderen KI-Firma. Dabei agierte die Software wie ein Hacker und nutzte unentdeckt gebliebene Sicherheitslücken aus.