Die Unterzeichner der Petition fordern, „dass die US-Regierung internationale Bemühungen unterstützt, die notwendigen technischen und regulatorischen Werkzeuge zu entwickeln, um die Grenzen der Entwicklung automatisierter KI bewusst zu steuern“.
Unter den Unterzeichnerinnen und Unterzeichnern sind die Forschungsleiter von ChatGPT-Entwickler OpenAI und Meta AI sowie der Strategieleiter der Google-Tochter DeepMind. „Die weltweit führenden KI-Unternehmen glauben, dass sie kurz davor stehen könnten, die KI-Forschung zu automatisieren“, heißt es in dem Petitionstext.
Auch OpenAI-Chef will bremsen
„Es ist schwer, genau vorauszusagen, wie sehr das den KI-Fortschritt beschleunigen wird, doch besteht die reale Gefahr, dass sich die Entwicklung dieser Fähigkeiten so rasant beschleunigt, dass wir sie nicht mehr verstehen oder kontrollieren können.“
OpenAI-Chef Sam Altman ist nicht unter den Unterzeichnern. In einem am Dienstag veröffentlichten Interview in dem Podcast „Invest Like the Best“ sagte er jedoch, dass Entwickler bei den rapiden Fortschritten ihrer KI-Modelle möglicherweise freiwillig auf die Bremse treten müssten, damit die Gesellschaft eine Chance bekomme, Schritt zu halten.
Bedrohliche Konkurrenz aus China
Freilich könnten die US-Firmen auch von sich aus die Entwicklung verlangsamen – müssten dabei aber in Kauf nehmen, von der Konkurrenz – vor allem aus China – ausgebootet zu werden, wie TechCrunch schreibt. So hat der chinesische Anbieter Moonshot AI vor Kurzem sein Modell Kimi K3 veröffentlicht und damit die US-Szene in Aufruhr gebracht.
Wie die „New York Times“ berichtete, lobbyieren derzeit Anthropic und OpenAI massiv bei der US-Regierung. Angelpunkt ist die Frage, ob der Quellcode öffentlich zugänglich, also Open Source, sein soll. Anthropic und OpenAI sind hier zur Absicherung ihrer Geschäftsmodelle für strikte Regeln, die sich vor allem gegen die chinesischen Anbieter wendet. Andere Tech-Großkonzerne wie Microsoft und Nvidia profitieren wiederum von Open-Source-Modellen und kämpfen gegen ein Verbot.
„Ausbruch“ fachte Debatte an
Die Frage einer Bremsung der KI-Modelle wird schon lange diskutiert. Neuer Auslöser ist nun, dass OpenAI in der vergangenen Woche offengelegt hatte, dass seine KI-Modelle selbstständig einen Cyberangriff unternommen und dabei die Sicherheitsprotokolle umgangen hatten, die so etwas verhindern sollten. Bei einem Test „brachen“ die Modelle „aus“ ihrem isolierten Testumfeld aus, wie OpenAI mitteilte. Sie verbanden sich mit dem Internet und infiltrierten die Plattform Hugging Face – eine Website, die Softwareentwickler nutzen, um Code zu speichern und auszutauschen.
Weitere Dienste betroffen
Mittlerweile gab OpenAI auch bekannt, dass nicht nur Hugging Face betroffen ist. Die KI-Modelle hätte sich an insgesamt vier weiteren „öffentlich zugänglichen Diensten“ zu Schaffen gemacht. Details blieb man schuldig. Allerdings meldete sich der Technologiechef des KI-Infrastrukturanbieters Modal, Akshat Bubna, demzufolge die KI einen ungesicherten Zugang zu seiner isolierten Testumgebung nutzte. Die Systeme von Modal selbst seien jedoch nicht kompromittiert worden, betonte er.
Hugging Face will jetzt doch Schadenersatz
Hugging Face hatte den Angriff ursprünglich erstaunt gelassen hingenommen, auch deshalb wurde spekuliert, dass der „Ausbruch“ für OpenAI auch eine gewollte oder zumindest in Kauf genommene Machtdemonstration für die Stärke seiner KI-Modelle sein könnte. Mittlerweile fordert das Unternehmen allerdings Schadenersatz in Form von Rechenkapazitäten im Wert von 100 Millionen Dollar, um sich künftig besser verteidigen zu können.
Hugging Face ist derzeit zudem in einer anderen Causa in den Medien: Wie The Verge unter Berufung auf die Non-Profit-Organisation (NPO) AI Forensics berichtete, wird die Plattform zunehmend für sexualisierte Deepfakes verwendet. Das Unternehmen träfe keine Vorkehrungen dagegen, dass KI dafür verwendet wird, Nacktbilder aus Fotos von bekleideten Personen herzustellen. Bisher stand in diesem Zusammenhang vor allem Elon Musks KI Grok in der Kritik. Musk klagt nun den US-Bundesstaat Minnesota, der ein strenges Gesetz gegen KI-Nacktbilder am 1. August in Kraft setzt, und beruft sich dabei auf Meinungsfreiheit.