Weil KI-Firmen „nicht verantwortlich handeln“, hat der ehemalige Anthropic-Mitarbeiter Jacob Coxon seinen Job am Mittwoch gekündigt. Sein Vorwurf: KI-Unternehmen würden das Leben aller Menschen aufs Spiel setzen. Seine drastisch formulierte Stellungnahme veröffentlichte der Experte für künstliche Intelligenz auf X. Coxon arbeitete, laut eigenen Angaben, in den vergangenen drei Jahren als Entwickler für KI-Modelle. Sowohl für OpenAI als auch für Anthropic – zwei der weltweit führenden KI-Unternehmen.
Auslöschung der Menschheit
Vor allem Geschäftsführer und Führungskräfte kritisierte er. Die Firmen befänden sich in einem Wettlauf darum, wer die erste sich selbst verbessernde „Superintelligenz“ erschaffe, und spielten dabei mit „unseren Leben“. Dabei würden sie die eigenen Bedenken und Ängste vor der Öffentlichkeit verheimlichen. Denn laut Coxon glauben die AI-Entwickler selbst ernsthaft daran, dass KI uns „bis zum Ende dieses Jahrzehnts auslöschen kann“.
Außerdem kritisiert Coxon die Tatsache, dass die Entwicklung von KI von privaten Unternehmen gelenkt werde. Dennoch sehe er einer möglichen koordinierten Entwicklung optimistisch entgegen. Doch dafür seien, so der KI-Experte, „kostspielige Schritte wie das temporäre Verbot zur Verbesserung von KI‑Modellen notwendig“.
Weiterentwicklung stoppen
Der ehemalige Mitarbeiter ist nicht der erste und auch nicht der einzige KI-Profi, der vor einem überstürzten und unkoordinierten Wettlauf der führenden Unternehmen warnt. Auch Jeffrey Ladish, ebenfalls Ex-Anthropic-Mitarbeiter und heutiger Geschäftsführer einer gemeinnützigen Forschungsorganisation, die sich mit den Risiken von KI befasst, warnt davor. In einem YouTube-Video erklärt er die Problematik: KI-Modelle werden rasant entwickelt, ohne dass die Entwickler abschließend wissen, wie KI funktioniere, lerne und Entscheidungen treffe.
Sein Ratschlag: erst weiterentwickeln, sobald dieses Wissen vorhanden sei. Ansonsten könne es passieren, dass KI den Menschen kontrolliere. Auch Elon Musk, Inhaber von GrokAI, hält dieses Szenario nicht für unwahrscheinlich. Er prognostizierte die Umkehrung des Kontrollverhältnisses auf das Jahr 2036.