Nach OpenAI und Anthropic kehrt er der Branche den Rücken: „Sie spielen mit unserem Leben“

Er hätte in einem der begehrtesten Jobs der Tech-Branche bleiben können. Jacob Coxon entschied sich zu gehen – und das auch offen zu sagen. Am 9. September 2026 verkündete der 27-jährige Forscher, der bei OpenAI und danach bei Anthropic gearbeitet hatte, auf X, dass er die KI-Branche verlässt – mit einer Botschaft, die in der gesamten Branche die Runde machte.

Drei Jahre im Inneren der Maschine

Drei Jahre lang arbeitete Jacob Coxon am Pretraining von KI-Modellen, der Phase, in der diese Systeme aus riesigen Datenmengen lernen. Zuerst bei OpenAI, dann bei Anthropic, wo er 2026 anfing – in der Überzeugung, dort einen vorsichtigeren Ansatz zu finden.

Sein Urteil fällt unverblümt aus: Seiner Ansicht nach rasen beide Unternehmen auf eine KI zu, die sich selbst verbessern kann, ohne die Risiken im Griff zu haben.

“Keines der beiden Unternehmen handelt verantwortungsvoll. Sie rasen geradewegs auf eine sich selbst verbessernde Superintelligenz zu und spielen mit unserem Leben.”Jacob Coxon auf X

„Uns alle bis zum Ende des Jahrzehnts töten“

Am beunruhigendsten sei, sagt er, dass diejenigen, die diese Systeme bauen, „ernsthaft glauben, dass es uns alle bis zum Ende des Jahrzehnts töten könnte“. Für Jacob Coxon kann kein Unternehmen verantwortungsvoll eine KI entwickeln, die intelligenter ist als der Mensch – nicht ohne Eingreifen des Staates oder eine koordinierte Verlangsamung der Branche.

Er fordert nicht, dass ein einzelnes Unternehmen pausiert, was der Konkurrenz das Feld überlassen würde, sondern eine kollektive Bremse.

Antworten von innen

Seine Kündigung löste Reaktionen in den Laboren selbst aus. Evan Hubinger, Leiter der Alignment-Forschung bei Anthropic, bezifferte das existenzielle Risiko durch KI öffentlich auf mehr als 10 % in den kommenden zehn Jahren.

Der Kontext ist angespannt: Im Februar 2026 gab Anthropic die Selbstverpflichtung auf, die Entwicklung zu stoppen, falls es die Risiken nicht beherrschen könne – mit dem Argument, eine einseitige Pause würde weniger vorsichtigen Konkurrenten nützen. Im Juli hatten mehr als 1.000 Beschäftigte der Tech-Branche, darunter Anthropic-Chef Dario Amodei, eine koordinierte Verlangsamung gefordert.