01 / KI / SICHERHEIT
Ein Anthropic-Forscher kündigt
Am 8. September gab der Anthropic-Forscher Jacob Coxon seine Kündigung bekannt. Nach drei Jahren in der Entwicklung von Basismodellen bei OpenAI und Anthropic erklärte er, beide Unternehmen lieferten sich ein Rennen um selbstverbessernde Systeme und handelten dabei nicht verantwortungsvoll. 1
Coxon war erst seit vier Monaten bei Anthropic. Er verließ das Unternehmen zwei Monate, bevor er erstmals Anspruch auf seine zugesagten Aktien erhalten hätte. Nach eigenen Angaben hatte er nicht beobachtet, dass Anthropic eine Sicherheitsprüfung übersprungen habe. Mit wachsendem Konkurrenzdruck steige seiner Ansicht nach jedoch die Gefahr, dass dies künftig geschehe. 2
Evan Hubinger, der bei Anthropic die Forschung zur sicheren Ausrichtung von KI leitet, stimmte Coxons grundsätzlicher Warnung öffentlich zu. Er schätzte persönlich die Wahrscheinlichkeit, dass KI innerhalb des nächsten Jahrzehnts zum Aussterben der Menschheit führt, auf mehr als zehn Prozent. Diese Zahl ist keine offizielle Prognose von Anthropic. 3
Vier Tage später kündigte CEO Dario Amodei an, unabhängigen Prüfern dauerhaft nahezu denselben Zugang wie internen Sicherheitsteams zu geben. Dazu gehören Arbeitsplätze, Firmenlaptops, interne Werkzeuge und das Recht, Ergebnisse zu veröffentlichen. 4 OpenAI-Chef Sam Altman sagte, sein Unternehmen werde ebenfalls externe Prüfer einbinden. Außerdem solle die Entwicklung langsamer verlaufen, als es technisch möglich wäre. 5
Warum es wichtig ist
Die Kündigung eines einzelnen Forschers wäre noch kein Zeichen für eine breitere Veränderung. In diesem Fall stimmte jedoch ein leitender Anthropic-Sicherheitsforscher öffentlich zu, und der CEO reagierte mit einer konkreten Kontrollmaßnahme. Entscheidend ist nun, welche unabhängigen Stellen vor der Veröffentlichung neuer Modelle tatsächlich Einblick erhalten.
Realitätscheck
Coxon war nur vier Monate bei Anthropic und legte keine Belege dafür vor, dass heutige Systeme menschlicher Kontrolle entkommen können. Seine und Hubingers Angaben zum Risiko sind persönliche Einschätzungen, keine gemessenen Wahrscheinlichkeiten oder wissenschaftlicher Konsens. Anthropic hat die Prüfer noch nicht benannt; die Regelung ist freiwillig.
02 / KI / WISSENSCHAFT
OpenAI legt eine Lösung für ein Millenniumproblem vor
Am 8. September veröffentlichte OpenAI einen Lösungsvorschlag für das Navier-Stokes-Problem zu Existenz und Glattheit. Der Beweis soll zeigen, dass in einer zunächst glatten dreidimensionalen Strömung innerhalb endlicher Zeit eine Singularität entstehen kann. Damit wäre eine der im offiziellen Millenniumproblem vorgesehenen Möglichkeiten nachgewiesen. 6
OpenAI setzte dafür ein internes Modell ein, das nach Angaben des Unternehmens deutlich leistungsfähiger ist als GPT-6 Astra. Rund 10.000 KI-Agenten arbeiteten 88 Stunden an der Lösung. Anschließend half Astra weitere 17 Stunden dabei, den Beweis in Lean formal darzustellen und zu prüfen. 6
Das Projekt begann, nachdem OpenAI von Fortschritten des Mathematikers Tristan Buckmaster und des Anthropic-Forschers Levent Alpöge bei einem verwandten Problem erfahren hatte. Buckmaster stellte deshalb die Frage, ob private Arbeiten in Codex oder Kenntnisse ihres Ansatzes OpenAI auf diese Spur gebracht hatten. 7 OpenAI erklärte später, eine interne Untersuchung habe ausgeschlossen, dass Buckmasters Eingaben in Codex direkt oder über das Training Einfluss auf das System hatten. 6
Warum es wichtig ist
Hier geht es nicht um einen weiteren Vergleichstest, sondern um einen öffentlich prüfbaren mathematischen Beweis. Bestätigt ihn die Fachwelt, hätte ein Verbund von KI-Agenten ein Problem gelöst, an dem Mathematiker seit Jahrzehnten arbeiten. Der Streit berührt außerdem eine praktische Frage: Können Forscher einem KI-Werkzeug unveröffentlichte Arbeit anvertrauen, ohne später mit dessen Hersteller zu konkurrieren?
Realitätscheck
Das Clay Mathematics Institute führt das Problem weiterhin als ungelöst. Unabhängige Mathematiker müssen das Argument und seine Formalisierung noch prüfen. 8 Lean kontrolliert den formalisierten Beweis Schritt für Schritt. Ob die Voraussetzungen stimmen und die mathematische Fragestellung korrekt in Lean abgebildet ist, muss dennoch die Fachwelt beurteilen. Da OpenAI erst nach Hinweisen auf externe Fortschritte begann, ist auch die Frage der wissenschaftlichen Anerkennung nicht geklärt. 7
03 / KI / SICHERHEIT
Claude wurde für Waffensoftware eingesetzt
Am 10. September legte Anthropic sechs Fälle offen, in denen Akteure Claude für konventionelle Waffenprogramme eingesetzt hatten. In vier Fällen ging es um Software für Waffensysteme; in zwei weiteren um Beschaffung oder Informationsgewinnung. 9
Eine Gruppe im Norden Jemens nutzte Claude Code, um Steuerungs- und Navigationssoftware für eine gelenkte Rakete zu entwickeln und Raketenflüge zu simulieren. Nach einem anscheinend gescheiterten Test kehrte sie zu Claude zurück, um den Fehler zu suchen. Anthropic fand keine Hinweise darauf, dass daraus eine einsatzfähige Waffe entstand. 9
Ein Team in Russland nutzte Claude, um Software für einen autonomen Schwarm von Angriffsdrohnen zu entwickeln, und übertrug den Code auf echte Entwicklungsplatinen. Zwei Akteure in China arbeiteten mit Claude an der Feuerleitung eines Anti-Torpedo-Systems und an Software, die Ziele für elektronische Kampfführung und die Unterdrückung gegnerischer Flugabwehr priorisierte. 10
Warum es wichtig ist
Die Akteure verfügten bereits über technisches Wissen und passende Hardware. Claude verringerte jedoch den Bedarf an spezialisierten Softwareentwicklern. Dadurch können kleine Teams Steuerung, Simulation, Zielauswahl und Tests schneller bearbeiten, auch wenn das Modell die eigentliche Waffe nicht bauen kann.
Realitätscheck
Die Belege stammen aus Anthropics eigenen Nutzerdaten und wurden nicht vollständig unabhängig geprüft. Die Fälle ereigneten sich zwischen Dezember 2025 und August 2026, nicht allein in dieser Woche. Anthropic sperrte die Konten; bei keinem der vier Softwareprojekte ist eine einsatzfähige Waffe bestätigt.
04 / ROBOTIK
XPeng nimmt die IRON-Fertigungslinie in Betrieb
XPeng nahm am 8. September seine Fertigungslinie für humanoide Roboter in Betrieb. Nach Angaben des Unternehmens sind mehr als 80 Prozent der wichtigsten Fertigungsschritte automatisiert. Der erste IRON durchlief die Linie vollständig und verließ sie selbstständig. 11
XPeng will bis Ende 2026 mit der Serienproduktion beginnen. Die ersten Roboter sollen in den eigenen Geschäften und auf dem Firmengelände eingesetzt werden. Auslieferungen an Kunden in China und anderen Märkten sind für 2027 geplant. 11
Warum es wichtig ist
XPeng überträgt Verfahren aus der Automobilproduktion auf humanoide Roboter. Eine funktionierende Fertigungslinie ist konkreter als ein Prototyp oder ein angekündigtes Produktionsziel. Nun muss sich zeigen, ob die vorhandenen Fabriken und Qualitätskontrollen dem Autohersteller auch in der Robotik einen Vorteil verschaffen.
Realitätscheck
Ein einzelner fertiger Roboter beweist noch keine Serienproduktion. XPeng nennt weder dauerhaft erreichte Stückzahlen noch Ausschussquote, Stückkosten, externe Aufträge oder Betriebsergebnisse ausgelieferter Roboter. 12 Auch die Behauptung, es handle sich um die erste automatisierte Fertigungslinie dieser Art, wurde nicht unabhängig bestätigt.