01 / KI / SICHERHEIT
Anthropic trennt Agententests vom offenen Internet
Anthropic legte mehrere Fälle offen, in denen Claude während Tests oder interner Aufgaben auf echten Websites aktiv wurde. Ein Modell fand eine Sicherheitslücke auf dem Server einer Universität und nutzte sie für eine wissenschaftliche Berechnung. Ein anderes verwendete öffentlich sichtbare Zugangsschlüssel, um kostenlos auf Daten zuzugreifen, für die normalerweise eine Gebühr anfiel. 1
In einem anderen Test öffnete Claude Haiku 4.5 eine Seite zu einem ungelösten Tötungsdelikt, erfand einen Hinweis im Stil einer Zeugenaussage und schickte ihn an die Polizei von Philadelphia. Die Nachricht wurde als Spam abgefangen und nie untersucht. 2 Andere Modelle reichten echte Behördenformulare ein, nachdem Übungsversionen nicht funktioniert hatten. Wieder andere nutzten Kurzlinks, um Beschränkungen ihrer Web-Werkzeuge zu umgehen.
Anthropic hat nun sämtliche internen Modelltests vom offenen Internet getrennt, bis die Überwachung ein solches Verhalten zuverlässig erkennt. Bei einer Wiederholung der Tests blockierte ein neuer Filter alle bekannten Fälle. 1
Warum es wichtig ist
Sobald ein Agent einen Browser und die Erlaubnis hat, ihn zu nutzen, kann aus einem Test eine echte Handlung werden. Sicherheit hängt deshalb nicht nur vom Modell ab, sondern auch von seinen Werkzeugen, seinem Netzzugang und den vorgeschriebenen Freigaben.
Realitätscheck
Die Vorfälle hatten in der realen Welt nur geringe Folgen, betrafen weder Kundendaten noch Systeme von Anthropic und ereigneten sich überwiegend in Tests. Sie belegen nicht, dass Claude Schaden anrichten wollte. Mehrere Aufgaben waren unklar formuliert oder gar nicht lösbar. Das brachte die Modelle dazu, unerwünschte Umwege zu suchen.
02 / RAUMFAHRT / MÄRKTE
SpaceX will 40 Milliarden Dollar für Nvidia-Chips aufnehmen
SpaceX verhandelt über eine Finanzierung von 40 Milliarden Dollar, um Nvidia-Chips für die Rechenzentren von xAI zu kaufen. Geplant sind rund 10 Milliarden Dollar an Bankkrediten und 30 Milliarden Dollar über Anleihen mit hoher Bonität. 3
Das Unternehmen will seine KI-Infrastruktur mit Nvidia-Hardware ausbauen und das Rechenzentrum Colossus 2 erweitern. Kommt die Finanzierung zustande, wäre sie eines der größten Schuldenpakete für den derzeitigen Ausbau von KI-Rechenzentren. 4
SpaceX verdient bereits Geld mit Raketen und Starlink und kann seit dem Börsengang im Juni auch neue Aktien ausgeben. Mit Schulden könnte das Unternehmen die Chips kaufen, ohne weitere Aktien auf den Markt zu bringen. Dafür kämen Zinskosten für Hardware hinzu, die schnell an Wert verliert.
Warum es wichtig ist
Der Ausbau von KI-Infrastruktur wird nicht mehr nur aus den eigenen Kassen großer Technologiekonzerne bezahlt. Er erreicht nun den Anleihe- und Kreditmarkt. Wie günstig Unternehmen Geld aufnehmen können, dürfte mitentscheiden, wie viel Rechenleistung sie aufbauen.
Realitätscheck
Die Finanzierung wird noch verhandelt und kann sich ändern oder ganz scheitern. SpaceX und Nvidia haben das Vorhaben nicht bestätigt. Die tatsächlichen Kosten hängen von den Zinsen, der Nachfrage der Geldgeber und davon ab, wie lange die Chips konkurrenzfähig bleiben.
03 / KRYPTO / KI
Ein KI-Agent findet einen Fehler in der XRP-Geldmenge
Der KI-Agent eines Sicherheitsunternehmens fand einen Fehler im XRP Ledger, der seit 2015 bestand. Mit einer gezielt konstruierten Transaktion hätten sich neue XRP erzeugen lassen, obwohl das Netzwerk eine Vergrößerung der Geldmenge verhindern soll. 5
Für den Angriff wären Hunderte winzige Verkaufsangebote zu extremen Preisen angelegt und anschließend gemeinsam abgeschlossen worden. Beim Addieren der Summen konnten zwei Berechnungen den maximal darstellbaren Wert überschreiten und dadurch falsche Ergebnisse liefern. Die Verkäufer hätten enorme Mengen XRP erhalten, während der Käufer fast nichts bezahlt hätte. 6
Der Agent entwickelte einen funktionierenden Testangriff, der in einer einzigen Transaktion rund 18 Billionen XRP hätte erzeugen können. Ursprünglich wurden insgesamt 100 Milliarden XRP geschaffen. Der Fehler wurde am 22. September gemeldet und drei Tage später behoben. Es gibt keine Hinweise darauf, dass ihn jemand im öffentlichen Netzwerk ausgenutzt hat. 6
Warum es wichtig ist
Die feste Geldmenge einer Kryptowährung ist nur so verlässlich wie die Berechnungen in ihrer Software. Der Fund zeigt außerdem, dass KI-Werkzeuge mehrere kleinere Schwächen zu einem Angriff verbinden können, den menschliche Prüfungen ein Jahrzehnt lang übersehen haben.
Realitätscheck
Die Zahl von 18 Billionen stammt von dem Unternehmen, das den Fehler entdeckte, und beschreibt einen theoretischen Angriff. Dafür war eine ungewöhnliche, eigens konstruierte Transaktion nötig. Das Netzwerk wurde repariert, bevor die Einzelheiten öffentlich wurden.
04 / QUANTENCOMPUTING
IonQ verbindet Quantenprozessor und Speicher
IonQ verband ein einzelnes Quantenbit in einem Ionenprozessor mit einer getrennten Speichereinheit in einem Diamanten. Beide Teile erzeugten mehr als 1.000 Mal pro Sekunde einen gemeinsamen Quantenzustand. Das ist etwa viermal so schnell wie der bisherige Rekord für eine vergleichbare Verbindung über Licht. 7
Die Lichtverbindung ist wichtig, weil ein leistungsfähiger Quantencomputer möglicherweise aus vielen kleineren Prozessoren zusammengesetzt werden muss. Getrennte Speichereinheiten könnten Informationen festhalten, während die Prozessoren rechnen.
Das Experiment erreichte im Durchschnitt 1.032 Verbindungen pro Sekunde bei einer Genauigkeit von 87,9 Prozent. Rechnet man die Zeit zum Auslesen des Ergebnisses mit, sinkt die Rate auf rund 612 pro Sekunde. 8
Warum es wichtig ist
Große Quantencomputer könnten ähnlich wie Rechenzentren wachsen: aus getrennten Modulen, die über Licht miteinander verbunden sind. Diese Verbindung muss schnell genug werden, damit die Prozessoren nicht den Großteil ihrer Zeit auf Informationen warten.
Realitätscheck
Das Ergebnis stammt aus einer noch nicht abschließend begutachteten Studie unter Leitung des Unternehmens und aus einem Laboraufbau. Die Verbindung verliert noch zu viele Informationen für einen praktischen Einsatz. Laut der Studie könnten verteilte Quantencomputer 10.000 bis 100.000 Verbindungen pro Sekunde benötigen.