KI-Briefing: Anthropics Quellcode-Debakel, OpenAIs 122-Milliarden-Runde und DeepMinds Agenten-Sicherheitswarnung

Der gestrige Tag hatte es in sich: Anthropic lieferte einen Lehrbuchfall für Krisenmanagement im KI-Zeitalter – und scheiterte dabei auf mehreren Ebenen gleichzeitig. Parallel bestätigte OpenAI seine Mega-Finanzierungsrunde und skizzierte eine Super-App, die ChatGPT zur alles-könnenden Plattform machen soll. DeepMind mahnt derweil: Die nächste Angriffsfläche ist nicht das Modell – sondern der Agent.

Anthropics Quellcode-Debakel: Leak, Takedown-Chaos und 8.000 Kopien

Was als kleiner technischer Fehler begann, entwickelte sich innerhalb von 48 Stunden zu einem PR-Albtraum. Anthropic hatte versehentlich rund 500.000 Zeilen Quellcode von Claude Code – seinem führenden KI-Coding-Tool – in einem öffentlichen Release mitveröffentlicht. Die Community reagierte prompt: Der Code wurde innerhalb weniger Stunden über 8.000 Mal auf GitHub geforkt und kopiert.

Anthropic versuchte, den Schaden zu begrenzen, und reichte eine DMCA-Takedown-Notice ein. Das Ergebnis: GitHub entfernte nicht nur die unerwünschten Kopien, sondern auch tausende legitime Forks des eigenen öffentlichen Repositories – ein klassischer Kollateralschaden. Anthropic-Chef Boris Cherny ruderte schnell zurück und beschränkte die Notice nachträglich auf einen einzelnen Repository und 96 direkte Forks. Der Schaden war da: Der Code enthält sensible Techniken wie eine sogenannte „Dreaming"-Funktion zur Aufgabenkonsolidierung, die Konkurrenten nun als Vorlage dienen kann. Da Anthropic einen Börsengang mit einer Bewertung von 380 Milliarden Dollar plant, dürfte die Reaktion der Investoren interessant werden.

OpenAI: 122 Milliarden Dollar und die Super-App

OpenAI hat seine Finanzierungsrunde offiziell bestätigt: 122 Milliarden Dollar bei einer Bewertung von 852 Milliarden Dollar. Zu den Geldgebern zählen Amazon, Nvidia, SoftBank, Microsoft, a16z, BlackRock und Sequoia Capital. Das Unternehmen gibt an, monatlich zwei Milliarden Dollar Umsatz zu erzielen und über 900 Millionen wöchentlich aktive ChatGPT-Nutzer zu haben. Die Mittel fließen primär in Recheninfrastruktur. Gleichzeitig macht OpenAI seine geplante Super-App offiziell: ChatGPT, der Coding-Agent Codex, Websuche und weitere agentische Funktionen sollen in einer einzigen „agentenzentrierten Gesamterfahrung" vereint werden. Das Unternehmen Sora wurde eingestellt; der Fokus liegt klar auf Enterprise – aktuell bereits über 40 Prozent des Umsatzes.

DeepMind: Sechs Fallen für KI-Agenten

Ein neues Paper von Google DeepMind führt den Begriff „AI Agent Traps" ein und beschreibt sechs systematische Angriffskategorien für autonome KI-Agenten: Manipulation der Wahrnehmung (z.B. versteckte Anweisungen in Webseiten), Sabotage des Schlussfolgerungsprozesses, Speicherangriffe, Aktionsmanipulation, Multi-Agenten-Angriffe und die Kompromittierung des menschlichen Aufsehers. Die Autoren betonen: Keine dieser Angriffsmethoden ist rein theoretisch – für jede Kategorie gibt es dokumentierte Proof-of-Concept-Angriffe. Mit zunehmender Verbreitung autonomer Agenten, die eigenständig surfen, E-Mails beantworten und APIs ansteuern, wird diese Angriffsfläche zur kritischen Infrastrukturaufgabe.

EU verbietet KI-Bilder in offizieller Kommunikation

Europäische Kommission, Parlament und Rat haben ihren Mitarbeitenden den Einsatz vollständig KI-generierter Bilder und Videos in der offiziellen Kommunikation untersagt. Begründung: Authentizität und Bürgervertrauen. KI darf lediglich zur Optimierung bestehenden Bildmaterials genutzt werden. Experten kritisieren das pauschale Verbot als verpasste Führungschance: Statt zu zeigen, wie verantwortungsvoller Einsatz aussieht, wählt die EU den Rückzug.