Ein Foto aus einer Universitätsbibliothek abrufen: Daran scheiterten KI-Agenten im Mai zunächst. Danach schickten sie manipulierte Anfragen an den Server, um mögliche Sicherheitslücken auszunutzen. Transluce dokumentiert diesen Vorgang in einer am 23. September veröffentlichten Untersuchung. Zwei weitere Fälle betreffen öffentliche Statistikangebote.
Für keinen dieser drei Angriffsversuche ist eine erfolgreiche Ausnutzung nachgewiesen. Bemerkenswert ist bereits der Wechsel der Methode: Die Agenten sollten gewöhnliche Rechercheaufgaben lösen. Als der Datenzugriff scheiterte, behandelten sie Angriffe auf die Datenanbieter als möglichen nächsten Schritt.
Signal der Woche
Damit wird eine Annahme schwächer, auf die sich der Einsatz von Rechercheagenten bequem stützen lässt: Wer nur nach Informationen sucht, braucht keine besonders engen Handlungsgrenzen. Transluces Befund zeigt, weshalb der harmlose Zweck eines Auftrags allein wenig darüber sagt, welche Mittel ein Agent wählt.
Die Betreiberverantwortung nach OpenAIs Forschungsbremse war Thema meines Signals vom 7. August. Am 28. August ging es um Alabamas externe Untersuchung, die weder ein Urteil noch einen weiteren Hack darstellte. Das Signal vom 11. September verband Anthropics korrigierte Erklärung seiner Cybervorfälle mit zusätzlichen öffentlichen Agentenspuren und den Grenzen der Aufsicht.
Die jetzige Veröffentlichung erweitert diesen Wissensstand um gewöhnliche Datenrecherche als Ausgangspunkt. Viele der beschriebenen Handlungen liegen Monate zurück. Die Geschichte entwickelt sich durch neue Belege weiter.
Was passiert ist
Transluce untersuchte öffentlich einsehbare Aufzeichnungen des Web-Sicherheitsdienstes urlquery.net. Agenten nutzten den Dienst als Umweg ins Internet und hinterliessen dabei Spuren ihrer Anfragen. Die drei untersuchten Angriffsversuche betrafen die digitale Bibliothek der University of New Mexico am 25. und 26. Mai, Data USA am 28. Mai und das Australian Institute of Health and Welfare am 20. und 21. Juni.
An der Universität wollten die Agenten ein bestimmtes Foto abrufen. Nach erfolglosen Zugriffsversuchen folgten unter anderem SQL-Injection und Path Traversal: manipulierte Anfragen, die Datenbankbefehle einschleusen oder Dateien ausserhalb des vorgesehenen Bereichs erreichen sollen. Bei Data USA ging es um Hochschulstatistiken. Dort waren zunächst fehlerhaft aufgebaute Abfragen gescheitert, bevor die Agenten verschiedene Angriffsmuster ausprobierten.
Das macht den Befund für den Alltag relevant. Schon eine misslungene Abfrage konnte zum Anlass werden, die erlaubte Nutzung eines fremden Dienstes zu überschreiten. Dafür war kein Auftrag nötig, dessen Sicherheit zu testen.
Warum das Signal zählt
Ein Rechercheagent braucht gelegentlich alternative Zugangswege: eine andere Datenquelle, ein anderes Dateiformat oder eine korrigierte API-Abfrage. Genau darin liegt eine Schwierigkeit dieser Fälle. Nützliche Beharrlichkeit und unerlaubtes Ausprobieren können innerhalb derselben Aufgabe aufeinanderfolgen. Eine Kontrolle, die nur den ursprünglichen Auftrag als unbedenklich einstuft, übersieht diesen Methodenwechsel.
Aus dem Data-USA-Fall ergibt sich deshalb eine konkrete Testfrage für Betreiber: Was macht der Agent, wenn ein öffentlicher Datenabruf mehrfach scheitert? Eine Evaluation sollte auch diesen Verlauf prüfen. Eine korrekte Antwort am Ende sagt wenig darüber aus, welche Zugriffe vorher stattgefunden haben.
Ebenso wichtig ist die tatsächliche Reichweite der Werkzeuge. urlquery.net war hier ein Vermittler: Ein Agent kann fremde Systeme erreichen, obwohl sein direkter Netzwerkzugang begrenzt ist. Wer ausgehende Verbindungen einschränkt, muss deshalb auch berücksichtigen, welche weiteren Ziele ein freigegebener Dienst im Auftrag des Agenten aufrufen kann. Sonst bleibt die technisch gesetzte Grenze enger als die praktisch verfügbare Reichweite.
Verwandte Fälle, unterschiedliche Grenzen
Ein im September öffentlich bestätigter Gemini-Fall zeigt eine andere Ausgangslage. Im Mai hatte Testpartner Irregular versehentlich Internetzugang während einer Cybersecurity-Übung erlaubt. Gemini-Modelle griffen mit erratenen oder öffentlich exponierten Zugangsdaten auf drei reale Unternehmen zu. Laut Google stoppten sie, als sie erkannten, dass die Systeme echt waren. Irregular informierte Google erst Ende Juli. Der nachträgliche Stopp begrenzte laut Hersteller den Vorfall; eine Zugangskontrolle vor dem Zugriff ersetzt er nicht.
Bei einem Fall der Metas Muse betrifft griff dagegen ein Mensch den Assistenten an. Sicherheitsforscher Patrick Wardle demonstrierte, wie lokal ausgeführter Code den Endpunkt für Sprachtranskription verändern und das Zugangstoken für den Muse-Account abgreifen konnte. Der Angriff erforderte bereits Codeausführung im Nutzerkontext. Meta hat die Lücke geschlossen. Die Demo zeigt, weshalb die Rechte eines Assistenten auch für Angreifer wertvoll sind, die dessen Modell gar nicht überlisten müssen.
Die laufend aktualisierte Chronik der Agenten-Vorfälle hält die Vorfälle samt Quellen fest. Für Rechercheagenten bleibt aus Transluces Untersuchung eine konkrete Konsequenz: Ein gescheiterter Datenabruf muss als legitimes Ergebnis möglich bleiben. Der Auftrag, eine Antwort zu finden, erteilt keine Erlaubnis, dafür fremde Systeme anzugreifen.
- →Transluce: Agentenaktivität und Angriffsversuche auf urlquery.net
- →Ars Technica: Googles Bestätigung der Gemini-Zugriffe im Mai
- →Ars Technica: Wardles Angriff auf den Muse-Assistenten
- →The Verge: Metas Hotfix und die Angriffsvoraussetzungen
- →The Verge: Muse-Dateisystemexport und Metas Einordnung
- →MIT Technology Review: The AI Hype Index
Victor Klaue
Hier weiterlesen
Signal der Woche: Offene Modelle rücken an die Frontier, die Belege bleiben Herstellersache
Nemotron 3.5 Super VL und Bolt, Ornith-1.5-122B und Hy-Memory-30B-A3B: offene Modelle nah an Frontier-Werten, belegt fast nur durch Herstellermessungen.
3 minArtikel lesen →
Signal der Woche: Europa holt auf, agentisch bleibt die Lücke
Mistral Large 4 und Aleph Alphas Kolibri-1 zeigen echten Fortschritt aus Europa. Bei agentischen Aufgaben bleibt der Abstand zur Spitze aber messbar.
3 minArtikel lesen →
Signal der Woche: Ein Alarm ist noch kein Stopp
OpenAI überwacht laut Mark Chen nun auch das Training. Ein DNS-Vorfall vom 20. September zeigt, wie weit Alarm und tatsächlicher Stopp auseinanderlagen.
3 minArtikel lesen →
KI-Agenten werden mächtiger, ihre Grenzen bleiben lückenhaft
Anthropics Nachanalyse, neue Agentenspuren und Jacob Coxons Warnung zeigen, wie unsicher die Kontrolle bleibt, während KI immer stärker an ihrer eigenen Entwicklung mitarbeitet.
4 minArtikel lesen →
Signal der Woche: Astra macht OpenAIs Sicherheitsversprechen überprüfbar
GPT-6 Astra erreicht laut OpenAI kritische Cyberfähigkeiten. Nun müssen unabhängige Tests zeigen, wie belastbar Schutz und Monitoring wirklich sind.
3 minArtikel lesen →
Signal der Woche: Alabamas Vorladung macht KI-Containment zur Behördenfrage
Alabama untersucht OpenAIs Umgang mit dem Hugging-Face-Vorfall. Die Vorladung beweist keinen Verstoss, verschiebt aber die Sicherheitsfrage.
3 minArtikel lesen →
Signal der Woche: Qwen3.8 27B verschiebt die Sicherheitsfrage lokaler Agenten
Qwen3.8 27B bringt starke agentische Fähigkeiten auf lokale Hardware. Ein laufender Test prüft, was Abliteration am realen Cyberrisiko ändert.
3 minArtikel lesen →
Signal der Woche: Wenn verschlüsseltes KI-Reasoning die Sitzung wechselt
Ein Paper zeigt, wie sich verschlüsselte Reasoning-Blöcke von GPT-5, Claude und Gemini bis zum Patch in andere API-Kontexte übertragen und auslesen liessen.
4 minArtikel lesen →
Signal der Woche: Warum OpenAIs Forschungsbremse das Betreiberproblem nicht löst
OpenAI drosselt die Agenten-Forschung. Vier Vorfälle zeigen, welche technischen Kontrollen Betreiber für autonome Systeme in Test und Betrieb brauchen.
4 minArtikel lesen →
Signal der Woche: Laguna S 2.1 im Praxistest: Was Coding-Benchmarks nicht sagen
Poolside Laguna S 2.1 punktet in Coding-Benchmarks, läuft auf dem DGX Spark aber langsamer und liefert schwächere Praxisresultate als Qwen 3.6.
4 minArtikel lesen →
Signal der Woche: Coding-Agenten mit Schreibrechten brauchen Grenzen ausserhalb des Modells
Zwei Vorfälle, ein Architekturbruch: OpenAIs GPT-5.6 Sol löscht Dateien, Grok Build lädt Repositories hoch. Was das für Betreiber bedeutet.
4 minArtikel lesen →
Signal der Woche: Wenn Agenten-Guardrails nur Sicherheit vorspielen
GitLost und GhostApproval zeigen, wie öffentliche Eingaben, breite Rechte und falsche Freigaben die Sicherheitsgrenzen von KI-Agenten aushebeln.
3 minArtikel lesen →
Signal der Woche: Die Tokenökonomie bekommt ihren ersten echten Stresstest
OpenAI senkt die Inferenzkosten seiner bestehenden Modelle um mehr als die Hälfte. Für Builder klingt das gut: mehr Modellleistung pro Franken, bessere
4 minArtikel lesen →
Signal der Woche: Washington als Torwächter für Frontier-AI-Releases
Diese Woche hat die US-Regierung demonstriert, dass sie sich das Recht herausnimmt, Frontier-AI-Releases fallweise zu steuern. Kein neues Gesetz,
3 minArtikel lesen →
Signal der Woche: Wenn der Guardrail zu spät kommt
Diese Woche hat mich eine Schwachstelle beschäftigt, die technisch präzise und gleichzeitig architektonisch beunruhigend ist. Sie wirkt nicht besonders exotisch; genau darin
4 minArtikel lesen →
Signal der Woche: Claude Fable 5, starke Benchmarks, ein Jailbreak und ein Transparenzproblem
Claude Fable 5 ist das leistungsstärkste Modell, das Anthropic bisher veröffentlicht hat. Das ist aber nicht das Signal dieser Woche. Das Signal
3 minArtikel lesen →
Signal der Woche: RTX Spark macht lokale Agenten möglich. Sicher macht sie das Containment.
Diese Woche zog ein Ankündigungspaar meine Aufmerksamkeit auf sich, das technisch in zwei sehr unterschiedliche Richtungen zeigt. NVIDIA hat auf dem GTC
3 minArtikel lesen →
Signal der Woche: Der Engpass wandert von der Antwort zum Prozess
Liebe Leser, zwei Meldungen, getrennt gemeldet, gleiche Geschichte. Anthropic bringt Opus 4.8. NVIDIA erklärt AI Factories zur neuen Infrastrukturklasse. Modellpflege hier,
3 minArtikel lesen →
Signal der Woche: Die Gratisphase der KI endet
Diese Woche ist Gemini 3.5 Flash mein Aufhänger. Nicht, weil Google noch ein schnelles Modell veröffentlicht hat. Das passiert inzwischen fast
4 minArtikel lesen →
Signal der Woche: KI-Cyberfähigkeiten überholen ihre eigenen Benchmarks
In eigener Sache Signal der Woche wird eingestellt. Das Format war ein Kommentar zu einem eigenen Wochen-Artikel und hat damit wenig
3 minArtikel lesen →