Originalarbeiterreichbar
Greshake et al., Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection
Greshake und Mitautoren beschreiben im Februar 2023 die indirekte Prompt Injection: Ein Angreifer legt Anweisungen in Daten ab, die eine Anwendung voraussichtlich abruft, und steuert sie so ohne eigenen Zugang. Gezeigt ist das an Bings Chat, an Werkzeugen zur Codevervollständigung und an eigens gebauten Anwendungen mit GPT-4. Die Zusammenfassung nennt wirksame Gegenmittel für damals fehlend.
geprüft 10.11.2026
Worauf sich diese Seite beruft, wörtlich, abgerufen am 28.10.2026:
We reveal new attack vectors, using Indirect Prompt Injection, that enable adversaries to remotely (without a direct interface) exploit LLM-integrated applications by strategically injecting prompts into data likely to be retrieved.
bestätigt 10.11.2026We show how processing retrieved prompts can act as arbitrary code execution, manipulate the application's functionality, and control how and if other APIs are called.
bestätigt 10.11.2026including data theft, worming, information ecosystem contamination, and other novel security risks
bestätigt 10.11.2026