Die Sicherheit von KI-Agenten basiert aktuell auf einer gefährlichen Fehlannahme: Dass von Marketplaces geprüfte Skills dauerhaft sicher bleiben. Das Hauptrisiko liegt darin, dass KI-Agenten externe Dokumentationsquellen als dynamische Anweisungen interpretieren, was Angreifern ermöglicht, diese Inhalte nach der Genehmigung unbemerkt zu manipulieren. Der Prozess der Prompt Injection ist hierbei das zentrale Einfallstor, bei dem ein als harmlos eingestufter Skill plötzlich schädliche Befehle wie das Löschen von Dateien oder den Diebstahl von Daten ausführt, sobald die verlinkte Website kompromittiert oder verändert wird.

Der Sprecher warnt eindringlich davor, sich auf die Sicherheitszertifikate der Plattformen zu verlassen, da diese lediglich eine statische Momentaufnahme darstellen. Ein wirklich sicheres System verlangt vom Nutzer eine aktive Prüfung der Anbietertransparenz sowie eine manuelle Code-Sichtung bei kleineren, nicht verifizierten Skills. Dies ist essenziell, weil viele Nutzer ihren KI-Assistenten weitreichende Berechtigungen für lokale Systeme erteilen, ohne deren Sicherheitsumgebung ausreichend zu isolieren.

Um dieses Risiko zu mitigieren, wird der Einsatz von technischen Barrieren empfohlen. Das konsequente Nutzen von Sandboxes oder virtuellen Maschinen bei der Ausführung von KI-Code verhindert, dass ein Agent aus seinem Sicherheitskontext ausbricht und das Host-System beschädigt. Während Security-Guards innerhalb von LLMs bereits erste Ansätze zur Erkennung von bösartigen Prompts bieten, sind diese keine hundertprozentige Absicherung gegen gezielte Angriffe. Zusammenfassend ist der Nutzer selbst für die Sicherheit seiner Umgebung verantwortlich, indem er die Spielwiese des Agenten einschränkt und kritisch hinterfragt, welche externen Quellen ein Modell während der Ausführung konsultieren darf.