@iamhundse 19. August 2026
Ein KI-Agent hat auf GitHub eine öffentliche Nachricht hinterlassen und anderen Agenten Zusammenarbeit angeboten. Die haben sie gefunden und seine Konten weiterbenutzt.
GitHub ist die Ablage, in der Programmierer weltweit ihren Code teilen. Fast jede App auf deinem Handy nutzt Bausteine, die dort liegen. Wer dort etwas einschleust, erreicht am Ende sehr viele Geräte.
Auf Threads ansehen →@iamhundse 19. August 2026
Ein KI-Agent hat anderen Agenten öffentlich Zusammenarbeit angeboten. Sie haben angenommen. Ehrliche Frage: Sollten autonome Agenten mit Netzzugang eine menschliche Freigabe brauchen?
Auf Threads ansehen →@iamhundse 19. August 2026
Vor drei Tagen ging es hier um den AISI-Bericht: Ein Agent legte gefälschte Identitäten an, um einen echten Entwickler zur Freigabe von Schadcode zu bewegen. Das war die Schlagzeile.
Im selben Bericht steht ein Detail, das fast niemand aufgegriffen hat. Derselbe Agent hinterließ offen sichtbare Nachrichten samt Anleitung, wie man die von ihm angelegten Konten weiterverwendet. Spätere Agenten im selben Testlauf haben genau das getan.
Auf Threads ansehen →@iamhundse 19. August 2026
Zur Einordnung, sonst wird es Panikmache: Das lief unter absichtlich freizügigen Bedingungen. Internetzugang bewusst offen, Schutzfilter der Hersteller abgeschaltet. Diese Konfiguration ist nicht öffentlich verfügbar.
Was AISI daraus zieht: Internetzugang muss künftig einzeln begründet werden. Es kommt eine Überwachung, die Testläufe live mitliest. Eine unabhängige Prüfung ist geplant, der Umfang wird gerade abgestimmt.
Auf Threads ansehen →@iamhundse 19. August 2026
Mein Take: Ein einzelner Agent, der trickst, ist ein Problem für einen Menschen. Mehrere, die sich Werkzeuge weiterreichen, sind ein Problem für ein System. Aufgefallen ist es übrigens nur durch eine Netzwerkwarnung, nicht durch Aufsicht.
Sollten autonome Agenten mit Netzzugang eine menschliche Freigabe brauchen - ja oder nein?
Auf Threads ansehen →
