\n“#WmdedgT: Museum machen mit ohne Techno”.<\/a><\/p>\n
\u00a7<\/p>\n
Wie sehr muss man sich sorgen, dass KI-Agenten au\u00dfer Kontrolle geraten? (tl;dr: Mittel – aber aus anderen Gr\u00fcnden, als man zun\u00e4chst denkt.) Zentrale Details aus meiner Sicht:<\/p>\n F\u00fcr einen solchen Test schalten die Tester die Schutzfilter ab, mit denen die Modelle im Produktivbetrieb laufen. Das klingt fahrl\u00e4ssig, ist aber zwangsl\u00e4ufig: Nur ohne die Filter ist die rohe F\u00e4higkeit sichtbar. Mit aktivierten Filtern misst man die Filter, nicht das Modell.<\/p><\/blockquote>\n (…)<\/p>\n Die KI-Agenten brachen aus der Pr\u00fcfumgebung ins offene Internet aus und drangen bis in die Produktivsysteme von Hugging Face vor. Das ist keine Bosheit, und die Modelle handeln nicht aufgrund ihres Charakters. Dass sie ihre Umgebung absuchten und den automatischen Bewerter aushebelten, erkl\u00e4rt sich vor allem aus dem sogenannten Belohnungstraining und einer schlecht gestellten Aufgabe, nicht aus kriminellem Streben.<\/p><\/blockquote>\n (…)<\/p>\n Die L\u00fccken, \u00fcber welche die KI-Agenten ins Internet kamen, waren neu, aber von bekanntem Typ. Serverseitige Anfragef\u00e4lschung, unsichere Verarbeitung fremder Daten \u2013 das sind gut verstandene Fehlerklassen, nach denen jeder Sicherheitspr\u00fcfer sucht. Jede einzelne Schw\u00e4che in dieser Kette war daher prinzipiell vertraut. Neu war etwas anderes. Ein Agent ist ein Modell, dem man Werkzeuge und ein Ziel gibt und das dann weitgehend selbstst\u00e4ndig arbeitet. Dass sich solche Agenten koordinieren, ist gewollt und \u00fcblich.<\/p>\n Ungew\u00f6hnlich war, dass Agenten, die eigentlich getrennt voneinander laufen sollten, sich trotzdem \u00fcber eine gemeinsam genutzte Infrastruktur fanden und \u00fcber ein improvisiertes \u201eSchwarzes Brett\u201c verst\u00e4ndigten, das niemand vorgesehen hatte. Als ein KI-Agent es entdeckte, hielt er in seiner protokollierten Gedankenspur beispielsweise fest: \u201eOH MY GOD! There is a shared messageboard … We\u2019ve found other agents!\u201c<\/p><\/blockquote>\n (…)<\/p>\n Aus Sicht der IT-Anwender lohnt trotz aller Aufregung \u00fcber die KI zun\u00e4chst der n\u00fcchterne Blick darauf, wie Organisationen heutzutage tats\u00e4chlich angegriffen werden. Ganze Volkswirtschaften bleiben durch gestohlene Passw\u00f6rter und ungepatchte Server verwundbar. Die gro\u00dfen Sch\u00e4den entstehen bis heute klassisch: \u00fcber geleakte Zugangsdaten, bekannte, nicht geschlossene L\u00fccken, fehlende Netztrennung und Sicherungen, die derselbe Angreifer gleich mitl\u00f6scht.<\/p>\n Diese Grundlagen versagen, lange bevor KI \u00fcberhaupt eine Rolle spielt. Wer sich um diese Grundlagen k\u00fcmmert, hat seine Sicherheit deutlich verbessert, auch gegen\u00fcber Angreifern, die KI verwenden.<\/p><\/blockquote>\n \u00a7<\/p>\n Barbara Vorsamer rollt im Medien-Magazin \u00dcbermedien<\/i> nachvollziehbar die Augen \u00fcber die Tabubruch-Behauptungen von Medien – macht sich aber auch kluge Gedanken zu Menschlichem dahinter:
\nHaya Schulmann, Professorin f\u00fcr Cybersicherheit, und Michael Waidner, Professor f\u00fcr Sicherheit in der Informationstechnik,1<\/a><\/sup> analysieren f\u00fcr sie FAZ<\/i> den Angriff von Open-AI-Agenten auf die Internetplattform Hugging Face.
\n“700 von 1200 KI-Agenten beteiligten sich am Angriff”.<\/a><\/p>\n
\n“Juhu, ein Tabu”.<\/a> <\/p>\n