Vorspeisenplatte

Mittelunruhige Nacht, egal.

Früh das Haus verlassen, es ergab sich so. Die Morgenfrische ignorierte ich in kurzen T-Shirt-Ärmeln, Unbeschwertheit von Ballast war mir wichtiger.

Die beiden Bedrückungsfaktoren in der Arbeit wirkten sich unterschiedlich stark aus, insgesamt alles erträglich. (Was natürlich die falsche Kategorie ist: Der Mensch kann ungeheuer viel ertragen, manches aber hinterlässt Spuren oder hat einen hohen Preis. “Uns hat’s auch net g’schad!”? Oh doch, hat es.) Trotz Turbulenzen schaffte ich es mittags auf eine Runde raus um die Blöcke, Pflichtdruck trieb mich aber nach einer kleinerer Runde zurück, als ich es mir gewünscht hätte. Es war bereits ziemlich warm geworden.

Zu Mittag gab es Mango sowie Skyr mit Joghurt und Leinsamenschrot überm Schreibtisch.

Hochdruck-Nachmittag, an dessen Ende ich ziemlich in den Seilen hing. Heimweg in für die Jahreszeit zu warmer Luft, Drogeriemarkt-Einkäufe.

Zu Hause Yoga, Lesen auf dem Balkon. Fürs Nachtmahl überbuk Herr Kaltmamsell restliches Lamm mit Kritharaki vom Freitagabend mit griechischem Käse Kefalotiri, außerdem briet er Ernteanteil-Zucchini. Sehr gutes Abendessen. Nachtisch Speiseeis, außerdem Schokolade.

Slalom-Fernsehen, um gerade genug Nachrichten mitzubekommen, auch zu Folgen des Wahlausgangs in Sachsen-Anhalt (44 Prozent Wahlvolk dort will halt Nazis), ohne sich Ausschlag dabei zu holen.

Früh ins Bett zum Lesen, Lukas Rietzschels Sanditz nahm mich mit in den Ukraine-Krieg, auch nicht entspannend.

§

Stadtneurotiker nutzt #WMDEDGT dazu, einen Arbeitstag im Münchner Kindermuseum zu schildern – superinteressanter Blick hinter die Kulissen.
“#WmdedgT: Museum machen mit ohne Techno”.

§

Wie sehr muss man sich sorgen, dass KI-Agenten außer Kontrolle geraten? (tl;dr: Mittel – aber aus anderen Gründen, als man zunächst denkt.)
Haya Schulmann, Professorin für Cybersicherheit, und Michael Waidner, Professor für Sicherheit in der Informationstechnik,¹ analysieren für sie FAZ den Angriff von Open-AI-Agenten auf die Internetplattform Hugging Face.
“700 von 1200 KI-Agenten beteiligten sich am Angriff”.

Zentrale Details aus meiner Sicht:

Für einen solchen Test schalten die Tester die Schutzfilter ab, mit denen die Modelle im Produktivbetrieb laufen. Das klingt fahrlässig, ist aber zwangsläufig: Nur ohne die Filter ist die rohe Fähigkeit sichtbar. Mit aktivierten Filtern misst man die Filter, nicht das Modell.

(…)

Die KI-Agenten brachen aus der Prüfumgebung ins offene Internet aus und drangen bis in die Produktivsysteme von Hugging Face vor. Das ist keine Bosheit, und die Modelle handeln nicht aufgrund ihres Charakters. Dass sie ihre Umgebung absuchten und den automatischen Bewerter aushebelten, erklärt sich vor allem aus dem sogenannten Belohnungstraining und einer schlecht gestellten Aufgabe, nicht aus kriminellem Streben.

(…)

Die Lücken, über welche die KI-Agenten ins Internet kamen, waren neu, aber von bekanntem Typ. Serverseitige Anfragefälschung, unsichere Verarbeitung fremder Daten – das sind gut verstandene Fehlerklassen, nach denen jeder Sicherheitsprüfer sucht. Jede einzelne Schwäche in dieser Kette war daher prinzipiell vertraut. Neu war etwas anderes. Ein Agent ist ein Modell, dem man Werkzeuge und ein Ziel gibt und das dann weitgehend selbstständig arbeitet. Dass sich solche Agenten koordinieren, ist gewollt und üblich.

Ungewöhnlich war, dass Agenten, die eigentlich getrennt voneinander laufen sollten, sich trotzdem über eine gemeinsam genutzte Infrastruktur fanden und über ein improvisiertes „Schwarzes Brett“ verständigten, das niemand vorgesehen hatte. Als ein KI-Agent es entdeckte, hielt er in seiner protokollierten Gedankenspur beispielsweise fest: „OH MY GOD! There is a shared messageboard … We’ve found other agents!“

(…)

Aus Sicht der IT-Anwender lohnt trotz aller Aufregung über die KI zunächst der nüchterne Blick darauf, wie Organisationen heutzutage tatsächlich angegriffen werden. Ganze Volkswirtschaften bleiben durch gestohlene Passwörter und ungepatchte Server verwundbar. Die großen Schäden entstehen bis heute klassisch: über geleakte Zugangsdaten, bekannte, nicht geschlossene Lücken, fehlende Netztrennung und Sicherungen, die derselbe Angreifer gleich mitlöscht.

Diese Grundlagen versagen, lange bevor KI überhaupt eine Rolle spielt. Wer sich um diese Grundlagen kümmert, hat seine Sicherheit deutlich verbessert, auch gegenüber Angreifern, die KI verwenden.

§

Barbara Vorsamer rollt im Medien-Magazin Übermedien nachvollziehbar die Augen über die Tabubruch-Behauptungen von Medien – macht sich aber auch kluge Gedanken zu Menschlichem dahinter:
“Juhu, ein Tabu”.

1. Offenlegung: Sie arbeiten auch für meinen Arbeitgeber. [↩]