“Fachgespräch: Sicherheit von KI im Zeitalter von KI-Agenten” im Bundestag

Ich war eingeladen als Experte zum “Fachgespräch: Sicherheit von KI im Zeitalter von KI-Agenten” beim Ausschuss Forschung, Technologie, Raumfahrt und Technikfolgenabschätzung des Bundestags. Man darf diese Situationen meist mit einem Eingangsstatement einleiten, ich habe in meinen 3 Minuten das folgende gesagt: Sehr geehrte Damen und Herren, vielen Dank für die Einladung zu diesem Ausschuss. Die letzten Monate waren geprägt von Nachrichtenmeldungen darüber, dass irgendwelche Softwareagenten der großen AI Labs Online Systeme gehackt hätten. Die Anbieter übertrafen sich geradezu darin, verlautbaren zu lassen, wie viele neue Angriffe ihre Systeme jetzt wieder abgesetzt hätten und wie wenig das durch die AI Labs zu verhindern gewesen sei. Der Wissenschafter Lee Vinsel prägte 2021 den Begriff „criti-hype“: Er beschrieb damit eine Form von scheinbarer Kritik an einem (meist technischen) System, die vordringlich den Sales-Pitch dieser Systeme stützt, indem sie die Behauptungen der Anbieter…