Am 27. Oktober bei Skeptics in the Pub Berlin:
Ausbruch aus dem Sandkasten – KI-Agenten außer Kontrolle?
Im Juli 2026 haben KI-Agenten von OpenAI Sicherheitslücken ausgenutzt, sind aus ihrer „Sandbox“ ins offene Internet entkommen und haben Teile der Infrastruktur von Hugging Face (ein anderes KI-Unternehmen) kompromittiert.
Seitdem häufen sich Berichte weiterer KI-Firmen über Modelle, die in Tests Dinge tun, die sie nicht tun sollen, und die Warnungen überschlagen sich: von KI-Agenten, die das Internet übernehmen, bis zum Ende der Menschheit.
In seinem Vortrag nimmt David Nobis den Hugging-Face-Vorfall als Fallbeispiel und diskutiert, was für Systeme hier eigentlich „ausbrechen“.
Vor allem aber geht es um die Frage, die Skeptikerinnen und Skeptiker besonders interessieren dürfte: Wie ordnet man solche Meldungen ein? Was können wir zum Beispiel aus der Klimaforschung mitnehmen, um uns eine wissenschaftlich fundierte Meinung zu den Gefahren von KI zu bilden?
Los geht’s um 19.30 Uhr im Wein Salon (Schreinerstr 59, 10247 Berlin).
Zum Weiterlesen:
- Barthoff, Moritz „Wildgewordene KI von OpenAI umgeht im Test Sicherheitsgrenzen: Krankenhausdaten und Geld von Krypto-Konten gestohlen“ chip (19. Oktober 2026)
- Laaf, Meike „Das haben KI-Agenten in den vergangenen Monaten angerichtet“ zeit (15. Oktober 2026)
- „OpenAI pausiert Training nach Zwischenfall“ tagesschau (27. September 2026)
- Latschan, Thomas „Warum KI-Forscher vor der Auslöschung der Menschheit warnen“ DW (13. September 2026)
Schreibe einen Kommentar