Skeptics in the Pub Berlin

David Nobis:
Ausbruch aus dem Sandkasten
KI-Agenten außer Kontrolle?

Im Juli 2026 haben KI-Agenten von OpenAI Sicherheitslücken ausgenutzt, sind aus ihrer „Sandbox“ ins offene Internet entkommen und haben Teile der Infrastruktur von Hugging Face (ein anderes KI-Unternehmen) kompromittiert. Seitdem häufen sich Berichte weiterer KI-Firmen über Modelle, die in Tests Dinge tun, die sie nicht tun sollen, und die Warnungen überschlagen sich: von KI-Agenten, die das Internet übernehmen, bis zum Ende der Menschheit.

In seinem Vortrag nimmt David den Hugging-Face-Vorfall als Fallbeispiel und diskutiert, was für Systeme hier eigentlich „ausbrechen“. Vor allem aber geht es um die Frage, die Skeptikerinnen und Skeptiker besonders interessieren dürfte: Wie ordnet man solche Meldungen ein? Was können wir zum Beispiel aus der Klimaforschung mitnehmen, um uns eine wissenschaftlich fundierte Meinung zu den Gefahren von KI zu bilden?

David ist Physiker und interessiert sich für alles Skeptische, seit er im Physikstudium herausgefunden hat, dass von Globuli keine wirkliche Wirkung zu erwarten ist. Beruflich arbeitet er mit Mikroskopen, Lasern und Messelektronik. KI-Experte ist er nicht – und macht deshalb keine eigenen Prognosen sondern spricht eher darüber, wie man sie prüft.