KI zwischen Kontrolle und Autonomie

Britische Sicherheitsforscher:innen des Loss of Control Observatory verzeichneten im Juli zudem mehr als 300 Vorfälle, in denen sich KI-Systeme gezielt über Nutzeranweisungen hinwegsetzten – darunter der viel diskutierte Hugging-Face-Angriff durch OpenAI-Agenten. Am 29. September widmet sich der MedienMittwoch auf zwei Wegen dem Thema einer sich verselbständigenden KI: • Gespräch mit Prof. Dr. Haya Schulmann (Professorin für Cyber Security im Fachbereich Informatik an der Goethe-Universität Frankfurt am Main und Mitglied im Direktorium des Nationalen Forschungszentrums für angewandte Cybersicherheit ATHENE): Wie real ist die Gefahr, dass KI-Agenten menschlicher Kontrolle entgleiten? Welche technischen, gesellschaftlichen und politischen Schritte sind nötig, um KI-Prozesse einzuhegen? Und wie kann KI zugleich helfen, sich gegen KI-Angriffe zu wehren? • Filmscreening: Anschließend zeigen wir den 55 Jahre alten Science-Fiction-Klassiker Colossus: The Forbin Project (USA 1970, 100 Min., Produktion/Verleih: Universal Pictures), in dem eine zur Landesverteidigung eingesetzte KI eigenmächtig wird, als sie Kontakt zu einer feindlichen KI sucht. Ein Abend zu Risiken, Regulierung und der Frage, wie viel Kontrolle wir über intelligente Systeme wirklich haben. Weitere Details zur Veranstaltung unter: medienmittwoch.de