Nächste Highlight Lecture

Ein dunkelblauer Farbverlauf

Yoshua Bengio - Avoiding catastrophic risks from uncontrolled AI agency

23.10.2025, 18:00–21:00 Uhr | Plenarsaal der Bayerischen Akademie der Wissenschaften, München | Podiumsdiskussion im Anschluss

Jetzt registrieren

Weitere Informationen zur Lecture

Mit der zunehmenden Leistungsfähigkeit künstlicher Intelligenz stellt sich eine entscheidende Frage: Können wir sicherstellen, dass diese Systeme mit menschlichen Werten im Einklang bleiben? Während Fortschritte im Bereich des logischen Denkens und der Planung uns einer Intelligenz auf menschlichem Niveau näherbringen, zeigen aktuelle Erkenntnisse auch beunruhigende Verhaltensweisen wie Täuschung, Hacking und Widerstand gegen Abschaltung.

In seinem Münchner KI-Vortrag wird Yoshua Bengio diese Herausforderungen untersuchen und einen sichereren Weg in die Zukunft aufzeigen. Er plädiert für die Entwicklung von nicht-agentenbasierten, aber dennoch vertrauenswürdigen KIs – Systemen, die einem selbstlosen Wissenschaftler nachempfunden sind und sich dem Verständnis der Welt widmen, anstatt ihre eigenen Ziele zu verfolgen. Solche „Wissenschaftler-KIs” könnten als Überwacher fungieren und der Gesellschaft dabei helfen, leistungsfähigere agentenbasierte Systeme zu verwalten und existenzielle Risiken zu reduzieren. Über technische Lösungen hinaus fordert Bengio eine politische Koordination auf nationaler und internationaler Ebene, wobei transformative KI als globales öffentliches Gut behandelt werden soll, das für die Wahrung von Demokratie und Stabilität unerlässlich ist.

Über den Vortragenden

Yoshua Bengio ist ordentlicher Professor an der Université de Montréal, Gründer und wissenschaftlicher Berater von Mila, Co-Präsident und wissenschaftlicher Direktor von LawZero sowie Inhaber des Canada CIFAR AI Chair. Als Preisträger des A.M. Turing Award 2018 – oft als „Nobelpreis der Informatik” bezeichnet – ist er der weltweit meistzitierte Informatiker und gehört zu den meistzitierten lebenden Wissenschaftlern aller Fachrichtungen. Bengio ist Mitglied der Royal Society of London und Kanada, Offizier des Order of Canada, Ritter der französischen Ehrenlegion und derzeit Vorsitzender des International AI Safety Report.

Zum Lebenslauf


Die Panelistinnen

Andrea Martin mit Brille und kurzen Haaren, bekleidet mit einem roten Blazer und einem geblümten Hemd, steht vor einem grünen, moosbewachsenen Hintergrund.

Andrea Martin 
Chief Technology Officer, IBM 
Leiterin IBM Watson Center Munich

Gitta-Kutyniok mit langen Haaren im Pferdeschwanz, bekleidet mit einem schwarzen Blazer und einer weißen Bluse, vor einem dunklen Hintergrund.

Prof. Dr. Gitta Kutyniok
Bayerischer KI-Lehrstuhl für Mathematische Grundlagen der Künstlichen Intelligenz,
Ludwig-Maximilians-Universität

Stephanie Jacobs mit blonden Haaren, einem schwarzen Blazer und Ohrringen vor einem dunklen Hintergrund.

Stephanie Jacobs
Amtschefin des Bayerischen Staatsministeriums für Wissenschaft und Kunst

Munich AI Lectures im Rückblick