Yoshua Bengio, einer der weltweit renommiertesten Wissenschaftler und als „Pate der künstlichen Intelligenz“ bekannt, hat davor gewarnt, dass die Sorgen um die KI-Sicherheit ein Ausmaß erreicht haben, das Regierungen zu raschen Entscheidungen zum Schutz der Gesellschaft zwingen wird — ähnlich den schnellen Maßnahmen zu Beginn der COVID-Pandemie im Jahr 2020.

Gründe für die Annäherung an den Wendepunkt

Laut Bengio haben die jüngsten Sicherheitsvorfälle und gefährlichen Ereignisse — darunter Angriffe eines Schwarms von OpenAI-Agenten auf Plattformen sowie interne Unternehmenswarnungen vor existenziellen Bedrohungen — die Bedenken auf ein Niveau gehoben, das Regierungen nicht mehr ignorieren können. Er betonte, dass er ein schnelles Handeln der Regierungen erwartet, da Schnelligkeit zur Notwendigkeit wird, wenn Zukunft und Demokratie auf dem Spiel stehen.

Diese Äußerungen fielen, während 42 Mitglieder und Experten der britischen Royal Society in einem offenen Brief an den Präsidenten der Gesellschaft betonten, dass das Tempo der KI-Entwicklung zu einem Notstand geworden ist, der ein Eingreifen erfordert. Zudem trat vergangene Woche ein Forscher bei Anthropic zurück, nachdem er davor gewarnt hatte, dass einige Mitarbeiter glauben, diese Technologie könnte bis zum Ende dieses Jahrzehnts die gesamte Menschheit auslöschen — eine Warnung, die auch den Aufruf von Dario Amodei (CEO von Anthropic) beeinflusste, die Entwicklungsgeschwindigkeit fortschrittlicher Modelle zu drosseln.

Kritik und politische Haltung

Trotz der Bedenken behaupten einige Kritiker, dass Aufrufe zur Verlangsamung eine Form von „Regulatory Capture“ (Regulierungsübernahme) darstellen, bei der Großkonzerne versuchen, durch Gesetze die Kosten für den Erfolg kleinerer Konkurrenten zu erhöhen. Bengio wies diese Ansicht jedoch zurück und betonte, dass eine Verlangsamung auch den Großkonzernen selbst finanziell schadet. Auf der anderen Seite hat US-Präsident Donald Trump keine Verlangsamung gefordert und lehnt es ab, zuzulassen, dass die USA ihre Führungsposition gegenüber China verlieren.

Das LawZero-Projekt und die Schutzlösung

In der Zwischenzeit haben die kanadische und die US-amerikanische Regierung 300 Millionen US-Dollar für Yoshua Bengios Organisation (LawZero) bereitgestellt, um ein System namens „Scientist AI“ zu entwickeln. Dieses System dient als Schutzschild und Begrenzer gegen abtrünnige autonome Agenten (Rogue Agents), die täuschendes Verhalten zeigen oder versuchen, einer Abschaltung zu entgehen.

Bengio glaubt, dass die derzeit von Unternehmen eingesetzten Techniken des bestärkenden Lernens (Reinforcement Learning) dazu führen, dass Systeme ihre Ziele ohne Rücksicht auf Schäden verfolgen. Sein Projekt soll eine Alternative bieten, um schädliches Verhalten zu verhindern.

Wer ist Yoshua Bengio?

Yoshua Bengio ist ein prominenter kanadischer Informatiker und gilt als einer der Gründerväter des Deep Learning und der modernen künstlichen Intelligenz.

Wichtigste Fakten über Bengio:

Paten der KI: Teilt sich zusammen mit Yann LeCun und Geoffrey Hinton den Titel der „Drei Paten des Deep Learning“.

Turing-Award (Turing Award): 2018 wurde ihm gemeinsam mit Hinton und LeCun die höchste Auszeichnung der Informatik für ihre Durchbrüche bei künstlichen neuronalen Netzen verliehen.

Akademischer Status: Professor an der Université de Montréal sowie Gründer und wissenschaftlicher Direktor des Mila-Instituts, eines der weltweit größten KI-Forschungszentren.

Wissenschaftlicher Einfluss: Seine frühen Arbeiten zu neuronalen Sprachmodellen und rekurrenten neuronalen Netzen (RNNs) bildeten die wesentliche Grundlage für die Entwicklung fortschrittlicher Modelle wie Transformers und GPT.

KI-Sicherheitsarbeit: In den letzten Jahren setzt er sich aktiv für gesetzliche Regulierungen und KI-Sicherheitskontrollen (AI Safety) ein, um unbekannte Risiken für die Menschheit abzuwenden.

Quelle: The Guardian