KI-Sicherheit: Google DeepMind fördert Agentenforschung mit 10 Mio. Euro
12.06.2026 - 00:54:23 | boerse-global.de
Die Initiative soll Risiken durch vernetzte KI-Agenten erforschen – ein wachsendes Problem für die digitale Infrastruktur.
Google DeepMind hat gemeinsam mit Stiftungen und Forschungseinrichtungen ein zehn Millionen Euro schweres Förderprogramm für KI-Sicherheitsforschung aufgelegt. Die am 11. Juni gestartete Initiative zielt auf die Risiken ab, die entstehen, wenn immer mehr autonome KI-Agenten miteinander interagieren. Beteiligt sind neben DeepMind auch Schmidt Sciences, die britische Forschungsagentur ARIA, die Cooperative AI Foundation und Google.org.
Während die Forschung neue Sicherheitsstandards für autonome Agenten entwickelt, müssen Unternehmen bereits heute die rechtlichen Rahmenbedingungen der EU einhalten. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Systemische Gefahren im Blick
Bisher konzentrierte sich die KI-Sicherheitsforschung vor allem auf einzelne, isolierte Modelle. Das neue Programm stellt die Dynamik ganzer KI-Ökosysteme in den Mittelpunkt. Der Grund: Immer mehr autonome Agenten werden in gemeinsamen digitalen Umgebungen eingesetzt – sie verhandeln Transaktionen oder steuern Unternehmensabläufe. Forscher warnen vor „unsichtbaren" systemischen Risiken, wenn Millionen unabhängiger Systeme verschiedener Entwickler ohne zentrale Steuerung interagieren.
Rohin Shah, Direktor für AGI-Sicherheit bei Google DeepMind, sieht in der massenhaften Verbreitung interagierender Agenten ein erhebliches, bislang kaum verstandenes Risiko. Mögliche Gefahren: unvorhersehbare wirtschaftliche Aktivitätsschübe, kaskadenartige Sicherheitslücken und emergentes Verhalten, das herkömmliche Tests nicht erfassen.
Neue KI-Technologien bringen nicht nur systemische Risiken, sondern auch neue Angriffsflächen für Cyberkriminelle mit sich. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer im Zuge der neuen KI-Gesetze jetzt kennen müssen. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?
Forschungsschwerpunkte und Förderung
Das Programm stützt sich auf mehrere grundlegende Forschungsansätze. Dazu gehören DeepMinds Arbeiten zur „distributionalen AGI-Sicherheit", die untersuchen, wie hochleistungsfähige KI als koordiniertes Netzwerk spezialisierter Subsysteme entstehen könnte – statt als monolithisches System. Auch ARIA-Ansätze für vertrauenswürdige Vertragsmechanismen zwischen Agenten fließen ein.
Gesucht werden Vorschläge zu drei Schwerpunkten:
- Methoden zur Analyse emergenter kollektiver Dynamiken
- Infrastruktur für vertrauenswürdige Interaktion zwischen Agenten
- Skalierbare Ansätze zur Überwachung und Kontrolle komplexer KI-Netzwerke
Bewerbungsfrist und Förderhöhen
Der globale Aufruf richtet sich an akademische Forscher, unabhängige Sicherheitsexperten und gemeinnützige Forschungseinrichtungen. Die erste Bewerbungsphase läuft bis zum 8. August 2026. Die Förderung ist gestaffelt: In der ersten Stufe sind bis zu 300.000 Euro für ein- bis zweijährige Projekte möglich. Entscheidungen über die erste Runde werden für Herbst 2026 erwartet. Ausgewählte Forscher können zudem DeepMinds Forschungsinfrastruktur für Sicherheitsexperimente an Spitzenmodellen nutzen.
