Von der Leyen plant Frontier-KI-Regulierung: Entwicklerlabore zu Gesprächen
Veröffentlicht am: 16.09.2026 um 23:12 Uhr | Redaktion boerse-global.de
Die Europäische Kommission will die Entwicklung hochentwickelter künstlicher Intelligenz stärker regulieren und kontrollieren. Wie EU-Kommissionspräsidentin Ursula von der Leyen in Straßburg ankündigte, plant die Brüsseler Behörde, führende Entwicklerlabore für sogenannte Frontier-KI zu gemeinsamen Beratungen einzuladen.
Im Zentrum der Gespräche sollen der Umgang mit systemischen KI-Risiken sowie eine mögliche Verlangsamung der rasanten Modellentwicklung stehen. Parallel dazu erwägt die Europäische Union verschärfte Vorgaben und weitreichende Offenlegungspflichten für KI-gestützte Chatbots.
In ihrer 73-minütigen Rede zur Lage der Union stufte von der Leyen die Technologie als einen der zwei entscheidenden Wendepunkte der Gegenwart ein. Sie verwies dabei auf das bestehende europäische KI-Gesetz als rechtlichen Rahmen, um globale Risiken einzudämmen.
Von der Leyen sprach sich für eine engere internationale Zusammenarbeit bei der Überprüfung und Bewertung von Frontier-Modellen aus und richtete entsprechende Einladungen an das Vereinigte Königreich und Kanada, während die USA und China unerwähnt blieben.
Für November stellte die Kommission Pläne vor, die den KI-Einsatz gezielt in fünf Schlüsselbereichen forcieren sollen: Gesundheit, Verkehr, Landwirtschaft und Lebensmittelproduktion, Fertigung sowie Verteidigung und Raumfahrt.
Sorge vor Kontrollverlust und Debatte um Kooperation
Als Anlass für die verschärfte Gangart nannte von der Leyen einen Vorfall aus dem Sommer 2026, bei dem von OpenAI gestützte Agenten ein anderes KI-Unternehmen gehackt hatten. Vor diesem Hintergrund warnte sie vor den Gefahren einer selbstrekursiven Systemverbesserung, bei der KI-Modelle sich ohne menschliche Kontrolle selbst weiterentwickeln.
Wer sich mit den neuen rechtlichen Rahmenbedingungen für künstliche Intelligenz befasst, benötigt einen klaren Überblick über die geltenden Vorschriften. Dieser kostenlose Download verschafft Ihnen die Orientierung, die Ihre Rechts- und IT-Abteilung jetzt für die Umsetzung des EU AI Acts braucht. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Innerhalb der EU-Kommission zeichnet sich zugleich eine Diskussion über Ausnahmen für Branchenabsprachen ab. EU-Wettbewerbskommissarin Teresa Ribera stellte in Straßburg in Aussicht, KI-Entwicklern mehr Spielraum für sicherheitsbezogene Absprachen einzuräumen, sofern ein formeller Antrag vorliege.
Ein solches Ersuchen sei bislang jedoch nicht eingegangen. Von Seiten der US-Aufsichtsbehörde FTC warnte deren Chef Ferguson hingegen davor, dass kartellrechtliche Ausnahmen als Markteintrittsbarrieren für neue Wettbewerber missbraucht werden könnten.
Aus der Industrie selbst kommen gemischte Signale. Am vergangenen Samstag hatte Anthropic-Chef Dario Amodei verbindliche Sicherheitsstandards sowie Grenzen gegen unkontrollierten Fortschritt eingefordert.
Unterstützung erhielt er dabei von Spitzenmanagern der Branche, darunter Sam Altman von OpenAI, Elon Musk von xAI, Demis Hassabis von Google DeepMind sowie Satya Nadella von Microsoft. Gleichzeitig trat der Anthropic-Forscher Jacob Coxon zurück und warf seinem bisherigen Arbeitgeber sowie OpenAI vor, unverantwortlich auf eine selbstverbessernde Superintelligenz hinzuarbeiten.
Die rasante Entwicklung der Künstlichen Intelligenz stellt nicht nur Entwickler, sondern auch Anwender in der Verwaltung vor neue Herausforderungen. Ein kostenloser Leitfaden inklusive Selbsttest unterstützt Führungskräfte dabei, KI-gestützte Entscheidungen rechtssicher und verantwortungsvoll zu treffen. So nutzen Verwaltungen KI 2026, ohne Rechtsstaatlichkeit zu gefährden
Umfassender Schutz von Minderjährigen geplant
Flankierend zu den Gesprächen mit Entwicklern bereitet die EU-Kommission eine deutliche Verschärfung des Nutzerschutzes vor. Über den geplanten EU Kids Act, dessen Vorstellung durch von der Leyen und Technologiekommissarin Henna Virkkunen für den 17. September 2026 vorgesehen ist, soll der Zugang zu KI-Chatbots, sozialen Medien, Videoplattformen und Online-Spielen für unter 15-Jährige verboten oder streng limitiert werden.
Vorgesehen sind gestaffelte Zugangsregeln mit Altersverifikation: Für 13- und 14-Jährige sollen zeitlich auf maximal eine Stunde pro Tag begrenzte Konten unter elterlicher Aufsicht gelten, für Kindern zwischen drei und zwölf Jahren ausschließlich elternkontrollierte Zugänge, während unter Dreijährige gänzlich ausgeschlossen werden sollen.
Die Pläne sehen zudem ein Verbot suchtfördernder Mechanismen wie unendlichem Scrollen vor. Bei Verstößen drohen Unternehmen Geldbußen von bis zu 6 Prozent ihres weltweiten Jahresumsatzes.
Zur Begründung verweist die Behörde auf Eurobarometer-Daten, nach denen EU-Teenager an Schultagen durchschnittlich 4,5 Stunden online verbringen; zudem fordern 21 Elternverbände eine Anhebung der Altersgrenze auf 16 Jahre. Die 27 Mitgliedstaaten müssen dem Entwurf noch zustimmen. Für den Herbst kündigte die Kommission überdies einen Digital Fairness Act an.
