Google Gemini: Neues Design setzt auf Sicherheit und psychische Gesundheit

Google hat seine KI-Chatbots Gemini und Gemini Live grundlegend neu gestaltet. Im Zentrum der Überarbeitung stehen neue Sicherheitsfunktionen und ein klarer Fokus auf den Schutz der Nutzer. Das Update reagiert auf wachsende Kritik an den psychologischen Auswirkungen von KI und rechtliche Herausforderungen.

Ein Interface, das helfen soll

Das Kernstück des Updates vom 7. April ist ein direkt in die Oberfläche integriertes „Hilfe ist verfügbar“-Modul. Erkennt die KI Anzeichen für eine psychische Krise oder Selbstgefährdung in der Nutzersprache, bietet sie mit einem Klick Verbindungen zu weltweiten Krisenhotlines an. Das Ziel: Hindernisse beim Hilfesuchen in digitalen Momenten abbauen. Auch der Sprachmodus Gemini Live wurde mit neuen Protokollen ausgestattet, die bei sensiblen Themen von Konversation auf unterstützende Ressourcenlenkung umschalten.

Während KI-Anbieter wie Google ihre Sicherheitsfunktionen stetig ausbauen, müssen Unternehmen auch die gesetzlichen Leitplanken im Blick behalten. Dieser kostenlose Leitfaden zum EU AI Act hilft Ihnen, die neuen regulatorischen Anforderungen und Risikoklassen von KI-Systemen besser zu verstehen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

Gleichzeitig macht Google die Nutzungslimits transparenter. In der neuen Oberfläche sind die täglichen Anfragen-Limits der Abo-Modelle klar ausgewiesen: Die kostenlose Version erlaubt fünf, das AI Pro-Abo für 20 US-Dollar 100 und die High-End-Variante AI Ultra für 250 US-Dollar 500 Prompts pro Tag.

Eine direkte Antwort auf rechtlichen Druck

Der Zeitpunkt des Updates ist kein Zufall. Es wird als direkte Reaktion auf eine Klage vom Oktober 2025 gewertet, die Gemini eine Mitschuld am Suizid eines Nutzers gab. Google folgt damit anderen KI-Firmen wie OpenAI, die sich mit ähnlichen Klagen konfrontiert sehen.

Unterstützt wird die technische Neugestaltung durch eine 30-Millionen-Dollar-Initiative von Google.org. Das Geld soll in den nächsten drei Jahren globale Krisenhotlines stärken. Weitere vier Millionen Dollar fließen in eine Partnerschaft mit ReflexAI, einer Organisation, die Technologie für besseres Krisentraining nutzt. Experten sehen in dem Schritt eine notwendige Evolution hin zu einer „Fürsorgepflicht“ für KI-Entwickler.

Zwei Wege: Öffentliche Sicherheit vs. strikte Containment

Während Google seine Modelle sicherer und integrierter für die breite Masse macht, gehen andere Anbieter einen gegensätzlichen Weg. Am selben Tag wie Googles Update kündigte Anthropic an, sein leistungsstärkstes neues Modell „Claude Mythos Preview“ nicht für die Öffentlichkeit freizugeben. Grund sind beispiellose Fähigkeiten, Software-Schwachstellen zu finden und Sicherheitsbarrieren zu umgehen.

Neue technologische Möglichkeiten bringen oft auch neue Risiken für die Unternehmenssicherheit mit sich. Erfahren Sie in diesem kostenlosen Report, welche rechtlichen Pflichten und Bedrohungen durch KI-Gesetze und moderne Cyberrisiken jetzt auf Sie zukommen. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?

Stattdessen wird das Modell im Rahmen des Cybersecurity-„Project Glasswing“ nur ausgewählten Partnern wie Apple, Amazon und Microsoft zugänglich gemacht. Hier zeigt sich der strategische Gegensatz: Googles „sichere öffentliche Integration“ gegen Anthropics „Containment“-Strategie für Hochleistungs-KI.

Parallel expandiert OpenAI in andere Nutzungskontexte und brachte am 7. April eine sprachbasierte ChatGPT-Erfahrung für Apple CarPlay auf den Markt. Die Prioritäten der großen KI-Player divergieren also deutlich.

Die Infrastruktur im Hintergrund und die Zukunft

Hinter den Kulissen sichert sich Google gleichzeitig die Infrastruktur für die nächste KI-Generation. Berichten zufolge hat Anthropic einen Großdeal mit Google und Broadcom über etwa 3,5 Gigawatt TPU-Rechenleistung ab 2027 abgeschlossen. Google positioniert sich damit auch als zentraler Infrastruktur-Anbieter.

Die Zukunft der Gemini-Oberfläche soll „agentische“ Fähigkeiten umfassen – KI, die proaktiv für den Nutzer handelt. Das aktuelle Sicherheits-Update legt jedoch das Fundament, bevor solche autonomen Features ausgebaut werden. Die Branche erwartet eine weiter wachsende Zusammenarbeit zwischen Google, OpenAI und Anthropic, um Modelle vor Missbrauch zu schützen. Googles Redesign ist nur der sichtbare Teil dieser größeren Sicherheitsbemühungen.

de | boerse | 69102682 |