Google, OpenAI und Anthropic verhandeln über KI-Sicherheit
OpenAI hat bestätigt, dass sich das Unternehmen seit mehreren Wochen mit den Konkurrenten Anthropic und Google DeepMind über Sicherheitsfragen bei der KI-Entwicklung austauscht. Das teilte OpenAI-Politikchef Chris Lehane laut TechCrunch am Dienstag mit.
Laut Insiderberichten des Magazins The Information laufen diese Gespräche bereits seit Juli. Dabei geht es angeblich um den Aufbau einer gemeinsamen Organisation, die Sicherheitsstandards für KI-Systeme überwachen soll.
Ausgelöst wurde die öffentliche Debatte durch ein Essay von Anthropic-Chef Dario Amodei am Samstag, in dem er forderte, das Tempo der KI-Entwicklung zu drosseln, um Sicherheitsrisiken besser einholen zu können. Zuvor hatte laut heise ein Anthropic-Mitarbeiter das Unternehmen verlassen und öffentlich kritisiert, Sicherheitsaspekte würden zu wenig beachtet.
Mehrere KI-Chefs, darunter Sam Altman von OpenAI und Demis Hassabis von Google, unterstützten Amodeis Aufruf. Altman kündigte laut TechCrunch an, dass OpenAI unabhängige Prüfer in seine Sicherheitsprozesse einbinden wolle.
Offen ist laut den Berichten, ob eine solche Zusammenarbeit gegen Wettbewerbsrecht verstoßen könnte. Amodei schlug dafür eine staatliche Ausnahmeregelung vor, Lehane erklärte jedoch, eine solche sei aus seiner Sicht nicht nötig.
Die US-Regierung unter Präsident Trump äußerte sich laut TechCrunch skeptisch gegenüber den Sicherheitsbedenken und warnte, eine Verlangsamung könnte China einen Vorteil verschaffen. Laut heise soll auch Meta einer nationalen Kontrollbehörde gegenüber kritisch eingestellt sein.
Unklar bleibt, ob und wann die geplante Sicherheitsorganisation tatsächlich entstehen wird, da mehrere Angaben auf anonymen Quellen beruhen und die beteiligten Firmen sich bislang nur teilweise öffentlich dazu geäußert haben.
WARUM DAS WICHTIG IST
Es zeigt, wie die größten KI-Firmen selbst mit den Risiken ihrer Technologien umgehen und ob eine unabhängige Kontrolle entstehen könnte.
WAS DU JETZT TUN KANNST
- Bleib kritisch bei KI-Nachrichten Vergleiche Berichte über KI-Sicherheit mit mehreren seriösen Quellen. So erkennst du, ob eine Meldung wirklich bestätigt ist oder nur auf Gerüchten beruht.
- Achte auf unabhängige Prüfungen Schau nach, ob ein KI-Anbieter unabhängige Kontrolleure oder Prüforganisationen einsetzt. Das zeigt dir, wie ernst ein Unternehmen Sicherheit tatsächlich nimmt.
- Verfolge echte Regulierung, nicht nur Ankündigungen Informiere dich bei Behörden oder seriösen Medien, welche Gesetze oder Standards für KI wirklich beschlossen werden. Verlass dich nicht allein auf Aussagen der Firmen.
- Nutze KI-Dienste bewusst und sparsam Wähle Anbieter, die offen über ihre Sicherheitsmaßnahmen berichten. Überlege vor der Nutzung, welche Daten du eingibst und wie das Unternehmen damit umgeht.