Google, OpenAI en Anthropic onderhandelen over KI-veiligheid
OpenAI heeft bevestigd dat het bedrijf al wekenlang in gesprek is met concurrenten Anthropic en Google DeepMind over veiligheidskwesties bij de ontwikkeling van KI. Dat deelde OpenAI-beleidsdirecteur Chris Lehane volgens TechCrunch op dinsdag mee.
Volgens ingewijden van het tijdschrift The Information lopen deze gesprekken al sinds juli. Hierbij zou het gaan om de oprichting van een gezamenlijke organisatie die veiligheidsnormen voor KI-systemen moet toezien.
De publieke discussie werd op gang gebracht door een essay van Anthropic-CEO Dario Amodei op zaterdag, waarin hij oproept het tempo van de KI-ontwikkeling te vertragen om veiligheidsrisico's beter in te kunnen halen. Eerder had volgens heise een medewerker van Anthropic het bedrijf verlaten en openlijk kritiek geuit dat er te weinig aandacht was voor veiligheidsaspecten.
Meerdere KI-topmensen, waaronder Sam Altman van OpenAI en Demis Hassabis van Google, steunden Amodei’s oproep. Altman kondigde volgens TechCrunch aan dat OpenAI onafhankelijke toezichthouders in zijn veiligheidsprocessen wil betrekken.
Onduidelijk is volgens de berichten of een dergelijke samenwerking in strijd zou zijn met mededingingsrecht. Amodei stelde voor om hiervoor een staatsuitzondering te regelen, maar Lehane zei dat dit naar zijn mening niet nodig is.
De Amerikaanse regering onder president Trump uitte zich volgens TechCrunch sceptisch over de veiligheidszorgen en waarschuwde dat een vertraging China een voordeel zou kunnen geven. Volgens heise staat ook Meta kritisch tegenover een nationale toezichthouder.
Het is nog onduidelijk of en wanneer de geplande veiligheidsorganisatie daadwerkelijk zal ontstaan, omdat verschillende informatie gebaseerd is op anonieme bronnen en de betrokken bedrijven zich tot nu toe slechts gedeeltelijk openlijk hebben uitgelaten.
WAAROM DIT BELANGRIJK IS
Het laat zien hoe de grootste KI-bedrijven zelf omgaan met de risico's van hun technologieën en of er onafhankelijke controle kan ontstaan.
WAT JE NU KUNT DOEN
- Blijf kritisch bij KI-nieuws Vergelijk berichten over KI-veiligheid met meerdere betrouwbare bronnen. Zo zie je of een melding echt bevestigd is of alleen op geruchten berust.
- Let op onafhankelijke controles Kijk na of een KI-aanbieder onafhankelijke toezichthouders of controleorganisaties inzet. Dat laat zien hoe serieus een bedrijf veiligheid neemt.
- Volg echte regulering, niet alleen aankondigingen Informeer je bij overheden of betrouwbare media welke wetten of normen voor KI echt zijn aangenomen. Vertrouw niet alleen op uitspraken van bedrijven.
- Gebruik KI-diensten bewust en zuinig Kies aanbieders die open zijn over hun veiligheidsmaatregelen. Denk na over welke gegevens je invoert en hoe het bedrijf daarmee omgaat.