Google, OpenAI et Anthropic négocient sur la sécurité de l'IA
OpenAI a confirmé que l'entreprise échange depuis plusieurs semaines avec ses concurrents Anthropic et Google DeepMind sur les questions de sécurité liées au développement de l'IA. C'est ce qu'a indiqué Chris Lehane, responsable des affaires politiques chez OpenAI, selon TechCrunch, ce mardi.
Selon des informations internes rapportées par le magazine The Information, ces discussions sont en cours depuis juillet. Il s'agirait apparemment de créer une organisation commune chargée de superviser les normes de sécurité pour les systèmes d'IA.
Le débat public a été déclenché par un essai publié samedi par Dario Amodei, PDG d'Anthropic, dans lequel il appelait à ralentir le rythme du développement de l'IA afin de mieux maîtriser les risques de sécurité. Auparavant, un employé d'Anthropic avait quitté l'entreprise et critiqué publiquement, selon heise, le manque d'attention portée aux aspects de sécurité.
Plusieurs PDG de l'IA, dont Sam Altman d'OpenAI et Demis Hassabis de Google, ont soutenu l'appel d'Amodei. Altman a annoncé, selon TechCrunch, qu'OpenAI souhaitait intégrer des auditeurs indépendants dans ses processus de sécurité.
Il reste à savoir, selon les rapports, si une telle collaboration violerait le droit de la concurrence. Amodei a proposé une exemption gouvernementale, mais Lehane a déclaré qu'une telle mesure n'était, selon lui, pas nécessaire.
Le gouvernement américain sous la présidence de Trump s'est montré sceptique face aux préoccupations en matière de sécurité, selon TechCrunch, et a averti qu'un ralentissement pourrait donner un avantage à la Chine. Selon heise, Meta serait également critique envers une autorité nationale de contrôle.
Il n'est pas encore clair si et quand l'organisation de sécurité prévue verra effectivement le jour, car plusieurs informations reposent sur des sources anonymes et les entreprises impliquées ne se sont que partiellement exprimées publiquement à ce sujet.
POURQUOI C'EST IMPORTANT
Cela montre comment les plus grandes entreprises d'IA gèrent elles-mêmes les risques de leurs technologies et si un contrôle indépendant pourrait émerger.
CE QUE VOUS POUVEZ FAIRE MAINTENANT
- Restez critique face aux actualités sur l'IA Comparez les rapports sur la sécurité de l'IA avec plusieurs sources fiables. Ainsi, vous saurez si une information est confirmée ou si elle repose sur des rumeurs.
- Vérifiez les audits indépendants Vérifiez si un fournisseur d'IA utilise des contrôleurs ou des organismes d'audit indépendants. Cela vous montre à quel point une entreprise prend réellement la sécurité au sérieux.
- Suivez les vraies réglementations, pas seulement les annonces Informe-vous auprès des autorités ou des médias sérieux sur les lois ou normes réellement adoptées pour l'IA. Ne vous fiez pas uniquement aux déclarations des entreprises.
- Utilisez les services d'IA de manière consciente et modérée Choisissez des fournisseurs qui communiquent ouvertement sur leurs mesures de sécurité. Avant de les utiliser, réfléchissez aux données que vous entrez et à la manière dont l'entreprise les traite.