Google, OpenAI и Anthropic преговарят за сигурност на ИИ
OpenAI потвърди, че от няколко седмици обменя информация за въпроси на сигурността при разработването на ИИ с конкурентите си Anthropic и Google DeepMind. Това беше съобщено от политическия директор на OpenAI Крис Лейн, според TechCrunch, във вторник.
Съгласно информация от списание The Information, тези разговори се провеждат още от юли. Очаква се да се създаде обща организация, която да надзира стандартите за сигурност на ИИ-системите.
Публичната дебат беше предизвикана от есе на Dario Amodei, изпълнителен директор на Anthropic, публикувано в събота, в което той призова за забавяне темпото на разработване на ИИ, за да могат да бъдат настигнати рисковете за сигурност. Преди това, според heise, един служител на Anthropic напусна компанията и публично критикува, че въпросите за сигурност не се отчитат достатъчно.
Няколко ръководители на ИИ-компании, сред които Sam Altman от OpenAI и Demis Hassabis от Google, подкрепиха призива на Amodei. Altman обяви, според TechCrunch, че OpenAI ще включи независими ревизори в своите процеси за сигурност.
Не е ясно от докладите дали такава съвместна работа би нарушила законите за конкуренция. Amodei предложи държавно изключение за това, но Лейн обясни, че според него това не е необходимо.
Администрацията на президента Trump изрази скептицизъм към сигурностните притеснения, според TechCrunch, и предупреди, че забавянето може да даде предимство на Китай. Според heise, Meta също е критично настроена към националните контролиращи органи.
Не е ясно дали и кога планираната организация за сигурност ще бъде създадена, тъй като много от твърденията се базират на анонимни източници и شرکتните участващи в тях досега са се изразили само частично публично.
ЗАЩО Е ВАЖНО
Това показва как най-големите компании за ИИ се справят със собствените рискове на своите технологии и дали може да възникне независим контрол.
ЧЕ МОЖЕШ ДА НАПРАВИШ СЕГА
- Бъди критичен към новините за ИИ Сравнявай доклади за сигурността на ИИ с няколко надеждни източника. Така ще разбереш дали една новина е потвърдена или се базира само на слухове.
- Обърни внимание на независими проверки Проверели дали доставчикът на ИИ използва независими контролори или ревизорски организации. Това ще ти покаже колко сериозно компанията взима сигурността.
- Следи истинското регулиране, а не само обявите Информирай се от държавни институции или надеждни медии за приетите закони или стандарти за ИИ. Не се разчитай само на твърденията на компаниите.
- Използвай ИИ-услуги съзнателно и пестеливо Избери доставчици, които открито съобщават за своите мерки за сигурност. Помисли преди използване какви данни въвеждаш и как компанията ги използва.