Google, OpenAI и Anthropic ведут переговоры о безопасности ИИ
OpenAI подтвердила, что с июля ведет переговоры с конкурентами — Anthropic и Google DeepMind — по вопросам безопасности в разработке ИИ. Об этом сообщил глава отдела политики OpenAI Крис Лихейн, как передает TechCrunch.
По данным источника журнала The Information, эти переговоры начались еще в июле. Речь идет о создании совместной организации, которая будет следить за соблюдением стандартов безопасности для систем ИИ.
Публичная дискуссия началась после эссе генерального директора Anthropic Дарио Амодеи, опубликованного в субботу. В нем он призвал замедлить темпы развития ИИ, чтобы лучше справляться с рисками безопасности. Ранее, как сообщает heise, один из сотрудников Anthropic уволился и публично раскритиковал компанию за недостаточное внимание к вопросам безопасности.
К призыву Амодеи присоединились несколько руководителей компаний, работающих с ИИ, включая Сэма Олтмена из OpenAI и Демиса Хассабиса из Google. Олтмен объявил, что OpenAI планирует привлечь независимых аудиторов для проверки своих процессов безопасности, как передает TechCrunch.
Пока неясно, не нарушает ли такое сотрудничество антимонопольное законодательство. Амодеи предложил ввести государственное исключение, но Лихейн заявил, что, по его мнению, это не требуется.
Администрация США при президенте Трампе отнеслась скептически к озабоченности по поводу безопасности ИИ и предупредила, что замедление может дать преимущество Китаю. Как сообщает heise, Meta также критически относится к идее национального регулирующего органа.
Неизвестно, будет ли создана запланированная организация по безопасности, так как часть информации основана на анонимных источниках, а компании пока не дают полных официальных комментариев.
ПОЧЕМУ ЭТО ВАЖНО
Это показывает, как крупнейшие компании в сфере ИИ справляются с рисками своих технологий и может ли появиться независимый контроль.
ЧТО ДЕЛАТЬ СЕЙЧАС
- Оставайтесь критичными к новостям об ИИ Сравнивайте сообщения о безопасности ИИ из нескольких надежных источников. Так вы поймете, подтверждена ли информация или основана на слухах.
- Обращайте внимание на независимые проверки Узнайте, привлекает ли поставщик ИИ независимых аудиторов или проверяющие организации. Это покажет, насколько серьезно компания относится к безопасности.
- Следите за реальным регулированием, а не за анонсами Уточняйте у госорганов или в надежных СМИ, какие законы или стандарты для ИИ действительно приняты. Не полагайтесь только на заявления компаний.
- Используйте ИИ-сервисы осознанно и экономно Выбирайте поставщиков, которые открыто рассказывают о своих мерах безопасности. Перед использованием подумайте, какие данные вы вводите и как компания с ними обращается.