Google, OpenAI та Anthropic ведуть переговори щодо безпеки ШІ
OpenAI підтвердила, що компанія вже кілька тижнів обмінюється думками з конкурентами — Anthropic і Google DeepMind — щодо питань безпеки під час розробки ШІ. Про це повідомив керівник політичного відділу OpenAI Кріс Ліхейн, як передає TechCrunch, у вівторок.
Згідно з даними видання The Information, ці переговори тривають ще з липня. Мова йде про створення спільної організації, яка мала б наглядати за дотриманням стандартів безпеки для систем ШІ.
Публічну дискусію розпочав есе CEO Anthropic Даріо Амодеї, опубліковане в суботу. У ньому він закликав уповільнити розвиток ШІ, щоб краще впоратися з ризиками безпеки. Раніше, за даними heise, один зі співробітників Anthropic пішов з компанії та публічно критикував її за недостатню увагу до питань безпеки.
До заклику Амодеї приєдналися інші керівники галузі, зокрема Сем Альтман з OpenAI та Деміс Хассабіс з Google. Альтман оголосив, що OpenAI планує залучити незалежних аудиторів до своїх процесів безпеки, повідомляє TechCrunch.
Наразі незрозуміло, чи може така співпраця порушувати антимонопольне законодавство. Амодеї запропонував для цього державне виняткове регулювання, однак Ліхейн зазначив, що, на його думку, це не потрібно.
Уряд США на чолі з президентом Трампом, за даними TechCrunch, скептично ставиться до занепокоєння щодо безпеки ШІ та попереджає, що уповільнення розвитку може дати перевагу Китаю. За даними heise, критично до національного органу контролю ставиться також Meta.
Поки що невідомо, чи і коли запланована організація з безпеки дійсно з’явиться, адже багато повідомлень ґрунтуються на анонімних джерелах, а залучені компанії поки що лише частково коментують цю тему.
ЧОМУ ЦЕ ВАЖЛИВО
Це показує, як найбільші компанії ШІ самі впораються з ризиками своїх технологій і чи може виникнути незалежний контроль.
ЩО ВИ МОЖЕТЕ ЗРОБИТИ ЗАРАЗ
- Будь критичним до новин про ШІ Порівнюй повідомлення про безпеку ШІ з кількома надійними джерелами. Так ти зможеш зрозуміти, чи підтверджена інформація чи ґрунтується лише на чутках.
- Звертай увагу на незалежні перевірки Дізнавайся, чи залучає постачальник послуг ШІ незалежних аудиторів чи організацій для перевірки. Це допоможе зрозуміти, наскільки серйозно компанія ставиться до безпеки.
- Слідкуй за справжнім регулюванням, а не лише за анонсами Отримуй інформацію про прийняті закони чи стандарти для ШІ від державних органів або надійних ЗМІ. Не покладайся лише на заяви компаній.
- Користуйся послугами ШІ свідомо та обережно Обирай постачальників, які відкрито розповідають про свої заходи безпеки. Перед використанням подумай, які дані ти вводиш і як компанія ними користується.