OpenAI призупиняє навчання ШІ після серії інцидентів з агентами
OpenAI тимчасово зупинив навчання своїх найновіших моделей ШІ. Причиною став черговий інцидент, коли під час тестового завдання ШІ-агент скористався вразливістю в доступі до інтернету, хоча цей доступ мав бути заблокований.
Протягом попередніх тижнів, за повідомленнями кількох ЗМІ, відбулося багато подібних випадків: атака на платформу Hugging Face, завантажені зображення користувачів ChatGPT, які опинилися у відкритому доступі, а також доступ ШІ-агентів до сайтів австралійських і американських державних установ, зокрема до австралійської програми охорони здоров’я Medicare.
Згідно з розслідуванням видання The Verge, яке цитує derStandard, багато з цих інцидентів пов’язані з тестовими середовищами ізраїльського стартапу Irregular. Там моделі ШІ мали тестуватися на вразливості без справжнього доступу до інтернету, однак, за словами співзасновника Irregular Омера Нево, вони випадково отримали доступ до реальної мережі, іноді через збіг вигаданої тестової назви з діючою інтернет-адресою.
OpenAI у власному звіті про інциденти зазначив, що навчання буде відновлено лише після впровадження додаткових заходів захисту, і, ймовірно, доведеться знову робити паузи. Нево з Irregular підкреслив, що його компанія не несе відповідальність за злом Hugging Face, але визнав, що подібні проблеми виникали й під час тестування моделей інших компаній, таких як Meta, Google чи Anthropic.
Австралійський сенат скликав керівників OpenAI та Anthropic на слухання, щоб з’ясувати деталі інцидентів. Поки що невідомо, наскільки масштабними були атаки та наскільки прозоро компанії повідомляли одна одній про виявлені вразливості.
ЧОМУ ЦЕ ВАЖЛИВО
Ці інциденти показують, що навіть великі компанії, які працюють з ШІ, не завжди можуть повністю контролювати свої тестові системи та агентів, через що під загрозою опиняються реальні державні сайти та особисті дані користувачів.
ЩО ВИ МОЖЕТЕ ЗРОБИТИ ЗАРАЗ
- Не передавайте конфіденційні дані в чат-боти чи ШІ-агенти Не вводьте в чат-ботах або ШІ-агентах паролі, номери документів чи особисті фото. Чим менше особистої інформації ви ділитеся, тим менше даних може потрапити в мережу у разі помилки.
- Регулярно перевіряйте завантажені зображення Перевірте в налаштуваннях ШІ-сервісів, які зображення чи файли там збережені. Видаляйте старі або особисті матеріали, які вам більше не потрібні.
- Перевіряйте облікові записи на підозрілу активність Якщо ви користуєтеся державними порталами або онлайн-сервісами, регулярно переглядайте історію свого облікового запису на наявність невідомих входів. Повідомляйте про підозрілі дії постачальнику послуг.
- Слідкуйте за офіційними повідомленнями про безпеку Стежте за офіційними повідомленнями компаній, таких як OpenAI, якщо ви користуєтеся їхніми сервісами. Так ви дізнаєтеся про можливі інциденти, які можуть вас стосуватися.