Google, OpenAI ir Anthropic derėjasi dėl dirbtinio intelekto saugumo
OpenAI patvirtino, kad pastarąsias savaites bendradarbiauja su konkurentais Anthropic ir Google DeepMind, siekdama aptarti KI plėtros saugumo klausimus. Tai pranešė OpenAI politikos vadovas Chris Lehane, remdamasis TechCrunch duomenimis, antradienį.
Žurnalo The Information šaltinių teigimu, šie pokalbiai vyksta nuo liepos mėnesio. Jų metu, kaip spėjama, siekiama įsteigti bendrą organizaciją, kuri prižiūrėtų saugumo standartus KI sistemoms.
Viešą diskusiją sukėlė Anthropic vadovo Dario Amodei eseja, paskelbta šeštadienį, kurioje jis ragino sulėtinti KI plėtros tempą, norint geriau įveikti saugumo rizikas. Anksčiau, kaip praneša heise, vienas Anthropic darbuotojas paliko įmonę ir viešai kritikavo, kad saugumo aspektai yra per mažai vertinami.
Amodei kvietimą parėmė keli KI vadovai, įskaitant Sam Altman iš OpenAI ir Demis Hassabis iš Google. Altman, remdamasis TechCrunch duomenimis, paskelbė, kad OpenAI ketina įtraukti nepriklausomus tikrintojus į savo saugumo procesus.
Nėra aišku, ar toks bendradarbiavimas negalėtų pažeisti konkurentinės teisės. Amodei pasiūlė valstybinį išimties nuostatą, tačiau Lehane teigė, kad, jo nuomone, to nereikėtų.
JAV vyriausybė, vadovaujama prezidento Trump, remdamasi TechCrunch duomenimis, skeptiškai vertina saugumo nerimų klausimus ir įspėja, kad lėtesnis plėtros tempas gali suteikti pranašumą Kinijai. heise pranešimu, Meta taip pat kritiškai žiūri į nacionalinį kontroliuojančią instituciją.
Nėra aišku, ar ir kada numatyta saugumo organizacija iš tiesų bus įsteigta, nes kai kurie pranešimai remiasi anoniminiu šaltiniu duomenimis, o dalyvaujančios įmonės kol kas tik dalinai viešai pasisakė.
KODĖL TAI SVARBU
Tai rodo, kaip didžiausios KI įmonės patys tvarko savo technologijų rizikas ir ar gali atsirasti nepriklausomas kontrolės mechanizmas.
KĄ DABAR GALI PADARYTI
- Būk kritiškas su KI naujienomis Palygink KI saugumo pranešimus su keliomis patikimomis šaltiniais. Taip sužinosi, ar pranešimas yra patvirtintas ar tik gandai.
- Dėmesio nepriklausomoms tikrinimams Patikrink, ar KI teikėjas naudojasi nepriklausomais tikrintojais ar tikrinimo organizacijomis. Tai parodys, kaip rimtai įmonė vertina saugumą.
- Sek tikrąs reguliavimo priemones, o ne tik pranešimus Sužinok iš institucijų ar patikimų medijų, kokios įstatymų ar standartų KI srityje yra priimtos. Nesitiki tik įmonių pareiškimų.
- Naudok KI paslaugas sąmoningai ir apdairiai Pasirink teikėjus, kurie atvirai praneša apie savo saugumo priemones. Prieš naudojimą, apgalvok, kokius duomenis įvesi ir kaip su jais elgsis įmonė.