Google, OpenAI un Anthropic sarunājas par KI drošību
OpenAI ir apstiprinājusi, ka uzņēmums kopš vairākām nedēļām ar konkurentiem Anthropic un Google DeepMind apsinājas par drošības jautājumiem KI attīstībā. To paziņoja OpenAI politiskais direktors Chris Lehane, atsaucoties uz TechCrunch ziņojumu, trešdienā.
Žurnāla The Information iekšējo avotu ziņojumu ziņā šī saruna notiek jau kopš jūlija. Tajā esot runa par kopīgas organizācijas izveidi, kas uzraudzītu drošības standartus KI sistēmām.
Publiskā diskusija tika izraisīta ar Anthropic vadītāja Dario Amodei eseju, kuru viņš publicēja svētdienā. Tajā viņš aicināja lēnināt KI attīstības tempu, lai varētu labāk sevī iekļaut drošības riskus. Pirms tam, pēc heise ziņojuma, viens Anthropic darbinieks atstāja uzņēmumu un publiski kritizēja, ka drošības aspekti tiek pievērsta par mazu uzmanību.
Vairāki KI vadītāji, tostarp Sam Altman no OpenAI un Demis Hassabis no Google, atbalstīja Amodei aicinājumu. Altman paziņoja, ka OpenAI plāno iekļaut neatkarīgas pētniecības grupas savos drošības procesos, atsaucoties uz TechCrunch.
Pēc ziņojumiem nav skaidrs, vai šāda sadarbība varētu pretrunot konkurences likumiem. Amodei ierosināja valsts izņēmuma noteikumu, bet Lehane izteica, ka, viņa priekšstatī, šāds nav nepieciešams.
ASV valdība prezidenta Trumpa laikā izteica skepsi par drošības bažām un brīdināja, ka lēnināšana varētu dot Ķīnai priekšrocību. Pēc heise ziņojuma arī Meta ir kritiski noskaņota pret nacionālo uzraudzības iestādi.
Nav zināms, vai un kad plānotā drošības organizācija tik un tiks izveidota, jo daži apgalvojumi balstīti uz anonīmiem avotiem, un iesaistīto uzņēmumu pusi līdz šim ir tikai daļēji publiski izteikusi.
KĀPĒC TAS IR SVARĪGI
Tas parāda, kā lielākās KI uzņēmumi pati risina savu tehnoloģiju riskus un vai varētu rasties neatkarīga kontrole.
KO VARI IZDARĪT TAGAD
- Esi kritisks pret KI ziņām Salīdzini ziņojumus par KI drošību ar vairākiem uzticamiem avotiem. Tad varēsi pārbaudit, vai ziņa ir patiesi apstiprināta vai balstīta tikai uz baumām.
- Pievērsi uzmanību neatkarīgai pārbaudei Pārbaudi, vai KI pakalpojuma sniedzējs izmanto neatkarīgas pārbaudes organizācijas vai kontrolejus. Tas parāda, cik nopietni uzņēmums pieņem drošību.
- Sekoj ļoti regulēšanai, nevis tikai paziņojumiem Informēies no iestādēm vai uzticamiem medijiem, kādi likumi vai standarti KI jomā tik un tiek pieņemti. Neatkarīgi no uzņēmumu paziņojumiem.
- Lieto KI pakalpojumus apzināti un ietaupīgi Izvēlies pakalpojuma sniedzējus, kas atklāti ziņo par saviem drošības pasākumiem. Pirms lietošanas, apdomā, kādas datus ievadi un kā uzņēmums ar tām rīkojas.