Google, OpenAI ja Anthropic läbiräägivad KI-ohutuse üle
OpenAI on kinnitanud, et ettevõte on viimaste nädalate jooksul vahetanud aramusid konkurentide Anthropic ja Google DeepMindiga KI-arenduse ohutusega seotud küsimustes. Sellest teatas OpenAI poliitika juhataja Chris Lehane TechCrunchi andmetel teisipäeval.
Ajakirja The Information siseallikate teatel on need kõnelused juba juulist pooleli. Väidetavalt on tegemist ühise organisatsiooni loomise ettevalmistamisega, mis peaks järele valvama KI-süsteemide ohutusstandarditele.
Avaliku debati käivitas Anthropic juhataja Dario Amodei laupäeval avaldatud esseega, kus ta nõudis KI-arenduse tempo aeglustamist, et ohutusriskidega paremini toime tulla. Varem oli heise andmetel üks Anthropic töötaja ettevõttest lahkunud ja avalikult kritiseerinud, et ohutusaspektidele ei pöörata piisavalt tähelepanu.
Mitmed KI-juhid, sealhulgas OpenAI Sam Altman ja Google’i Demis Hassabis, toetasid Amodei üleskutset. Altman teatas TechCrunchi andmetel, et OpenAI plaanib kaasata sõltumatuid kontrollööre oma ohutusprotsessidesse.
Küsimus, kas selline koostöö võib konkurentseadust rikkuda, on teadmata. Amodei pakkus selleks välja riikliku erandkorra, kuid Lehane selgitas, et tema arvates pole selline vaja.
USA valitsus president Trumpi juhtimisel avaldas TechCrunchi andmetel skeptilist suhtumist ohutusmurede suhtes ja hoiatas, et aeglustamine võiks Hiinale eelis anda. heise andmetel on ka Meta riikliku kontrollasutuse suhtes kriitiline.
Ebaselge on, kas ja millal plaanitud ohutusorganisatsioon tegelikult loodakse, sest mitmed teated põhinevad anonyymsetel allikatel ja osalevad ettevõtted on senini ainult osaliselt avalikult sellest rääkinud.
MIKS SE ON OLULINE
See näitab, kuidas suurimad KI-ettevõtted ise oma tehnoloogiate riskidega toime tulevad ja kas võib tekkida sõltumatu kontroll.
MIDA SA NÜÜD TEHA VÕID
- Ole KI-uudiste suhtes kriitiline Võrdle KI-ohutust puudutavaid teateid mitme usaldusväärse allikaga. Nii saad aru, kas teade on tõesti kinnitatud või põhineb lihtsalt kuulujuttudel.
- Tähelepanu sõltumatutele kontrollidele Kontrolli, kas KI-pakkuja kasutab sõltumatuid kontrollööre või kontrolliorganisatsioone. See näitab, kui tõsiselt ettevõte ohutusega tegeleb.
- Jälgi tegelikku regulatsiooni, mitte ainult teateid Informatsiooni saamiseks pöördu asutuste või usaldusväärsete meedia poole, millised seadused või standardid KI jaoks tegelikult vastu võetakse. Ära toetu ainult ettevõtete väidetel.
- Kasuta KI-teenuseid teadlikult ja hoidlikult Vali pakkujad, kes avatud viisil räägivad oma ohutusmeetmetest. Enne kasutamist mõtle, milliseid andmeid sisestad ja kuidas ettevõte neid kasutab.