Google, OpenAI a Anthropic jedná o bezpečnosti KI
Společnost OpenAI potvrdila, že se již několik týdnů tajně schází se svými konkurenty, firmami Anthropic a Google DeepMind, aby diskutovala o bezpečnostních otázkách spojených s vývojem umělé inteligence. Podle serveru TechCrunch to v úterý oznámil politický ředitel OpenAI Chris Lehane.
Podle interních informací časopisu The Information tyto rozhovory probíhají již od července. Údajně jde o založení společné organizace, která by měla dohlížet na dodržování bezpečnostních standardů u systémů umělé inteligence.
Veřejnou debatu odstartoval článek šéfa společnosti Anthropic, Dario Amodeiho, který v sobotu vyzval k zpomalení tempa vývoje KI, aby bylo možné lépe zvládnout bezpečnostní rizika. Podle serveru heise opustil dříve jeden zaměstnanec Anthropic společnost a veřejně kritizoval, že se bezpečnostním aspektům nevěnuje dostatečná pozornost.
Výzvu Amodeiho podpořilo několik šéfů KI firem, včetně Sama Altmana z OpenAI a Demise Hassabise z Google. Altman podle TechCrunch oznámil, že OpenAI chce zapojit nezávislé auditory do svých bezpečnostních procesů.
Podle zpráv není jasné, zda by taková spolupráce mohla porušovat soutěžní právo. Amodei navrhl státní výjimku, Lehane však prohlásil, že podle něj není nutná.
Americká vláda pod vedením prezidenta Trumpa se podle TechCrunch k bezpečnostním obavám postavila skepticky a varovala, že zpomalení by mohlo dát Číně konkurenční výhodu. Podle serveru heise je také společnost Meta kritická vůči národnímu regulačnímu orgánu.
Není jasné, zda a kdy plánovaná bezpečnostní organizace skutečně vznikne, protože mnoho informací pochází z anonymních zdrojů a zapojené společnosti se k tomu zatím jen částečně veřejně vyjádřily.
PROČ JE TO DŮLEŽITÉ
Ukazuje, jak největší společnosti v oblasti KI samy řeší rizika svých technologií a zda by mohla vzniknout nezávislá kontrola.
CO MŮŽETE UDĚLAT NYNÍ
- Buďte kritičtí k zprávám o KI Porovnávejte zprávy o bezpečnosti KI z několika důvěryhodných zdrojů. Tak zjistíte, zda je zpráva skutečně potvrzena, nebo jde jen o pověsti.
- Dávejte pozor na nezávislé kontroly Zjistěte, zda poskytovatel KI využívá nezávislé kontrolory nebo auditorské organizace. To vám ukáže, jak vážně společnost bezpečnost skutečně bere.
- Sledujte skutečnou regulaci, ne jen oznámení Informujte se u úřadů nebo důvěryhodných médií, která nařízení nebo standardy pro KI byly skutečně schváleny. Nespoléhejte se pouze na tvrzení firem.
- Používejte služby KI uvědoměle a střídmě Vyberte si poskytovatele, kteří otevřeně informují o svých bezpečnostních opatřeních. Před použitím zvažte, jaká data zadáváte a jak s nimi společnost nakládá.