Americký soud potvrdil klasifikaci společnosti Anthropic jako bezpečnostního rizika Pentagonem
Odvolací soud ve Washingtonu D.C. rozhodl, že ministerstvo obrany USA mělo právo klasifikovat společnost Anthropic, která vyvíjí umělou inteligenci, jako „riziko v dodavatelském řetězci“. Rozhodnutí padlo poměrem hlasů dva ku jedné ve prospěch vlády.
Spory vyvolalo to, že Anthropic odmítl poskytnout Pentagonu neomezený přístup ke svému modelu KI Claude. Společnost chtěla smluvně vyloučit, aby její technologie nebyla využívána k hromadnému sledování amerických občanů nebo pro autonomní zbraně.
Pentagon tyto podmínky odmítl a nařídil, aby federální úřady přestaly používat technologie od Anthropic. Podle soudních dokumentů začala ministerstva v březnu odstraňovat systémy KI.
Soudci podle serveru Ars Technica uvedli, že je „velmi znepokojivé“, pokud by příliš omezené modely KI nečekaně selhaly a ohrozily tak důležité vojenské operace. Anthropic naopak argumentoval, že neomezené modely by mohly nesprávně identifikovat cíle pro smrtící násilí.
Mluvčí společnosti Anthropic řekl serveru CNBC, že s verdiktem nesouhlasí a zvažuje všechny možnosti, včetně další právní přezkumu. Jiný federální soud v Kalifornii v srpnu označil podobnou klasifikaci za nezákonnou.
Protože vláda USA použila dva různé právní základy pro klasifikaci, musela se věc projednávat u dvou různých soudů. Jak to bude pokračovat, není jasné: Anthropic může požádat o nové projednání nebo případ předložit Nejvyššímu soudu.
PROČ JE TO DŮLEŽITÉ
Případ ukazuje, jak mohou vlády tlačit společnosti vyvíjející KI, aby jim poskytly neomezený přístup ke své technologii, i když to může představovat riziko pro sledování občanů a autonomní zbraně.
CO MŮŽETE UDĚLAT NYNÍ
- Sledujte důvěryhodné zdroje zpráv o rozhodnutích vlád týkajících se využívání KI. Tak zjistíte včas, pokud se mění pravidla pro sledování nebo zbraně.
- Zpochybňujte využívání KI veřejnými institucemi Pokud státní orgány používají systémy KI, informujte se, k čemu přesně a s jakými omezeními. Organizace na ochranu občanských práv často zveřejňují relevantní informace.
- Podporujte požadavky na transparentnost Zasazte se o jasná zákonná pravidla, která stanoví, jak smí být KI využívána v armádě nebo při sledování. Můžete to udělat prostřednictvím petice nebo politického zapojení.
- Kontrolujte ochranu dat u využíváných služeb KI Čtěte podmínky používání aplikací KI, které sami využíváte, zejména ohledně předávání dat úřadům. Tak budete vědět, která data jsou chráněna.