Amerikaanse rechtbank bevestigt indeling van Anthropic als veiligheidsrisico door Pentagon
Een beroepsrechtbank in Washington D.C. heeft besloten dat het Amerikaanse ministerie van Defensie het KI-bedrijf Anthropic terecht als „risico in de toeleveringsketen“ mocht indelen. Met twee stemmen tegen één gaven de rechters de Amerikaanse overheid gelijk.
Aanleiding voor het conflict was dat Anthropic weigerde het Pentagon onbeperkte toegang tot zijn KI-model Claude te geven. Het bedrijf wilde contractueel uitsluiten dat zijn technologie zou worden gebruikt voor massasurveillance van Amerikaanse burgers of voor autonome wapensystemen.
Het Pentagon verwierp deze voorwaarden en beval dat federale instanties de technologie van Anthropic niet meer mochten gebruiken. Volgens de gerechtelijke documenten begon het ministerie in maart met het verwijderen van de KI-systemen.
De rechters legden uit, volgens Ars Technica, dat het „zeer verontrustend“ zou zijn als te sterk beperkte KI-modellen onverwacht uitvallen en daardoor belangrijke militaire operaties kunnen mislukken. Anthropic betoogde daarentegen dat onbeperkte modellen per ongeluk doelen voor dodelijk geweld kunnen herkennen.
Een woordvoerder van Anthropic zei tegen CNBC dat het bedrijf het niet eens is met de uitspraak en alle opties overweegt, inclusief verdere juridische toetsing. Een andere federale rechtbank in Californië had in augustus een vergelijkbare indeling als onwettig bestempeld.
Omdat de Amerikaanse overheid twee verschillende juridische grondslagen voor de indeling had gebruikt, moesten twee rechtbanken afzonderlijk beslissen. Hoe het nu verdergaat, is onduidelijk: Anthropic kan een nieuwe hoorzitting aanvragen of de zaak voor het Hooggerechtshof brengen.
WAAROM DIT BELANGRIJK IS
De zaak laat zien hoe overheden KI-bedrijven kunnen proberen te dwingen hun technologie onbeperkt af te staan, zelfs als dat risico’s met zich meebrengt voor surveillance en autonome wapensystemen.
WAT JE NU KUNT DOEN
- Blijf op de hoogte van KI-beleid Volg betrouwbare nieuwsbronnen over beslissingen van overheden over het gebruik van KI. Zo zie je vroegtijdig als regels voor surveillance of wapensystemen veranderen.
- Vraag KI-gebruik door overheden na Als overheidsinstanties KI-systemen gebruiken, informeer je dan over het exacte doel en de beperkingen. Burgerrechtenorganisaties publiceren hier vaak informatie over.
- Steun eisen voor transparantie Zet je in voor duidelijke wettelijke regels die bepalen hoe KI in het leger of bij surveillance mag worden ingezet. Dit kan via petities of politieke participatie.
- Controleer de privacy bij gebruikte KI-diensten Lees de gebruikersvoorwaarden van KI-toepassingen die je zelf gebruikt, met name over het doorgeven van gegevens aan overheden. Zo weet je welke gegevens beschermd zijn.