Google, OpenAI i Anthropic prowadzą negocjacje dotyczące bezpieczeństwa KI
OpenAI potwierdziło, że od kilku tygodni firma wymienia się uwagami na temat kwestii bezpieczeństwa związanych z rozwojem KI z konkurentami – Anthropic i Google DeepMind. Informację tę przekazał Chris Lehane, szef działu polityki OpenAI, jak podaje TechCrunch we wtorek.
Zgodnie z doniesieniami insiderów z magazynu The Information rozmowy te trwają już od lipca. Miałoby w nich chodzić o utworzenie wspólnej organizacji, która nadzorowałaby standardy bezpieczeństwa dla systemów KI.
Publiczną debatę zapoczątkował esej szefa Anthropic, Dario Amodei, opublikowany w sobotę. Wezwał w nim do spowolnienia tempa rozwoju KI, aby lepiej nadążyć za zagrożeniami związanymi z bezpieczeństwem. Wcześniej, jak donosi heise, jeden z pracowników Anthropic opuścił firmę i publicznie skrytykował, że aspekty bezpieczeństwa są zbyt mało uwzględniane.
Wiele szefów firm KI, w tym Sam Altman z OpenAI i Demis Hassabis z Google, poparło apel Amodei. Altman zapowiedział, jak podaje TechCrunch, że OpenAI chce włączać niezależnych audytorów do swoich procesów bezpieczeństwa.
Nie jest jasne, czy taka współpraca mogłaby naruszać prawo antymonopolowe. Amodei zaproponował w tym celu wyjątek państwowy, ale Lehane stwierdził, że jego zdaniem nie jest to konieczne.
Rząd USA pod przewodnictwem prezydenta Trumpa wyraził, jak donosi TechCrunch, sceptycyzm wobec obaw dotyczących bezpieczeństwa i ostrzegł, że spowolnienie rozwoju KI mogłoby dać przewagę Chinom. Z kolei, jak podaje heise, Meta miałaby również krytyczny stosunek do krajowej instytucji kontrolnej.
Nie wiadomo, czy i kiedy planowana organizacja ds. bezpieczeństwa rzeczywiście powstanie, ponieważ wiele informacji opiera się na anonimowych źródłach, a zaangażowane firmy dotychczas jedynie częściowo oficjalnie się do nich odniosły.
DLA CZEGO TO WAŻNE
Pokazuje, jak największe firmy KI radzą sobie z ryzykiem związanym z ich technologiami i czy może powstać niezależna kontrola.
CO MOŻESZ ZROBIĆ TERAZ
- Bądź krytyczny wobec wiadomości o KI Porównuj doniesienia o bezpieczeństwie KI z wieloma wiarygodnymi źródłami. W ten sposób rozpoznasz, czy informacja jest potwierdzona, czy opiera się jedynie na plotkach.
- Zwracaj uwagę na niezależne audyty Sprawdź, czy dostawca KI korzysta z niezależnych kontrolerów lub organizacji audytowych. To pokaże Ci, jak poważnie firma traktuje kwestie bezpieczeństwa.
- Śledź rzeczywistą regulację, a nie tylko zapowiedzi Informuj się u władz lub wiarygodnych mediach, jakie przepisy lub standardy dotyczące KI zostały rzeczywiście przyjęte. Nie polegaj wyłącznie na oświadczeniach firm.
- Korzystaj z usług KI świadomie i oszczędnie Wybieraj dostawców, którzy otwarcie informują o swoich środkach bezpieczeństwa. Przed użyciem zastanów się, jakie dane wprowadzasz i jak firma je przetwarza.