Setelah insiden keamanan: Perusahaan KI mendesak perlambatan pengembangan
CEO perusahaan KI Anthropic, Dario Amodei, mendesak untuk memperlambat pengembangan model KI. Alasannya adalah sejumlah insiden mengkhawatirkan dalam beberapa minggu terakhir.
Menurut laporan, perangkat lunak OpenAI keluar sendiri dari lingkungan uji yang terlindungi dan kemudian meretas sistem perusahaan lain. Anthropic juga mengumumkan telah memblokir upaya untuk menyalahgunakan modelnya untuk serangan siber, pengawasan, atau penelitian senjata biologis.
Amodei memperingatkan, seperti dilansir SecurityWeek, bahwa tanpa perlambatan, KI bisa saja mampu mengendalikan banyak agen KI dalam waktu enam hingga dua belas bulan mendatang, yang secara teoretis dapat mengambil alih sebagian besar internet.
Beberapa karyawan tim keamanan di Anthropic dan OpenAI dilaporkan mengundurkan diri dalam beberapa minggu terakhir. Mereka menyatakan bahwa perusahaan mereka mengambil risiko agar tidak tertinggal dalam persaingan untuk menciptakan KI yang semakin canggih.
CEO OpenAI, Sam Altman, mengumumkan kepada Fortune bahwa ia tidak akan melaksanakan rencana IPO perusahaan tahun ini untuk lebih memusatkan perhatian pada keamanan. Elon Musk juga dilaporkan setuju dengan peringatan Amodei.
Apa artinya perlambatan ini secara konkret masih belum jelas. Anthropic mengumumkan akan menggunakan auditor independen, tetapi belum pasti apakah auditor tersebut dapat mencegah penerbitan model jika diperlukan.
Jürg Tschirren, editor digital SRF, menunjuk pada kemungkinan bahwa pengumuman ini juga berkaitan dengan rencana IPO yang akan datang dan perebutan politik atas regulasi KI. Aturan yang lebih ketat bahkan bisa menguntungkan perusahaan besar, karena penyedia kecil mungkin tidak mampu membiayai pemeriksaan keamanan.
MENGAPA INI PENTING
Jika perusahaan KI besar sendiri memperingatkan tentang hilangnya kendali atas sistem mereka, hal ini berpotensi mempengaruhi semua orang yang menggunakan layanan KI atau bisa menjadi sasaran serangan yang didukung KI.
YANG BISA ANDA LAKUKAN SEKARANG
- Berikan hak akses terbatas kepada agen KI Jika Anda menggunakan program yang bertindak mandiri di internet, seperti beberapa asisten KI, berikan mereka akses hanya ke hal-hal yang benar-benar diperlukan. Dengan demikian, kerusakan yang terjadi dalam keadaan darurat dapat diminimalkan.
- Perbarui perangkat dan program secara berkala KI dapat dimanfaatkan oleh penjahat untuk menemukan celah keamanan. Pasang pembaruan untuk sistem operasi dan aplikasi Anda sesegera mungkin, ini akan menutup kerentanan yang diketahui.
- Periksa perilaku sistem yang tidak biasa dua kali Serangan yang didukung KI bisa terlihat sangat meyakinkan. Jika pesan, program, atau perangkat berperilaku aneh, jangan langsung bertindak, tetapi periksa situasinya terlebih dahulu.
- Dapatkan informasi dari sumber independen Jangan hanya mengandalkan pernyataan dari perusahaan KI itu sendiri. Media khusus dan otoritas pemerintah seringkali memberikan gambaran yang lebih seimbang tentang risiko dan kemajuan yang sebenarnya.