Google, OpenAI, dan Anthropic bernegosiasi tentang keamanan KI
OpenAI mengonfirmasi bahwa perusahaan telah berdiskusi selama beberapa minggu dengan pesaingnya, Anthropic dan Google DeepMind, mengenai pertanyaan keamanan dalam pengembangan KI. Hal ini disampaikan oleh Kepala Kebijakan OpenAI, Chris Lehane, kepada TechCrunch pada hari Selasa.
Menurut laporan dari majalah The Information, diskusi ini telah berlangsung sejak Juli. Konon, pembicaraan tersebut bertujuan untuk membentuk organisasi bersama yang akan mengawasi standar keamanan untuk sistem KI.
Debat publik dipicu oleh esai dari CEO Anthropic, Dario Amodei, pada hari Sabtu, di mana ia mendesak untuk memperlambat laju pengembangan KI agar risiko keamanan dapat ditangani dengan lebih baik. Sebelumnya, menurut heise, seorang karyawan Anthropic meninggalkan perusahaan dan secara terbuka mengkritik kurangnya perhatian terhadap aspek keamanan.
Beberapa CEO KI, termasuk Sam Altman dari OpenAI dan Demis Hassabis dari Google, mendukung seruan Amodei. Altman mengumumkan, menurut TechCrunch, bahwa OpenAI berencana melibatkan auditor independen dalam proses keamanannya.
Menurut laporan, belum jelas apakah kerja sama semacam itu dapat melanggar hukum persaingan. Amodei mengusulkan pengecualian pemerintah untuk hal ini, tetapi Lehane menyatakan bahwa menurutnya, pengecualian tersebut tidak diperlukan.
Pemerintah AS di bawah Presiden Trump, menurut TechCrunch, menyampaikan sikap skeptis terhadap kekhawatiran keamanan dan memperingatkan bahwa perlambatan pengembangan KI dapat memberikan keuntungan bagi China. Menurut heise, Meta juga dikabarkan memiliki sikap kritis terhadap otoritas pengawas nasional.
Masih belum jelas apakah dan kapan organisasi keamanan yang direncanakan itu benar-benar akan terbentuk, mengingat banyak informasi yang berasal dari sumber anonim dan perusahaan yang terlibat belum sepenuhnya mengonfirmasi hal tersebut.
MENGAPA INI PENTING
Ini menunjukkan bagaimana perusahaan KI terbesar menangani risiko teknologi mereka sendiri dan apakah kontrol independen dapat terbentuk.
YANG BISA ANDA LAKUKAN SEKARANG
- Tetap kritis terhadap berita KI Bandingkan laporan tentang keamanan KI dari beberapa sumber terpercaya. Dengan begitu, Anda dapat mengetahui apakah berita tersebut benar-benar terkonfirmasi atau hanya berdasarkan rumor.
- Perhatikan audit independen Periksa apakah penyedia KI menggunakan auditor atau organisasi pemeriksa independen. Ini menunjukkan seberapa serius perusahaan tersebut menangani keamanan.
- Ikuti regulasi yang sesungguhnya, bukan hanya pengumuman Cari tahu dari otoritas atau media terpercaya peraturan atau standar apa saja yang benar-benar disetujui untuk KI. Jangan hanya mengandalkan pernyataan dari perusahaan.
- Gunakan layanan KI dengan sadar dan bijak Pilih penyedia yang terbuka tentang langkah-langkah keamanan mereka. Pertimbangkan sebelum menggunakannya, data apa yang Anda masukkan dan bagaimana perusahaan menangani data tersebut.