Raja Charles peringatkan bos teknologi akan bahaya KI
Raja Charles III pada 17 September 2026 mengundang para pemimpin industri KI ke pertemuan puncak di Dumfries House, Ayrshire, Skotlandia.
Di antara pesertanya adalah Menteri KI Inggris Kanishka Narayan, seorang penasihat Paus, serta perwakilan dari Nvidia, OpenAI, Anthropic, dan Google DeepMind.
Dalam pidatonya, Raja memperingatkan akan "bahaya eksistensial" yang bisa timbul jika teknologi KI jatuh ke tangan yang salah atau digunakan dengan cara yang menimbulkan bencana.
Menurut Charles, semakin banyak pengembang yang sendiri memperingatkan bahwa KI bisa mengembangkan "kemampuan yang lebih gelap" – bahkan kemungkinan untuk mencabut nyawa.
Pertemuan ini berlangsung di tengah sejumlah insiden mencolok: Seorang peneliti dari Anthropic baru-baru ini mundur dengan peringatan publik tentang risiko KI, dan OpenAI melaporkan enam kasus perilaku modelnya yang tidak terduga atau mengkhawatirkan.
Pendapat para CEO yang hadir terbelah: CEO Nvidia Jensen Huang mengkritik permintaan untuk menghentikan pengembangan dan mengatakan bahwa perusahaan harus menentukan sendiri kapan suatu produk cukup aman. Pendiri DeepMind Demis Hassabis menyatakan bahwa KI umum hanya beberapa tahun lagi dan mengakui bahwa risiko kegagalan "pasti tidak nol".
Belum jelas apakah pertemuan ini akan menghasilkan aturan konkret atau prinsip mengikat untuk pengembangan KI – Raja hanya menyerukan untuk menemukan prinsip-prinsip bersama.
MENGAPA INI PENTING
Peringatan dari seorang kepala negara menunjukkan bahwa kekhawatiran terhadap KI yang tidak terkendali kini juga dianggap serius di luar industri teknologi.
YANG BISA ANDA LAKUKAN SEKARANG
- Periksa hasil KI secara kritis Jangan langsung percaya pada apa yang ditampilkan atau dikatakan oleh program KI. Selalu bandingkan informasi penting dengan sumber terpercaya lainnya.
- Jangan memasukkan data sensitif ke dalam obrolan KI Jangan berbagi kata sandi, data bank, atau rahasia pribadi dengan chatbot. Anda tidak tahu pasti bagaimana data tersebut disimpan atau digunakan lebih lanjut.
- Tetap ikuti perkembangan aturan KI Secara berkala ikuti berita tentang undang-undang dan peraturan mengenai kecerdasan buatan. Dengan begitu, Anda akan tahu lebih awal jika ada perubahan yang memengaruhi Anda sebagai pengguna.
- Gunakan alat KI dengan sadar dan terarah Gunakan program KI hanya di tempat yang benar-benar Anda pahami manfaatnya. Untuk keputusan penting seperti uang atau kesehatan, mintalah juga nasihat manusia.