OpenAI meminta karyawan untuk membaca dan menilai chat ChatGPT
Menurut dokumen internal yang diperoleh majalah 404 Media, OpenAI mempekerjakan ratusan karyawan eksternal yang membaca dan menilai percakapan asli di ChatGPT.
Pengguna dengan akun gratis, Plus, dan PRO terpengaruh, karena penggunaan data untuk perbaikan model diaktifkan secara default pada akun-akun tersebut. Akun bisnis dan pendidikan dikecualikan.
Dalam proyek dengan nama sandi 'Lily', para penguji eksternal mendapatkan akses ke prompt dan kadang-kadang ringkasan chat sebelumnya melalui dasbor. Mereka menilai empat jawaban yang dihasilkan oleh KI pada skala 1 hingga 7 dan menandai formulasi yang tidak tepat.
OpenAI menggunakan filter privasi untuk menghapus informasi pribadi terlebih dahulu. Namun, perusahaan mengakui bahwa pengidentifikasi yang jarang atau detail pribadi seperti informasi lokasi kadang-kadang masih bisa lolos.
Penyedia lain juga menerapkan kontrol manusia: Anthropic, menurut pernyataannya sendiri, membatasi hal ini hanya untuk pengguna yang mengaktifkan fungsi opt-in dan menghapus token akun terlebih dahulu. Google juga menegaskan bahwa manusia memeriksa beberapa chat yang disimpan di Gemini.
Salah satu karyawan yang diwawancarai oleh 404 Media dan bekerja dengan prompt percaya bahwa sebagian besar pengguna tidak tahu bahwa orang sungguhan dapat membaca chat mereka.
Masih belum jelas seberapa sering data sensitif sampai ke penguji meskipun sudah disaring, dan seberapa transparan pengguna diberi tahu tentang hal ini.
MENGAPA INI PENTING
Jutaan orang berbagi informasi pribadi dan kadang-kadang sangat rahasia dengan ChatGPT tanpa mengetahui bahwa informasi tersebut dapat dibaca oleh manusia sungguhan.
YANG BISA ANDA LAKUKAN SEKARANG
- Nonaktifkan penggunaan data untuk perbaikan model Buka pengaturan di ChatGPT dan pergi ke kontrol data. Matikan opsi untuk perbaikan model untuk semua pengguna di sana.
- Jangan memasukkan informasi sensitif Jangan berbagi data kesehatan, hukum, atau keuangan dengan chatbot. Perlakukan input Anda seolah-olah bisa dibaca oleh orang lain.
- Gunakan akun bisnis atau pendidikan Jenis akun ini memiliki berbagi data yang dinonaktifkan secara default. Jika memungkinkan, gunakan akun semacam ini untuk privasi yang lebih baik.
- Periksa pengaturan privasi secara berkala Lihat kembali opsi privasi di aplikasi dari waktu ke waktu. Penyedia kadang mengubah pengaturan default tanpa pengumuman besar.