OpenAI、社員にChatGPTのチャットを読み評価させる
404 Mediaが入手した内部文書によると、OpenAIは数百人の外部スタッフを雇用し、実際のChatGPTの会話を読み、評価させている。
影響を受けるのは、無料、Plus、PROアカウントのユーザーで、これらのアカウントではモデル改善のためのデータ利用がデフォルトで有効になっている。ビジネスアカウントと教育アカウントは対象外だ。
コードネーム「Lily」のプロジェクトの一環として、外部の審査員はダッシュボードを通じてプロンプトや過去のチャットの要約にアクセスし、KIが生成した4つの回答を1から7のスケールで評価し、不適切な表現をマークする。
OpenAIは事前にプライバシーフィルターを使用して個人情報を削除するが、同社は、まれな識別子や位置情報などの個人情報が漏れる可能性があることを認めている。
他のプロバイダーも人間による監視を導入している。Anthropicは、自社の発表によると、オプトイン機能を有効にしたユーザーに限定し、事前にアカウントトークンを削除する。GoogleもGeminiにおいて、人間が一部の保存されたチャットを確認する可能性があると明記している。
404 Mediaが取材したプロンプトを扱うスタッフの1人は、ほとんどのユーザーが自分のチャットが人間に読まれる可能性があることを知らないと考えている。
フィルターをかけられた後でも、どの程度の機密データが審査員に届くのか、またユーザーにどの程度透明性をもって情報が提供されるのかは、まだ明らかになっていない。
なぜ重要なのか
何百万人もの人々がChatGPTに個人的で非常にプライベートな情報を共有していますが、それらが実際の人間に読まれる可能性があることを知りません。
今すぐできること
- モデル改善のためのデータ利用を無効にする ChatGPTの設定を開き、データ管理に進みます。そこで、すべてのユーザー向けのモデル改善オプションを無効にします。
- 機密情報を入力しない 健康、法律、金融に関するデータをチャットボットに共有しないでください。入力内容は他の誰かに読まれる可能性があると考えて扱ってください。
- ビジネスまたは教育アカウントを利用する これらのアカウントタイプでは、データ共有がデフォルトで無効になっています。可能であれば、プライバシーを高めるためにこのようなアカウントを使用してください。
- プライバシー設定を定期的に確認する アプリのプライバシー設定を時折見直してください。プロバイダーは、大きなアナウンスなしにデフォルト設定を変更することがあります。