OpenAI, 직원에게 ChatGPT 대화 읽고 평가하게 함

404 Media에 제공된 내부 문서에 따르면 OpenAI는 수백 명의 외부 직원을 고용해 실제 ChatGPT 대화를 읽고 평가하고 있습니다.

무료, Plus, PRO 계정 사용자는 데이터가 모델 개선을 위해 기본적으로 활성화되어 있어 영향을 받습니다. 비즈니스 및 교육 계정은 예외입니다.

'Lily'라는 코드명 프로젝트에서 외부 검토자는 대시보드를 통해 프롬프트와 이전 대화의 요약에 부분적으로 접근할 수 있습니다. 이들은 KI가 생성한 네 가지 답변을 1에서 7까지의 척도로 평가하고 부적절한 표현을 표시합니다.

OpenAI는 사생활 보호 필터를 미리 적용해 개인 정보를 제거합니다. 그러나 회사는 드문 식별자나 위치 정보와 같은 개인 정보가 필터를 통과할 수 있음을 인정합니다.

다른 제공업체도 인간 감시를 활용합니다. Anthropic은 자체 발표에 따르면 Opt-in 기능을 활성화한 사용자에게만 인간 감시를 제한하고 계정 토큰을 미리 제거합니다. Google은 Gemini에서도 일부 저장된 대화를 사람이 검토한다고 밝혔습니다.

404 Media가 인터뷰한 한 직원은 대부분의 사용자가 실제 사람이 자신들의 대화를 읽을 수 있음을 모른다고 추정합니다.

민감한 데이터가 필터를 통과해 검토자에게 전달되는 빈도와 사용자에게 이를 얼마나 투명하게 알리는지는 아직 명확하지 않습니다.

왜 중요한가

수백만 명의 사람들이 ChatGPT에게 개인적이고 매우 민감한 정보를 공유하면서, 이 정보가 실제 사람에 의해 읽힐 수 있음을 모르고 있습니다.

모델 개선을 위한 데이터 사용 비활성화 ChatGPT 설정에서 데이터 제어로 이동해 모든 사용자를 위한 모델 개선 옵션을 비활성화하세요.
민감한 정보 입력 금지 건강, 법률, 재정 관련 데이터를 채팅봇과 공유하지 마세요. 당신의 입력이 다른 사람에 의해 읽힐 수 있다고 생각하세요.
비즈니스 또는 교육 계정 사용 이 계정 유형들은 데이터 공유가 기본적으로 비활성화되어 있습니다. 가능하면 더 많은 개인정보 보호를 위해 이런 계정을 사용하세요.
개인정보 보호 설정 정기적으로 확인 앱의 개인정보 보호 옵션을 주기적으로 다시 확인하세요. 제공업체들은 때때로 큰 공지 없이 기본 설정을 변경합니다.