OpenAI permite que funcionários leiam e avaliem chats do ChatGPT
Segundo documentos internos obtidos pela revista 404 Media, a OpenAI emprega centenas de funcionários externos que leem e avaliam conversas reais do ChatGPT.
Isso afeta usuários com contas gratuitas, Plus e PRO, pois nelas o uso de dados para melhoria do modelo está ativado por padrão. Contas empresariais e educacionais estão isentas.
No âmbito do projeto com o nome de código 'Lily', os avaliadores externos acessam, por meio de painéis, os prompts e, em alguns casos, resumos de chats anteriores. Eles avaliam quatro respostas geradas pela IA em uma escala de 1 a 7 e marcam formulações inadequadas.
A OpenAI aplica previamente um filtro de privacidade para remover informações pessoais. No entanto, a empresa admite que identificadores raros ou detalhes privados, como localizações, podem escapar do filtro.
Outros provedores também usam controle humano: segundo informações próprias, a Anthropic o limita a usuários que ativaram a função opt-in e remove identificações de conta previamente. A Google, no Gemini, também indica que algumas conversas salvas são verificadas por pessoas.
Um funcionário entrevistado pela 404 Media, que trabalha com os prompts, acredita que a maioria dos usuários não sabe que pessoas reais podem ler seus chats.
Permanecem em aberto a frequência com que dados sensíveis chegam aos avaliadores, apesar do filtro, e o quão transparente é a informação aos usuários sobre isso.
POR QUE ISSO É IMPORTANTE
Milhões de pessoas compartilham informações pessoais e, às vezes, muito privadas com o ChatGPT, sem saber que elas podem ser lidas por pessoas reais.
O QUE VOCÊ PODE FAZER AGORA
- Desativar o uso de dados para melhoria do modelo Abra as configurações no ChatGPT e vá para os controles de dados. Desative lá a opção de melhoria do modelo para todos os usuários.
- Não inserir informações sensíveis Não compartilhe dados de saúde, jurídicos ou financeiros com o chatbot. Trate suas entradas como se pudessem ser lidas por outra pessoa.
- Usar conta empresarial ou educacional Esses tipos de conta têm o compartilhamento de dados desativado por padrão. Se possível, use uma conta assim para mais privacidade.
- Verificar regularmente as configurações de privacidade Confira as opções de privacidade no aplicativo de tempos em tempos. Os provedores às vezes alteram as configurações padrão sem grandes anúncios.