Recentemente a DuckDuckGo fez uma pesquisa nos EUA com alguns adultos sobre o uso de IAs na sua vida pessoal. No entanto o que mais chamou a atenção é que mais de 30% dos entrevistados afirmaram ter compartilhado um segredo com a IA que não haviam compartilhado nem com seus familiares! Isso sem contar que mais da metade dos entrevistados não sabia como suas conversas eram usadas pelas empresas para treinar os modelos de IA. Nesse post, nós da Hosting Machine falaremos mais sobre essa pesquisa e as problemáticas em torno desse assunto.

Pessoas confiam mais em IAs do que me outros humanos?

Como isso foi descoberto?

Todo esse murmúrio começou por conta de pesquisas que perguntaram diretamente aos usuários sobre seus hábitos de conversa. Em uma pesquisa feita pela DuckDuckGo em junho desse ano, que entrevistou 1.944 adultos dos Estados Unidos, 32% dos usuários de IA afirmaram ter contado para um chatbot algo que mantém em segredo de pessoas próximas. Entre os participantes que se identificavam como entusiastas de IA, o percentual chegou a 56%.

No entanto isso não significa, necessariamente, que as pessoas confiam mais na IA em todos os aspectos do que confiam em seres humanos. Isto é porque esse fenômeno não parece estar relacionado a confiança absoluta nas empresas ou na tecnologia, mas sim que a ideia de conversar com um chatbot é mais confortável em determinadas situações, emocionalmente falando.

Por que as pessoas confiam mais nas IAs?

Uma das principais razões que as pessoas se sentem mais confortáveis com IA é a percepção de que ela não julga o usuário. Já que quando você vai conversar com outra pessoa, você pode ter medo de receber críticas, decepcionar familiares ou sofrer constrangimento. Já um chatbot te responde na mesma hora e não demonstra expressões de reprovação, impaciência ou surpresa da mesma forma que um humano. Essa forma que o chatbot conversa cria a sensação de um espaço seguro para desabafar.

A disponibilidade também é outro grande fator. Porque uma pessoa pode estar ocupada naquele momento ou pode não saber como responder ao problema falado. Já a IA está disponível praticamente a qualquer momento e consegue conversar durante longos períodos sem exigir reciprocidade. Além disso, você pode fazer uma pergunta, apagar uma mensagem, reformular o texto ou iniciar outra conversa na mesma hora sem ter que lidar com as consequências sociais dessa conversa. Até o custo também pode ser menor quando comparado a certas formas de aconselhamento profissional, como psicólogo ou terapia.

Outro elemento também muito importante é a antropomorfização. Isto é porque esses sistemas conversacionais usam uma linguagem natural, demonstram empatia simulada, lembram determinados contextos e adaptam suas respostas de acordo com o feedback do usuário. Tudo isso faz com que o chatbot possa ser considerado uma companhia, conselheira ou confidente, mesmo sendo um sistema computacional. Várias pesquisas mostram justamente isso, as pessoas podem reconhecer riscos de privacidade mas continuar revelando informações extremamente pessoais.

Isso tudo acarreta em um tipo de paradoxo da confiança. Embora muitas pessoas não acreditem que as empresas do chatbot protegem seus dados, elas acham que conversar com a IA é menos constrangedor do que conversar com outra pessoa.

Quais grupos mais usam as IAs dessa forma?

Entre todos os usuários de IA entrevistados, 32% afirmaram ter contado a um chatbot algo que haviam mantido em segredo de pessoas próximas ou profissionais. Esse comportamento foi ainda mais comum entre os entusiastas de IA, onde 56% afirmaram ter feito esse tipo de revelação.

No entanto, um grupo que surpreendeu foram os pais, que também aparecem como um grupo particularmente relevante. Isto é porque entre os pais e responsáveis que usavam IA, 43% deles disseram ter compartilhado com um chatbot algo que nunca haviam contado a outra pessoa. No entanto, no caso de usuários de IA sem filhos em casa, esse índice foi de 25%.

Uma possível explicação para isso é a quantidade de dúvidas, pressão e decisões envolvidas na criação de uma criança. Porque a IA oferece respostas imediatas para questões que podem ser difíceis de discutir com familiares ou amigos, principalmente quando o usuário teme ser julgado pelas suas decisões.

As pessoas sabiam como suas conversas são usadas?

A pesquisa mostrou que uma parcela considerável dos usuários não compreende o que pode acontecer com suas conversas. Segundo a DuckDuckGo, 53% dos entrevistados não sabiam ou não tinham certeza de que os chatbots poderiam usar suas conversas para treinamento de modelos de inteligência artificial. Além disso, só 25% das pessoas sabiam que conversas com chatbots poderiam ser obtidas pelas autoridades durante processos legais, e 43% dos entrevistados desconheciam seis informações básicas apresentadas pela pesquisa sobre o armazenamento, a revisão ou a divulgação de chats.

Como as conversas da IA são usadas?

Treinamento e aprimoramento dos modelos

Uma das principais formas de uso das conversas é o aprimoramento dos modelos de inteligência artificial. Dependendo do serviço, das configurações da conta e do tipo de produto utilizado, as suas interações podem ser usadas para identificar problemas, melhorar as respostas, desenvolver novas capacidades e treinar futuros modelos. Como por exemplo no caso da OpenAI, ela te informa que o conteúdo das conversas pode ser usado para treinar seus modelos, embora ofereça controles para impedir esse uso. O ChatGPT também oferece o Chat temporário, e nessa função eles não utilizam essas conversas para treinamento enquanto elas permanecem como conversas temporárias.

Ou seja, dependendo das configurações da sua conta, as suas conversas podem fazer parte de processos internos de avaliação e desenvolvimento. Tudo isso com o objetivo de melhorar a tecnologia, e isso não significa que alguém está lendo individualmente cada conversa sua. Entretanto, a possibilidade de utilização de conversas para aprimoramento é algo importante de se considerar quando o usuário decide compartilhar informações extremamente sensíveis.

No entanto, a questão não é só se o treinamento é legítimo ou útil, mas também se a pessoa tinha conhecimento suficiente para tomar uma decisão consciente antes de revelar certas informações. O próprio levantamento do DuckDuckGo mostra por que essa diferença é problemática. Mais da metade dos entrevistados não sabia ou não tinha certeza sobre o uso das conversas para treinamento. Depois de entenderem como funcionava, 58% delas afirmaram se sentir desconfortáveis com a situação.

Revisão humana e controle de qualidade

As empresas também podem permitir que as pessoas analisem suas conversas para avaliar a qualidade e a segurança das respostas. Isto é de suma importância para os modelos generativos, já que podem produzir informações incorretas ou falsas, respostas inadequadas ou conteúdos potencialmente prejudiciais. O Google, por exemplo, já informou que os avaliadores humanos podem revisar um subconjunto das conversas do Gemini. Assim, eles analisam aspectos como qualidade, precisão e segurança das respostas e podem sugerir respostas melhores.

Além disso, o Google afirma que os funcionários desvinculam as conversas analisadas da conta antes de enviá-las aos prestadores, e que esses fornecedores podem armazená-las por até três anos. Por isso recomendam explicitamente que os usuários não insiram informações confidenciais que não gostariam que um revisor visse ou que a empresa utilizasse para melhorar os serviços. Mesmo com mecanismos de proteção, isso mostra uma grande diferença entre a percepção do usuário e o funcionamento real da plataforma. Já que uma pessoa pode achar que está conversando só com a IA quando, em determinadas circunstâncias, partes dessa interação podem entrar em processos de avaliação humana.

Embora isso não signifique que funcionários estejam acompanhando todas as conversas, para uma pessoa que compartilha segredos com o chatbot, a mera possibilidade disto poder acontecer já é chocante.

Armazenamento, histórico e personalização

Outro uso importante das conversas está relacionado ao armazenamento das interações. Manter as conversas salvas permite que o serviço ofereça histórico, recuperação de informações e, em determinados produtos, personalizar as respostas futuras. Embora isso seja conveniente, isso também aumenta a quantidade de informações potencialmente acumuladas sobre uma pessoa. Isto é porque uma sequência de conversas ,aparentemente isoladas, pode revelar hábitos, preocupações, relacionamentos, interesses, problemas profissionais e outras características que, juntas, formam um retrato muito mais detalhado do usuário.

Como mencionado, as empresas também podem usar as conversas para personalizar a experiência do usuário. Já que o sistema pode usar informações anteriormente disponibilizadas para entender as preferências, o contexto e os objetivos do usuário. Assim conseguindo produzir respostas mais adequadas sem precisar que o usuário repita constantemente as mesmas informações. Esse mecanismo torna a IA mais útil, mas cria uma consequência importante, quanto mais dados pessoais o usuário fornece, maior pode ser a capacidade do sistema de construir um perfil detalhado sobre ele.

Feedback, segurança e desenvolvimento do serviço

As empresas também podem utilizar as conversas para proteger seu serviço contra abuso, fraude, ataques e violações das regras da plataforma. Isto é porque elas precisam identificar comportamentos maliciosos, investigar problemas técnicos e impedir que usuários utilizem seus sistemas para determinadas atividades proibidas. Por conta disso, até mesmo mecanismos destinados a reduzir a coleta de dados para treinamento normalmente não impedem que as empresas processem completamente a conversa.

O próprio Google informa que, mesmo quando o usuário desativa a opção Manter atividade ou usa uma conversa temporária, eles ainda usam as interações com o chatbot para responder aos comandos e ajudar a proteger o Google, seus usuários e o público. Além disso, os funcionários da Google também podem revisar algumas conversas para lidar com violações dos Termos de Serviço e das políticas de uso da IA.

Por que isso é tão problemático?

O problema central não está só no fato das pessoas conversarem com uma IA, mas na combinação entre alto nível de intimidade e baixo conhecimento sobre o destino das informações. Como dito anteriormente, 32% dos usuários já compartilharam com chatbots informações que não haviam contado a pessoas próximas e 53% deles não sabiam como as empresas poderiam utilizar as conversas para treinamento. Ou seja, há uma grande diferença entre o que alguns usuários imaginam estar fazendo e as condições reais de determinados serviços.

O risco aumenta porque uma conversa pode concentrar informações extremamente sensíveis. Como por exemplo, um usuário pode mencionar durante uma conversa problemas familiares, saúde, relacionamentos, situação financeira, dificuldades profissionais, localização ou até mesmo informações de terceiros. Mesmo que cada detalhe pareça, isoladamente, pouco relevante, a combinação dessas informações pode revelar um retrato bastante completo da pessoa. Um vazamento, acesso indevido ou utilização inesperada desses dados pode gerar consequências que vão muito além daquela conversa específica.

Além disso também há todo o problema comportamental. Já que quanto mais natural e acolhedora a IA parece, maior pode ser a tendência das pessoas de tratá-la como uma pessoa de confiança. Isso pode acarretar em um ciclo onde o usuário compartilha informações cada vez mais íntimas sem revisar as configurações de privacidade. A própria pesquisa mostra que, quando os participantes compreenderam melhor determinadas práticas de tratamento dos chats, 58% confessaram se sentir desconfortável com o uso das conversas para treinamento.

Por isso, o ponto mais preocupante é a assimetria entre confiança e conhecimento. Já que o usuário pode sentir que encontrou um confidente disponível, paciente e sem julgamento, enquanto a plataforma funciona simultaneamente como um serviço tecnológico sujeito a armazenamento, processamento, controles, políticas e obrigações legais.