[ad_1]
Tudo sobre Inteligência Artificial
Os recursos de memória dos principais chatbots de inteligência artificial (IA) estão tornando as respostas mais personalizadas, mas também podem criar situações desconfortáveis. Usuários relatam que ferramentas como ChatGPT, Gemini, Copilot e Claude passaram a insistir em informações antigas, interpretar dados de forma errada e até influenciar recomendações futuras com base em memórias desatualizadas.
Continua após a publicidade
O engenheiro de software Brian Del Rosario, que vive em Utah, nos Estados Unidos, contou ao Wall Street Journal que precisou avisar ao chatbot que havia se separado da esposa para evitar que a IA continuasse incluindo ela em planos de viagem. O problema é que, depois disso, o sistema passou a relacionar diversos assuntos ao divórcio.
Segundo ele, pedidos simples de ajuda com agenda ou desabafos sobre trabalho acabavam recebendo respostas ligadas à separação. “Eu não estava tentando fazer você opinar sobre meu divórcio a cada oportunidade”, afirmou.
Memória pode usar informações erradas
A proposta da memória em chatbots é simples: usar conversas anteriores para melhorar respostas futuras. O recurso foi adotado após o ChatGPT lançar sua versão em 2024. Desde então, concorrentes também passaram a oferecer sistemas parecidos.
Mas o mecanismo pode confundir informações. Um exemplo envolve alguém que pesquisa sintomas de TDAH para um filho e, semanas depois, recebe dicas de produtividade adaptadas para uma pessoa com dificuldades de atenção, como se o transtorno fosse do próprio usuário.
O Google reconheceu uma situação parecida em um exemplo divulgado pela empresa. Segundo a companhia, o sistema poderia concluir que alguém gosta de golfe após identificar várias fotos em campos esportivos, quando a pessoa apenas acompanhava o filho.
A empresa afirma que passou a permitir que usuários mantenham a personalização ativa enquanto bloqueiam certas informações específicas. A OpenAI informou ter atualizado o funcionamento da memória para assinantes Plus e Pro. Já a Microsoft diz que usuários podem editar ou apagar lembranças armazenadas.
Informações antigas podem afetar recomendações
Outro problema citado é quando o chatbot continua usando dados que já não refletem mais a realidade da pessoa.
Um dos casos mencionados envolve alguém que informou estar treinando para uma maratona meses atrás, mas depois sofreu uma lesão no joelho sem atualizar a IA. Nesse cenário, sugestões de alimentação e exercícios continuariam voltadas para uma pessoa altamente ativa.
Del Rosario também relatou situação parecida após mencionar que tentava perder peso. Segundo ele, o chatbot passou a lembrar constantemente da dieta, inclusive em recomendações de restaurantes durante viagens.
Mike Taylor, consultor da empresa Every, também contou ter recebido sugestões de bares com cervejas típicas do Reino Unido depois de comentar que era britânico vivendo nos EUA. “Estou aqui pelos bares americanos, não pelos britânicos”, afirmou.
Continua após a publicidade
Especialistas veem risco em reforço de padrões
Joshua Joseph, cientista-chefe de IA do Berkman Klein Center, da Harvard University, comparou o funcionamento desses sistemas aos algoritmos de redes sociais. Segundo ele, pequenas interações podem alterar silenciosamente o tipo de resposta recebido no futuro.
Já Lucy Osler, professora da University of Exeter, afirmou que os chatbots podem acabar reforçando inseguranças e narrativas negativas sobre o próprio usuário.
Ela também alertou que a tendência das IAs de concordarem com as pessoas pode fortalecer pensamentos prejudiciais ou delirantes. O tema já motivou discussões sobre possíveis regras de segurança para adolescentes no uso dessas ferramentas.
As principais plataformas permitem desligar completamente a memória, apagar informações específicas ou usar conversas temporárias. Especialistas recomendam revisar regularmente os dados armazenados e evitar compartilhar informações sensíveis sem necessidade.
Ana Luiza Figueiredo
Ana Figueiredo é repórter de tecnologia do Olhar Digital. É formada em jornalismo pela Universidade Federal de Uberlândia (UFU).
Ver todos os artigos →
[ad_2]
