A OpenAI suspendeu planos de lançar um chatbot erótico “por tempo indeterminado” após preocupações de funcionários e investidores sobre o efeito do conteúdo sexualizado de IA (inteligência artificial) na sociedade. A medida também faz parte de um movimento mais amplo da empresa para priorizar seus produtos principais.
A startup de Sam Altman já havia adiado o lançamento de seu “modo adulto” em meio a discussões internas que cogitavam abandonar o modelo completamente, segundo várias pessoas a par do assunto.
O chatbot sexual enfrentou resistência crescente sobre como poderia incentivar vínculos emocionais prejudiciais com sistemas de IA e expor menores a conteúdo sexual problemático.
A OpenAI confirmou que o modelo erótico está suspenso sem prazo para lançamento. A empresa disse que quer realizar pesquisas de longo prazo sobre os efeitos de conversas sexualmente explícitas e vínculos emocionais como parte do desenvolvimento de produtos, reconhecendo que não há “evidências empíricas” no momento.
A decisão é mais um recuo da empresa do que executivos chamaram de “missões secundárias” em favor de dedicar recursos a ferramentas de produtividade, reunindo produtos como assistentes de programação e o ChatGPT em um “superaplicativo”.
Na terça-feira (24), a OpenAI anunciou que estava encerrando a plataforma de geração de vídeos Sora e seu aplicativo.
O modelo erótico havia se mostrado particularmente controverso para a OpenAI, em um momento em que big techs como a Meta enfrentam um acerto de contas judicial sobre os danos de seus produtos a crianças.
A xAI de Elon Musk fez no ano passado um grande esforço para atrair usuários com conteúdo adulto, mas enfrentou uma reação global após seu modelo Grok criar imagens sexuais falsas de pessoas reais, incluindo crianças.
A tensão destaca a pressão sobre a OpenAI para aumentar o engajamento e encontrar novos caminhos de crescimento em um mercado competitivo, enquanto lida com os riscos éticos e de reputação de produtos que borram a linha entre utilidade e dependência emocional.
O flerte da OpenAI com o modo adulto havia inquietado alguns de seus investidores, segundo duas pessoas a par do assunto, devido aos riscos de tal produto e seu retorno relativamente pequeno para o negócio.
O modo adulto da OpenAI também havia levantado alerta entre funcionários sobre se buscar um produto que incentiva uso romântico está em desacordo com a missão fundadora da startup de garantir que a IA beneficie toda a humanidade.
Além das crescentes preocupações sobre o impacto social do projeto, a startup também enfrentou desafios técnicos na criação do modo adulto.
A OpenAI teve dificuldades em treinar modelos de IA que anteriormente evitavam tais conversas por razões de segurança para produzir conteúdo explícito, disseram duas pessoas familiarizadas com o projeto. Elas acrescentaram que usar conjuntos de dados incluindo conteúdo sexual apresentava desafios, incluindo a remoção de práticas ilegais, como o incesto.
A OpenAI afirmou que está definindo cuidadosamente os limites adequados e treinando o modelo para distinguir certos conteúdos em cenários com nuances.
Códigos no aplicativo web do ChatGPT sugerem que o modelo adulto, chamado “modo Citron”, pode exigir que os usuários verifiquem ter mais de 18 anos para acessá-lo.
Nos últimos meses, a OpenAI introduziu um novo sistema de previsão de idade após vários processos judiciais movidos por famílias de adolescentes que alegam que o ChatGPT os prejudicou.
A tecnologia tem uma taxa de erro de mais de 10%, disse uma pessoa a par do assunto, aumentando as preocupações sobre acesso de menores.
A OpenAI disse que seu sistema de previsão de idade tem desempenho alinhado com os padrões da indústria, e que continua investindo para melhorar sua precisão e confiabilidade.
Colaborou George Hammond em San Francisco
