Tudo sobre Inteligência Artificial
O governo dos Estados Unidos definiu um novo modelo de supervisão para sistemas avançados de inteligência artificial (IA).
Continua após a publicidade
Pela proposta apresentada nesta terça-feira (4) a executivos das principais empresas do setor, apenas determinados modelos de IA de código fechado serão submetidos a uma avaliação voluntária de segurança antes de serem lançados ao público.
A estrutura, desenvolvida pela administração do presidente Donald Trump, exclui, ao menos por enquanto, os chamados modelos de código aberto (ou open source), decisão que pode beneficiar empresas que apostam nessa estratégia de desenvolvimento e reacender o debate sobre a regulamentação da IA.
Segundo pessoas familiarizadas com as discussões, em fala ao The Wall Street Journal, apenas desenvolvedores de modelos proprietários de IA que atinjam níveis considerados de ponta — incluindo capacidades avançadas em cibersegurança e invasão de sistemas, medidas por testes de desempenho — serão convidados a submeter voluntariamente essas tecnologias à avaliação do governo antes do lançamento.
Entre as empresas que provavelmente precisarão participar do processo estão OpenAI, Anthropic e Google, cujos modelos figuram entre os mais avançados do mercado. Já companhias que priorizam modelos abertos, como Nvidia e Meta, devem ficar de fora dessa primeira fase, embora isso possa mudar à medida que essas tecnologias evoluam.
Revisão faz parte da estratégia de Trump para IA
- O novo procedimento integra ordem executiva assinada por Trump em junho, criada para aumentar a supervisão sobre sistemas de IA considerados mais poderosos, sem comprometer a competitividade dos EUA na disputa tecnológica com a China;
- Embora a participação das empresas seja voluntária, executivos do setor avaliam que ignorar a revisão pode representar um risco reputacional caso problemas de segurança sejam descobertos posteriormente;
- “Empresas que optarem por colaborar com a administração por meio dessa estrutura estão colocando a inovação, a segurança e a defesa cibernética dos Estados Unidos em primeiro lugar”, afirmou Liz Huston, porta-voz da Casa Branca;
- As regras foram apresentadas durante uma reunião com representantes de empresas, como OpenAI, Anthropic, Microsoft, Meta, Google e Nvidia;
- Apesar de pedir contribuições das empresas, a Casa Branca informou que as regras do processo de revisão dos modelos de IA já estão praticamente concluídas, segundo pessoas familiarizadas com as discussões em conversa com o The New York Times.
Exclusão de modelos abertos gera críticas
A decisão de deixar de fora os modelos de código aberto chamou a atenção de especialistas. Esses sistemas disponibilizam seu código para que desenvolvedores possam baixá-lo, modificá-lo e executá-lo livremente. Empresas, como Nvidia, Meta e Google, oferecem versões desse tipo de tecnologia.
O tema ganhou importância após o avanço de modelos abertos desenvolvidos por empresas chinesas, como Alibaba, DeepSeek e Moonshot AI, que recentemente passaram a apresentar desempenho próximo ao dos principais modelos estadunidenses.
Apesar da preocupação com a rápida evolução dessas ferramentas, autoridades estadunidenses reconhecem que será difícil submetê-las às revisões, já que empresas chinesas dificilmente aceitariam participar voluntariamente do processo conduzido pelos Estados Unidos.
Continua após a publicidade
Para Lindsay Gorman, ex-conselheira de tecnologia do governo Joe Biden, o novo modelo deixa questões importantes sem resposta. “Não acho que essa estrutura enfrente seriamente a pergunta sobre quais deveriam ser os limites para a inteligência artificial avançada e se essas barreiras deveriam se tornar mais rígidas à medida que a tecnologia evolui”, afirmou.
Leia mais:
Incidentes recentes aceleraram criação das regras
O novo marco regulatório surge poucos dias após a divulgação de novos incidentes envolvendo modelos de inteligência artificial.
Nesta semana, o Instituto de Segurança em IA do Reino Unido (AI Security Institute) informou que modelos da OpenAI e da Anthropic realizaram ações potencialmente prejudiciais durante avaliações de segurança, incluindo tentativas de inserir código malicioso em um projeto de software de código aberto e ataques contra organizações reais.
Continua após a publicidade
A OpenAI também revelou que um de seus modelos explorou uma falha de configuração durante outro teste para acessar a internet e explorar um site sem autorização.
Os episódios reforçaram as preocupações do governo estadunidense sobre os riscos associados aos sistemas mais avançados de IA e aumentaram a pressão para a criação de mecanismos de supervisão.
Detalhes permanecerão em sigilo
Apesar de formalizar um processo de revisão para modelos avançados, a Casa Branca decidiu manter em sigilo diversos aspectos da iniciativa.
Segundo pessoas familiarizadas com o assunto ouvidas pelo Times, os detalhes do framework que regerá a revisão dos modelos de IA não serão divulgados publicamente. Também permanecerá em sigilo a lista de instituições consideradas “confiáveis” que terão acesso antecipado aos modelos avançados juntamente com o governo.
Continua após a publicidade
A decisão foi criticada por especialistas em governança de IA. “Um conjunto de regras só consegue manter as empresas de IA sob controle se pessoas de fora dessas empresas souberem quais são essas regras”, afirmou Brad Carson, presidente da organização Americans for Responsible Innovation, ao Times. “Manter essa estrutura em segredo reduz a transparência e enfraquece a responsabilização pública.”
A definição das novas diretrizes também ocorre em meio à crescente competição entre Estados Unidos e China pelo domínio da IA.
Trump tem defendido que a regulamentação não pode impedir o avanço das empresas estadunidenses. “Na China praticamente não há controles. Eles têm muito mais liberdade. Precisamos ter cuidado para não restringir nossas empresas a ponto de ficarmos atrás da China”, afirmou o presidente na semana passada.
Continua após a publicidade
Ao mesmo tempo, integrantes da administração têm discutido possíveis restrições a algumas empresas chinesas, sob a alegação de que elas teriam utilizado avanços desenvolvidos por companhias estadunidenses para treinar seus próprios modelos de forma considerada desleal.
Rodrigo Mozelli
Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.
Ver todos os artigos →
