As ameaças de bioterrorismo estão aumentando devido aos avanços da inteligência artificial e da biologia sintética, alertaram cientistas, após pesquisadores encontrarem uma “vulnerabilidade marcante” em um software que protege o acesso a material genético usado na fabricação de proteínas letais.
Uma equipe internacional lançou atualizações para fechar a brecha, mas afirmou que se tratava do primeiro “zero day” da IA e da biossegurança —termo usado em ataques cibernéticos para descrever um ponto cego desconhecido pelo desenvolvedor do software.
A notícia destaca a crescente urgência em lidar com potenciais ameaças liberadas pelo uso da IA, que aprofunda e acelera a compreensão dos sistemas vivos e de como modificá-los. Especialistas buscam prevenir a criação de armas biológicas e organismos sintéticos que poderiam ameaçar a vida na Terra.
“A concepção de proteínas com apoio da IA é uma das fronteiras mais empolgantes da ciência [e] já estamos vendo avanços em medicina e saúde pública”, disse Eric Horvitz, diretor científico da Microsoft e autor sênior da pesquisa publicada na revista Science nesta quinta-feira (2). “Ainda assim, como muitas tecnologias poderosas, essas mesmas ferramentas também podem ser mal utilizadas.”
Os pesquisadores testaram o software de biossegurança usado para rastrear pedidos de clientes de empresas que vendem ácidos nucleicos sintéticos.
Esses ácidos são usados pelos clientes para construir DNA que instrui a fabricação de proteínas desejadas, os blocos fundamentais da vida. A triagem de biossegurança é projetada para impedir a venda de materiais que possam ser usados na produção de proteínas nocivas.
Os cientistas utilizaram softwares de código aberto de design de proteínas com IA para gerar representações computacionais de mais de 75 mil variantes de proteínas perigosas com alterações estruturais —uma espécie de disfarce bioquímico. Embora as ferramentas de triagem tenham funcionado bem para identificar proteínas naturalmente perigosas, elas não detectaram algumas das versões alteradas, descobriram os pesquisadores.
Mesmo depois que todas, exceto uma das empresas, aplicaram as correções de software, cerca de 3% das variantes de proteínas com maior probabilidade de manter funções nocivas ainda passaram pelo monitoramento sem serem detectadas.
Os cientistas trabalharam com organizações como o International Gene Synthesis Consortium e autoridades dos EUA para resolver o problema.
A pesquisa ocorre após alguns cientistas renomados pedirem uma avaliação sistemática dos softwares de triagem de biossegurança e uma governança global aprimorada da síntese de proteínas potencializada por IA.
Biólogos de destaque também pressionam por um acordo internacional para evitar a criação de possíveis micróbios artificiais letais, caso se torne tecnologicamente viável produzi-los.
Horvitz afirmou que houve uma “intensidade de reflexão, estudo e metodologia” em torno da possibilidade de que modelos de linguagem de grande escala possam ser usados para fomentar “ações malévolas com biologia”.
A Microsoft já havia incorporado essas possibilidades em suas revisões de segurança de produtos e desenvolvido um “conjunto crescente de práticas” de “red-teaming”, ou seja, a busca por potenciais vulnerabilidades.
O estudo publicado na Science destacou uma “questão urgente na engenharia de proteínas e na biossegurança”, disse Francesco Aprile, professor associado de química biológica no Imperial College London.
“Com a introdução de melhorias direcionadas no software existente, os autores aumentam significativamente a detecção e o alerta”, afirmou Aprile. “Esse trabalho fornece uma salvaguarda prática e oportuna que fortalece a triagem atual da síntese de DNA e estabelece uma base sólida para otimizações contínuas.”
Essas defesas precisam ser reforçadas rapidamente devido ao ritmo acelerado dos avanços técnicos na área, alertou Natalio Krasnogor, professor de ciência da computação e biologia sintética na Universidade de Newcastle. Embora os aspirantes a bioterroristas de hoje precisem de conhecimento especializado, tempo e recursos financeiros para realmente fabricar proteínas nocivas, essas barreiras tendem a diminuir.
“Precisamos, como sociedade, levar isso a sério agora”, disse Krasnogor, “antes que avanços adicionais em IA tornem a validação e a produção experimental de toxinas sintéticas viáveis muito mais fáceis e baratas do que são hoje.”
