Os EUA não devem permitir a venda de chips poderosos ou equipamentos para fabricação deles à China como uma das medidas para evitar o risco de governos autoritários construírem modelos de Inteligência Artificial mais poderosos do que os fabricados pelos americanos. A defesa dessa ideia consta de uma carta do CEO da Anthropic, Dario Amodei, divulgada nesta segunda-feira, 27.
Para o CEO, a venda desses chips pode levar não apenas o Partido Comunista Chinês (PCC), mas outros governos, a usá-los para alcançar superioridade militar permanente ou perpetrar uma repressão extremamente severa contra seus próprios cidadãos.
“A China tem capacidade de produção doméstica limitada e, portanto, devido às leis de escalonamento, não pode construir modelos mais poderosos que os dos EUA sem chips americanos”, escreveu Amodei, salientando, contudo, que a Anthropic nunca defendeu a proibição de modelos de códigos abertos.
A restrição à venda de chips poderosos à China, na visão do executivo, é a maneira mais eficiente e direta de bloquear a ameaça de “regimes autoritários roubarem e usarem IA para fortalecer suas capacidades militares, de inteligência e de vigilância”. A posição de Amodei ocorre em meio a um acirrado debate sobre o tema.
Outra preocupação secundária manifestada por Amodei é quanto ao risco de que modelos de IA poderosos possam ser usados indevidamente para realizar ataques cibernéticos ou biológicos. “Modelos de códigos abertos – independentemente de serem originários da China ou de qualquer outro lugar – representam um risco potencialmente maior do que modelos fechados, pois é muito difícil aplicar salvaguardas ou monitorá-los”, escreveu.
Amodei defendeu ainda a repressão das operações de destilação em escala industrial. A destilação é o processo de utilizar respostas de um chatbot ou o conteúdo produzido por um modelo avançado de IA para treinar outro modelo.
“A destilação é um processo computacionalmente muito mais eficiente do que treinar modelos do zero. Ela permite que a China construa modelos muito melhores do que o número de chips que possui normalmente permitiria, e assim, contornar parcialmente as proibições de chips”, disse Amodei na carta.
