Acordo voluntário de segurança em IA gera debate sobre riscos e fiscalização

O acordo voluntário anunciado pelo governo dos Estados Unidos e grandes empresas de inteligência artificial (IA) abriu um debate sobre os limites da autorregulação no setor. O compromisso, firmado na terça-feira (29/9) na Casa Branca, envolve empresas como OpenAI, Meta, Anthropic, Google, Nvidia e X e prevê, entre outras medidas, controles internos de segurança e auditorias independentes. Segundo a Reuters, o pacto estabelece compromissos para reduzir riscos relacionados ao uso dos sistemas, embora não tenha caráter legal obrigatório.

O sociólogo Sérgio Amadeu, professor da Universidade Federal do ABC (UFABC), criticou o modelo e afirmou que a iniciativa transfere para as próprias empresas parte relevante do controle sobre o desenvolvimento da tecnologia. Ele questionou também a efetividade das auditorias externas quando os custos são pagos pelas companhias avaliadas. Para Amadeu, a IA envolve riscos que vão além da segurança digital, incluindo privacidade, vigilância em massa, impactos ambientais, saúde pública e democracia.

Leia também:

Já o especialista em governança de IA Ettore Arpini, fundador da organização Plures, afirmou que compromissos voluntários podem produzir resultados concretos, mas alertou para a possibilidade de empresas abandonarem acordos quando as medidas de proteção entrarem em conflito com interesses comerciais. Ele citou como exemplo a Moratória da Soja na Amazônia, acordo voluntário que, segundo sua avaliação, funcionou por duas décadas antes de mudanças no ambiente político e econômico alterarem a adesão das empresas.

Os riscos associados ao avanço da IA também são apontados por pesquisas e relatórios internacionais. Uma pesquisa Reuters/Ipsos divulgada em setembro mostrou que 73% dos americanos consideram que as empresas do setor não fazem o suficiente para evitar consequências potencialmente graves da tecnologia, enquanto 39% disseram que a IA tem impacto negativo na sociedade. Já o International AI Safety Report 2026, elaborado com a participação de mais de 100 especialistas de mais de 30 países, aponta riscos relacionados a ataques cibernéticos, desenvolvimento de armas biológicas e químicas e impactos sobre mercados de trabalho e autonomia humana. O relatório também afirma que a maior parte das iniciativas de gestão de riscos da indústria ainda é voluntária.