Resumo: Na Casa Branca, o governo dos EUA e grandes empresas de IA anunciaram um acordo voluntário com controles de segurança para modelos de IA. Críticos temem risco à saúde pública e à democracia; dúvidas sobre auditorias externas pagas pelas próprias empresas; exemplo da Moratória da soja na Amazônia destaca fragilidade de pactos voluntários.
Casa Branca, EUA — Em reunião realizada na terça-feira, 29, autoridades dos Estados Unidos anunciaram um acordo voluntário entre o governo e gigantes de IA (OpenAI, Meta, Anthropic, Google, Nvidia e X, antigo Twitter) para estabelecer mecanismos de autorregulação e controles de segurança nos modelos de inteligência artificial.
Entre as medidas destacadas está a adoção de “controles internos” para monitorar os modelos e assegurar que não haja invasão ou acesso não intencional a sistemas técnicos, conforme o texto do acordo.
Segundo informações da Agência Brasil, parceira do PrimeiroJornal, o sociólogo Sérgio Amadeu, da UFABC, avalia que o movimento parece transferir para as próprias empresas a gestão democrática do desenvolvimento da IA, o que ele classifica como um risco significativo para a democracia. Em entrevista, ele disse que o treinamento de IA já exige controles robustos e que o monitoramento interno, por si só, não regula usos indevidos.
“O que o Trump fez foi entregar completamente e de modo irresponsável o controle democrático do desenvolvimento da IA para a própria corporação que a desenvolve. Isso é um risco gigantesco”, avaliou.
Sobre a auditoria externa independente, Amadeu questiona que esse mecanismo seria pago pela própria empresa, o que comprometeria a independência e poderia favorecer o interesse de acionistas. “Até que ponto esse auditor externo pago pela própria empresa vai fazer críticas e sugestões que vão criar descontentamento do conselho de acionistas das empresas?”
Benefícios frágeis
No lado positivo, Ettore Arpini, especialista em governança de IA e fundador da Plures, disse à Agência Brasil que o acordo voluntário pode trazer benefícios reais se mantiver o equilíbrio entre inovação e responsabilidade. Contudo, ele alerta que proteções podem ser abandonadas se pesarem demais nos negócios.
Arpini cita a Moratória da Soja na Amazônia como exemplo de acordo voluntário que funcionou por cerca de 20 anos, até mudanças políticas e econômicas levarem membros a deixar o pacto. A pergunta, segundo ele, é o que ocorre se uma empresa recuar de uma auditoria ou deixar o acordo.
Saúde Pública
O debate sobre impactos à saúde pública e à democracia ganha relevância diante da possibilidade de que acordos voluntários sejam insuficientes para regular o avanço da IA, segundo especialistas ouvidos pela reportagem.
O ambiente regulatório para IA permanece em debate, com especialistas discutindo a eficácia de pactos voluntários diante do avanço da tecnologia.
Resumo Jornalístico
Local: São Paulo (SP) • Data: 06.09.2024 • Tema: Inteligência Artificial (IA), seus riscos e a necessidade de regulação estatal.
Sérgio Amadeu da Silveira, sociólogo e professor da UFABC, destaca riscos ambientais, de privacidade e de saúde pública associados à IA, além de implicações para a democracia.
A íntegra dos apontamentos reforça a importância de regulação pública, especialmente em contextos de pesquisa farmacêutica com participação de grandes empresas de tecnologia.
O alerta aponta para cenários em que o controle da IA fica concentrado em investidores, o que ele classifica como um risco relevante para a saúde coletiva.
O sociólogo Sérgio Amadeu da Silveira, reconhecido pesquisador da UFABC, afirma que a inteligência artificial acarreta riscos ambientais significativos, incluindo elevado consumo de energia e de água, além de preocupações quanto à privacidade decorrentes de vigilância em massa que pode acompanhar o uso da tecnologia.
Ele também liga a IA a pesquisas farmacêuticas desenvolvidas em parceria com grandes empresas de tecnologia, sugerindo que tais vínculos exigem atenção especial por parte do Estado para evitar impactos adversos à saúde da população.
“Sabemos que quando o uso de IA fica sob controle apenas de investidores, isso traz um risco gigantesco para experimentos e ações que coloquem em risco a saúde pública”, afirmou o pesquisador.
“Quando nós estamos tratando de fenômenos ligados à chamada saúde pública e que incluam a parceria de grandes big techs com indústrias químicas e de farmacos, é um risco muito grande e, portanto, precisa de uma regulamentação estatal democrática”, concluiu Amadeu.
Temor social
O governo dos Estados Unidos tem resistido a impor limites ao desenvolvimento da IA, mesmo diante de pressões internas da indústria e da sociedade.
Uma pesquisa conduzida pela Ipsos em parceria com a Reuters aponta que 73% dos americanos entendem que as empresas de IA não tomam medidas suficientes para impedir danos à sociedade, e 39% veem impactos negativos da tecnologia.
Entre os riscos citados, destacam-se ataques cibernéticos facilitados pela IA, efeitos sobre o mercado de trabalho e usos criminosos da tecnologia para golpes digitais.
Outros riscos associados à IA incluem impactos na democracia e violações de privacidade.
Democracia
Ainda conforme o relatório IA Safety Report 2026, elaborado por um conjunto de 100 especialistas de mais de 30 países, a IA pode influenciar a opinião pública por meio da manipulação de informações disseminadas nas redes sociais.
Diversos estudos indicam que a interação com sistemas de IA pode provocar mudanças mensuráveis nas crenças das pessoas, ampliando preocupações sobre a qualidade do debate público. O documento também aponta riscos ligados ao desenvolvimento de armas químicas e biológicas, com sistemas de IA de uso geral potencialmente fornecendo informações sobre patógenos e instruções de laboratório.
Matéria ampliada às 13h13.
Crédito: “TV PUC/Reprodução”
Observação: o material acima reproduz informações apresentadas pelo pesquisador e referências citadas na cobertura original, com foco na necessidade de debates públicos e regulações que acompanhem a evolução da IA, preservando a saúde pública e a integridade democrática.
