O Instituto Nacional de Padrões e Tecnologia (NIST) dos Estados Unidos atualizou suas diretrizes para cientistas que trabalham com o Instituto de Segurança de Inteligência Artificial dos EUA (AISI).
A principal mudança foi a remoção de referências à segurança da IA, justiça algorítmica e combate à desinformação. Em seu lugar, o novo texto enfatiza a redução de viés ideológico e o fortalecimento da competitividade econômica americana.
As mudanças fazem parte de um acordo de pesquisa e desenvolvimento cooperativo enviado aos membros do consórcio do AI Safety Institute no início de março. Antes dessa reformulação, os pesquisadores eram incentivados a trabalhar no desenvolvimento de ferramentas para detectar viés algorítmico relacionado a gênero, raça e classe social, preocupações fundamentais para garantir o uso equitativo da IA.
Agora, o foco principal passa a ser a supremacia dos EUA no setor de inteligência artificial. Essa mudança levanta preocupações de especialistas que acreditam que a nova abordagem pode resultar em um futuro onde sistemas de IA perpetuam discriminação e espalhem desinformação sem qualquer controle.
Além de abandonar o compromisso com justiça algorítmica, o novo documento remove qualquer menção a mecanismos para rastrear desinformação e deep fakes, bem como o desenvolvimento de ferramentas para autenticação de conteúdo e sua procedência.
A decisão vem num momento crítico em que o mundo debate os impactos da IA na democracia e na manipulação da informação. Com deep fakes cada vez mais sofisticados, especialistas temem que a ausência de regulamentação sobre rotulagem de conteúdos sintéticos facilite a disseminação de notícias falsas e campanhas de desinformação massivas.
Além disso, a mudança sinaliza uma redução no esforço de mitigação de vieses algorítmicos. Esses vieses já foram amplamente documentados e podem impactar negativamente grupos minoritários, trabalhadores de baixa renda e comunidades marginalizadas.
A reestruturação da agenda do AI Safety Institute acontece em meio a uma forte interferência política no setor de inteligência artificial nos EUA. Desde janeiro, o chamado Departamento de Eficiência Governamental (DOGE), impulsionado por Elon Musk, tem implementado cortes no funcionalismo público e eliminado regulamentações consideradas um entrave para a inovação.
Musk, que comanda a xAI — concorrente da OpenAI e do Google — tem sido uma voz ativa contra modelos de IA que considera "woke".
O bilionário frequentemente critica abordagens que buscam mitigar viés ideológico em modelos de linguagem, argumentando que essas ferramentas acabam promovendo agendas políticas progressistas.
Pesquisadores do setor acreditam que essas mudanças refletem a influência da Casa Branca, que agora vê regulação da IA como um obstáculo ao domínio econômico dos EUA.
Para muitos especialistas, a eliminação da segurança e da justiça da IA das diretrizes do NIST representa um risco significativo para o futuro da tecnologia. Um pesquisador anônimo que trabalha com o AI Safety Institute criticou as alterações, alegando que, ao ignorar os riscos da IA, o governo está permitindo o desenvolvimento de sistemas discriminatórios e inseguros.
"A menos que você seja um bilionário da tecnologia, isso levará a um futuro pior para você e para as pessoas com quem você se importa. Espere que a IA seja injusta, discriminatória, insegura e implantada de forma irresponsável.", disse ao site Wired.
Outro especialista questionou a nova diretriz que prioriza o "florescimento humano". Segundo ele, o conceito é vago e subjetivo, e pode ser usado para justificar decisões que excluam regulamentações importantes.
Estudos recentes mostram que os modelos de IA podem influenciar a política tanto para a direita quanto para a esquerda. Um relatório de 2021 sobre o algoritmo de recomendação do Twitter revelou que a plataforma favorecia conteúdos de direita, impulsionando sua visibilidade.
Essa influência indireta levanta preocupações sobre como modelos de IA podem ser manipulados para atender a interesses políticos, especialmente num ambiente sem regulamentação clara e controle sobre viés ideológico.
A mudança de enfoque do AI Safety Institute faz parte de uma revisão mais ampla das políticas de IA dos EUA, que começou após a posse de Trump. Em janeiro, o governo revogou uma ordem executiva da administração Biden, que estabelecia diretrizes para uso seguro e responsável da IA.
O novo texto deixa claro que a prioridade agora é impulsionar a competitividade dos EUA, com pouca ou nenhuma preocupação com segurança, justiça ou ética na inteligência artificial.
Ao discursar no AI Action Summit em Paris, o vice-presidente JD Vance reforçou esse posicionamento ao afirmar:
"O futuro da IA não será conquistado com lamentações sobre segurança."
