A OpenAI, responsável pela plataforma de inteligência artificial ChatGPT, apresentou nesta quarta-feira (27) um plano voltado para o combate à desinformação eleitoral no Brasil e nos Estados Unidos. O objetivo central da iniciativa é "proteger as eleições" da propagação de notícias falsas geradas pelo sistema de IA.

Entre as ações planejadas, destaca-se um acordo com a Associated Press, que permitirá a contagem de votos em tempo real durante as eleições nos dois países. A empresa também se comprometeu a monitorar a imparcialidade política do ChatGPT e a combater o uso indevido de inteligência artificial para fins políticos.

Um dos pontos principais abordados no comunicado diz respeito aos deepfakes, tecnologia que possibilita a criação de vídeos realistas nos quais indivíduos aparecem fazendo ou dizendo coisas que nunca ocorreram. Para enfrentar essa problemática, a OpenAI anunciou investimentos em uma estratégia multifacetada de procedência digital, que buscará permitir aos usuários verificar se o conteúdo visualizado foi gerado ou alterado por meio de IA.

A proposta inclui a disponibilização de ferramentas que possibilitem aos usuários identificar se imagens foram criadas pelo ChatGPT, Codex ou pela API da OpenAI, utilizando marcas d'água digitais. Entretanto, a empresa não detalhou como essas marcas serão implementadas, se serão aplicadas exclusivamente a figuras políticas, qual será o método de identificação e se haverá diferenças entre usuários do plano gratuito e aqueles que assinam planos premium.

Além disso, a OpenAI mencionou que colaborará com redes sociais para coibir a disseminação de informações falsas, mas não especificou quais plataformas estarão envolvidas ou de que maneira isso será realizado. O comunicado ressalta que, considerando que muitos usuários encontram conteúdo gerado por IA em mídias sociais e aplicativos de mensagens, a colaboração será essencial para proteger as eleições, utilizando marcadores de procedência como um critério relevante para a recomendação de conteúdos cívicos.

Em um contexto mais amplo, em maio, a OpenAI firmou um acordo bilionário com o Departamento de Defesa dos Estados Unidos, logo após o presidente Donald Trump banir a Anthropic, concorrente da OpenAI, que havia sido incluída na lista negra do governo devido a preocupações com a segurança no uso de suas ferramentas em conflitos.