Para ter uma ideia do rumo que a inteligência artificial está tomando nas campanhas eleitorais, olhe para a Índia, a maior democracia do mundo, que começa a ir às urnas nesta sexta-feira. Uma versão gerada por IA do primeiro-ministro que foi compartilhada no WhatsApp mostra as possibilidades de alcance hiperpersonalizado em um país com quase 1 bilhão de eleitores. No vídeo — um clipe de demonstração cuja fonte não é clara — o avatar de Narendra Modi se dirige a uma série de eleitores diretamente, pelo nome. No entanto, ele não é perfeito. O premier parece estar usando dois pares de óculos diferentes, e algumas partes do vídeo estão pixeladas.
Os funcionários do partido de Modi estão distribuindo vídeos pelo WhatsApp nos quais seus próprios avatares de IA enviam mensagens pessoais a eleitores específicos sobre os benefícios governamentais que receberam e pedem seu voto. Essas mensagens de vídeo podem ser geradas automaticamente em qualquer um dos dezenas de idiomas da Índia que o eleitor fale. O mesmo pode acontecer com as mensagens telefônicas de chatbots com tecnologia de IA que ligam para os eleitores nas vozes dos líderes políticos e solicitam seu apoio.
Esse tipo de alcance requer uma fração do tempo e do dinheiro gastos em campanhas tradicionais e tem o potencial de se tornar um instrumento essencial nas eleições. Mas, à medida que a tecnologia entra em cena no cenário político, há poucas barreiras para evitar o uso indevido.
Chatbots e vídeos personalizados podem parecer mais ou menos inofensivos. No entanto, os especialistas se preocupam com o fato de que os eleitores terão cada vez mais dificuldade em distinguir entre mensagens reais e sintéticas à medida que a tecnologia avança e se espalha.
— Será como um faroeste em um espaço de IA não regulamentado este ano — disse Prateek Waghre, diretor executivo da Internet Freedom Foundation, um grupo de direitos digitais com sede em Nova Délhi, acrescentando que a tecnologia está entrando em um cenário de mídia já poluído com desinformação.
Em todo o mundo, as eleições se tornaram um campo de testes para o boom da IA. As ferramentas foram usadas para transformar um candidato presidencial argentino em Indiana Jones e em Caça-Fantasmas. Durante as primárias de New Hampshire, nos EUA, os eleitores receberam mensagens de ligações automáticas pedindo que não votassem, em uma voz que provavelmente foi gerada artificialmente para soar como a do presidente Joe Biden.
E na Índia, o Partido Bharatiya Janata (BJP), de Modi, e o partido de oposição Congresso Nacional Indiano acusaram um ao outro de disseminar conteúdo deepfake relacionado às eleições on-line.
Um posto avançado nessa nova fronteira indiana fica no estado desértico do Rajastão, no oeste do país. No andar térreo de um prédio residencial em uma rua empoeirada, Divyendra Singh Jadoun, de 31 anos, que abandonou a faculdade, opera uma startup de IA, a The Indian Deepfaker.
Sua equipe de nove pessoas tem feito comerciais com avatares gerados por IA de atores e atrizes de Bollywood. Mas este ano, partidos e políticos começaram a pedir que ela fizesse por eles o que havia feito pelas celebridades. Segundo Jadoun, das 200 solicitações, 14 foram atendidas.
Entre os que estão recebendo o tratamento de IA está Shakti Singh Rathore, um membro do BJP de 33 anos. Seu trabalho nesta temporada eleitoral é informar o maior número possível de pessoas sobre os programas e as políticas de Modi. Por isso, ele decidiu criar uma réplica de si mesmo.
— A IA é maravilhosa e o caminho a seguir — disse Rathore enquanto se acomodava em frente a uma câmera de vídeo no escritório do The Indian Deepfaker, preparando-se para encarnar sua versão digital. — De que outra forma eu poderia alcançar os tantos beneficiários dos programas de Modi em um período tão curto de tempo?
Enquanto Rathore ajustava um lenço cor de açafrão com o logotipo do partido pendurado em seu pescoço, Jadoun o instruiu:
— Basta olhar para a câmera e falar como se a pessoa estivesse sentada bem na sua frente.
Com cerca de cinco minutos de material, incluindo uma gravação de áudio e fotos de perfil, Jadoun começou a trabalhar. Ela disse que usa sistemas de IA de código aberto e os desenvolve com seu próprio código.
Primeiro, o rosto de Rathore foi isolado de cada quadro da gravação. Em seguida, foram coletados dados de suas características faciais, incluindo o tamanho do rosto e dos lábios, bem como seu olhar. O conjunto de dados foi então inserido em modelos de IA que aprendem a prever padrões faciais.
— É preciso continuar a executar o programa e fazer o ajuste fino do rosto até obter o melhor rosto possível — comentou Jadoun.
Um “algoritmo de clonagem” também analisou a gravação de áudio, aprendendo a cadência e a entonação da voz. De acordo com Jadoun, geralmente leva de seis a oito horas de ajustes para aperfeiçoar o rosto e para que os lábios se sincronizem com as palavras. O restante é amplamente automatizado.
Em uma demonstração, foram necessários cerca de quatro minutos para criar aproximadamente 20 vídeos de saudação personalizados.
Jadoun disse que sua equipe poderia produzir até 10 mil vídeos por dia. Para trabalhos maiores e dentro do prazo, ela alugará unidades de processamento gráfico.
A IA generativa também pode remover barreiras linguísticas, o que é especialmente útil em um país tão diverso. O avatar de Rathore pode ser programado para falar idiomas regionais para alcançar os cantos mais remotos da Índia.
Os partidos políticos não estão apenas enviando mensagens de vídeo aos eleitores, mas também usando vozes clonadas para ligar diretamente para as pessoas, tudo isso com a ajuda de chatbots como o ChatGPT.
No passado, quando um representante do partido ligava para os eleitores, eles desligavam, “mas agora, quando um líder local pronuncia o nome de um eleitor, ele imediatamente chama sua atenção”, afirmou Rathore.
Durante a conversa, o chatbot pergunta sobre programas do governo local que oferecem eletricidade gratuita ou financiamento para startups. Segundo Jadoun, as chamadas foram gravadas e transcritas para controle de qualidade e treinamento de IA.
Rathore afirma que gastou cerca de US$ 24 mil (cerca de R$ 126 mil) de seu próprio dinheiro para alcançar cerca de 1,2 milhão de pessoas por meio de suas mensagens de vídeo e chamadas telefônicas e para receber informações sobre quem não respondeu. Para ele, isso é um investimento em seu futuro com o BJP.
Nikhil Pahwa, editor da MediaNama, que cobre a mídia digital na Índia, disse que as mensagens personalizadas podem ser particularmente poderosas entre os indianos.
— A Índia é um país onde as pessoas adoram tirar fotos com imitadores de celebridades. Portanto, se elas receberem uma ligação, digamos, do primeiro-ministro, e ele falar como se as conhecesse, onde vivem e quais são seus problemas, elas ficarão realmente entusiasmadas com isso — concluiu.
Fonte: O Globo