Os apresentadores de TV americanos, porém, são estrelas em truques de inteligência artificial

Os vídeos, que foram vistos milhares de vezes no Facebook, exaltam os benefícios dos produtos para emagrecimento ou diabetes, explorando a imagem de apresentadores de TV famosos de canais americanos como CBS ou CNN.

Mas esses vídeos são inteiramente feitos por software de Inteligência Artificial (IA). Os “deepfakes”, estas manipulações digitais cada vez mais frequentes e realistas, estão a pôr em perigo a reputação dos meios de comunicação tradicionais.

Algumas emissoras e jornalistas cujas identidades foram roubadas interagiram diretamente com a veiculação desses vídeos manipulados nas redes.

“Nunca ouvi falar ou usei este produto! Não se deixe enganar por esses clipes gerados por IA”, postou a âncora da CBS Gayle King em sua página do Instagram em outubro.

Outros vídeos até usam e distorcem as palavras do bilionário CEO da Tesla, Elon Musk, para fins comerciais.

Estes “deepfakes”, elogiando todo o tipo de produtos e esquemas de investimento duvidosos, referem-se frequentemente a plataformas de comércio eletrónico e sites efémeros, que desaparecem poucos dias depois de serem distribuídos nas redes.

Desde 2020, a Meta – controladora do Facebook e do Instagram – proibiu a distribuição desses vídeos em suas plataformas, com exceção de paródias e alguns conteúdos satíricos. No entanto, estes clips, cujos vários exemplos foram analisados ​​e verificados pela AFP, ainda circulam gratuitamente online.

Reprodução de som

“Há um ressurgimento desse tipo de vídeo usando apenas uma amostra de áudio de dois minutos e reproduzindo a voz de alguém em uma sequência ficcional completamente nova, com movimentos sincronizados da boca”, explica Hani Farid, professor especializado em tecnologia digital da Universidade da Califórnia. , Berkeley.

Personagens audiovisuais, devido à sua presença constante na tela, são alvos fáceis para o treinamento de software de IA.

Esta é uma tendência preocupante porque o público criou um vínculo de familiaridade com estas figuras públicas, cujas identidades foram roubadas, disse Andrea Hickerson, reitora da Escola de Jornalismo da Universidade do Mississippi.

“É realmente perigoso porque as pessoas não esperam que a desinformação se materialize desta forma”, disse ela à AFP.

O conteúdo é então apresentado “como na mídia tradicional”.

“Uma crise de confiança”

O conteúdo manipulado pela IA também desempenha um papel cada vez maior na fraude financeira, que custou aos americanos cerca de 3,8 mil milhões de dólares em 2022, de acordo com cálculos da FTC.

Estas fraudes teriam como alvo pessoas em vários países, incluindo Canadá e Austrália, e custaram a algumas pessoas dezenas, senão centenas, de milhares de dólares.

“Os golpes estão se tornando cada vez mais sofisticados à medida que os criminosos combinam táticas tradicionais de fraude com golpes envolvendo criptomoedas e software de IA”, disse o advogado Chase Carlson em uma postagem de blog publicada no início deste ano.

Os americanos também estão cada vez mais preocupados com o uso da inteligência artificial, especialmente em questões políticas.

Mais de 50% dos americanos esperam que as mentiras geradas pela inteligência artificial tenham consequências nas eleições presidenciais de 2024, de acordo com uma sondagem publicada em Setembro pelo meio de comunicação Axios e pela Morning Consult, uma empresa de investigação económica.

A AFP já analisou vídeos manipulados onde o Presidente dos EUA, Joe Biden, aparece a anunciar uma mobilização geral ou onde a ex-secretária de Estado Hillary Clinton anuncia o seu apoio ao governador republicano da Florida, Ron DeSantis, nas próximas eleições presidenciais.

Apenas um terço dos americanos confia “muito” ou “um pouco” nos meios de comunicação social, de acordo com uma sondagem Gallup realizada em Outubro, igual ao nível mais baixo registado em 2016.

A difusão deste conteúdo, que por vezes pode ser facilmente detectado devido à sua má qualidade, representa, portanto, o risco de alimentar uma “crise de confiança” nos meios de comunicação e nas instituições por parte do público, segundo Rebecca Tromble, diretora do instituto. Para Dados, Democracia e Política na Universidade George Washington.

“Informação de alta qualidade está sempre disponível e, com uma grande dose de ceticismo, podemos distinguir o fato da ficção”, enfatiza o especialista, que recomenda cautela antes de compartilhar qualquer tipo de conteúdo online.