(Washington) Depois da indignação provocada pela transmissão de comentários racistas numa escola secundária americana atribuídos ao diretor da escola, fiquei tonto quando descobri que a banda sonora tinha sido compilada do zero. Este episódio destaca os perigos de a IA se tornar acessível a todos.
Eric Eiswert, diretor de uma escola em Pikesville, Maryland, perto de Washington, se viu no centro de uma violenta controvérsia sobre uma gravação de áudio – que se revelou falsa – dele fazendo comentários chocantes contra estudantes judeus e “crianças negras ingratas”. .”
Este caso, que ocorreu a meio de um ano eleitoral nos Estados Unidos, destaca como é fácil utilizar ferramentas generativas de IA para prejudicar alguém e as dificuldades que as autoridades enfrentam no combate a tais práticas.
“Agora todos estão em risco”, não apenas as celebridades, alerta Hani Farid, professor da Universidade da Califórnia, Berkeley (Oeste).
“Basta uma foto para adicionar uma pessoa a um vídeo e 30 segundos de áudio para reproduzir a voz de alguém”, continua o especialista em detecção de imagens e gravações manipuladas digitalmente, que foi consultado pela polícia neste caso.
Quando a gravação vazou nas redes sociais em janeiro, tornou-se viral. Uma postagem acumula milhares de comentários no Instagram, colocando a escola no centro de um debate nacional.
O ativista dos direitos civis DeRay McKesson pede a renúncia do diretor em sua conta X, seguida por quase um milhão de internautas. Ele admitirá ter sido abusado.
Mensagens de ódio estão inundando as redes sociais e telefonemas ameaçadores estão aumentando na organização. “O mundo seria melhor se você estivesse no subsolo”, escreveu um internauta ao diretor da escola.
Este último foi colocado em licença e sua casa foi colocada sob proteção. Contactado pela Agence France-Presse, não respondeu.
vingança
“Ainda estou preocupado com os danos causados por este caso”, diz Billy Burke, o diretor sindical que representa o diretor da escola.
No final de abril, as autoridades prenderam Dazon Darin, 31 anos, diretor esportivo de uma escola secundária, sob a acusação de estar por trás da fraude. Os investigadores rastrearam o endereço de e-mail que inicialmente compartilhou o arquivo.
Ele iria agir para retaliar a investigação aberta contra ele pelo diretor da escola sobre pagamentos suspeitos.
O réu realizou uma busca por ferramentas de inteligência artificial na rede de computadores da escola, segundo a acusação.
A trilha sonora, segundo análise de especialista consultado pela polícia, “contém vestígios de conteúdo gerado por inteligência artificial, com posterior edição humana”.
O promotor distrital Scott Shellenberger disse que este caso ilustra a necessidade de “adaptar a lei aos avanços da tecnologia”.
Muitas escolas secundárias americanas já têm de lutar contra os estudantes que distribuem imagens pornográficas dos seus colegas captadas através de inteligência artificial generativa, uma prática que tem causado terríveis ondas de assédio.
A montagem de áudio é especialmente difícil de detectar. Em janeiro passado, uma mensagem transmitida por chamadas telefónicas automatizadas simulando a voz do presidente Joe Biden incentivou os eleitores democratas do estado de New Hampshire (nordeste do país) a absterem-se de votar nas eleições primárias do partido.
Em Pikeville, o caso abalou os moradores, que são “muito próximos uns dos outros”, diz Parker Bratton, treinador de golfe de uma escola secundária.
“Existe apenas um chefe, mas existem um milhão de gerentes!” “As pessoas perguntam: o que acontecerá comigo se alguém decidir arruinar minha carreira?” “.