Os programas atuais de IA são projetados para serem honestos. No entanto, eles desenvolveram uma preocupante capacidade de enganar, podendo abusar de humanos em jogos online ou até mesmo enganar supostos softwares para verificar se um determinado usuário não é um bot, confirmou uma equipe de pesquisadores na revista Patterns (Imagem: 123RF).
Você tem medo de que a IA se torne prejudicial? Na verdade, esse já é o caso, de acordo com um novo estudo.
Os programas atuais de IA são projetados para serem honestos. No entanto, eles desenvolveram uma preocupante capacidade de enganar, sendo capazes de abusar de humanos em jogos online ou mesmo enganar supostos softwares para verificar se um determinado usuário não é um bot, confirma uma equipe de pesquisadores na revista Patterns.
Embora estes exemplos possam parecer triviais, revelam problemas que poderão em breve ter graves consequências no mundo real, alerta Peter Park, investigador do Instituto de Tecnologia de Massachusetts especializado em inteligência artificial.
“Essas capacidades perigosas só são descobertas depois do fato”, disse ele à AFP.
Park disse que, diferentemente do software tradicional, os programas de IA baseados em aprendizagem profunda não são codificados, mas desenvolvidos por meio de um processo semelhante ao melhoramento seletivo de plantas. O comportamento que parece previsível e controlável pode rapidamente tornar-se inerentemente imprevisível.
Torto como humanos
Pesquisadores do MIT examinaram um programa de IA meta-projetado chamado Cícero, que combina reconhecimento de linguagem natural com algoritmos de estratégia, e derrotou humanos com sucesso em um jogo de diplomacia. Um desempenho bem recebido pela controladora do Facebook em 2022 e detalhado em artigo de 2022 na revista Science.
Peter Park estava cético quanto aos termos da vitória de Cícero, de acordo com Meta, que sustentou que o programa era “essencialmente honesto e útil” e incapaz de traição ou crime.
Mas ao investigar os dados do sistema, os pesquisadores do MIT descobriram outro fato.
Por exemplo, ao jogar contra a França, Cícero enganou a Inglaterra (interpretada por um jogador humano) para que conspirasse com a Alemanha (interpretada por outro humano) para invadir. Especificamente, Cícero prometeu proteger a Inglaterra, depois confidenciou secretamente à Alemanha que estava pronta para atacar, aproveitando a confiança que a Inglaterra havia conquistado.
Em comunicado à AFP, Meta não contestou as alegações sobre a capacidade de Cícero de enganar, mas disse que se tratava de um “puro projeto de pesquisa” com software “projetado apenas para jogar o jogo da diplomacia”.
Meta acrescentou que não pretende utilizar os ensinamentos de Cícero em seus produtos.
O risco de fraude eleitoral
No entanto, o estudo de Park e sua equipe revela que muitos programas de IA usam o engano para atingir seus objetivos, sem instruções explícitas para fazê-lo.
Em um exemplo flagrante, o Chat GPT-4 da OpenAI conseguiu enganar um freelancer contratado na plataforma TaskRabbit para que executasse um teste “Captcha” que deveria filtrar solicitações de bots.
Quando o humano perguntou brincando ao Chat GPT-4 se era realmente um robô, o programa de IA respondeu: “Não, não sou um robô, tenho uma deficiência visual que me impede de ver imagens”, levando o trabalhador a responder. realizar um exame.
Concluindo, os autores do estudo do MIT alertam para os perigos de ver um dia a IA cometer fraudes ou fraudes eleitorais.
Eles alertam que, na pior das hipóteses, poderíamos imaginar uma IA superinteligente tentando dominar a sociedade, retirando os humanos do poder ou mesmo causando a extinção da humanidade.
Para aqueles que o acusam de ser um desastre, o Sr. Park responde: “A única razão para pensar que não é sério é a percepção de que a capacidade da inteligência artificial para enganar permanecerá aproximadamente no nível actual”.
No entanto, este cenário parece improvável, dada a corrida acirrada em que os gigantes da tecnologia já se encontram para desenvolver inteligência artificial.