O Papa na Cimeira do G7: A Inteligência Artificial não deve condenar a humanidade à dependência das máquinas

Delphine Allaire – Cidade do Vaticano

O governo da Igreja Católica está a explorar a ferramenta tecnológica crucial da época: a inteligência artificial generativa. Há vários anos, na plataforma das Nações Unidas em Genebra ou em Cascina Pio IV, sede das Pontifícias Academias das Ciências e das Ciências Sociais, o Vaticano tem vindo a aperfeiçoar a sua visão da inteligência artificial, alertando para alguns dos seus limites morais ambíguos, e com toda firmeza. Apelo para “algorítmico”, Ou ética na inteligência artificial.

Esta sexta-feira, o Papa falou pela primeira vez perante os chefes de Estado e de governo do G7 reunidos em torno de uma grande mesa oval rodeada por oliveiras típicas do sul de Itália. Sentado entre o presidente francês Emmanuel Macron e a presidente do Conselho italiano, Giorgia Meloni, o papa argentino sublinhou imediatamente o entusiasmo que a inteligência artificial desperta, graças ao potencial criativo dos humanos – dado por Deus – e revela um medo palpável no mundo. Veja também os riscos inerentes ao uso desta ferramenta extremamente poderosa “Fascinante” que “enorme“.

A inteligência artificial nem sempre está orientada para o bem

Uma contradição indica uma realidade “Revolução Industrial Cognitiva” em curso, o que, segundo Francisco, contribuirá claramente para a criação de uma nova ordem social caracterizada por transformações históricas complexas: a democratização do acesso ao conhecimento, o progresso acelerado da investigação científica, a possibilidade de confiar trabalhos difíceis às máquinas; Mas há também uma maior desigualdade entre os países ricos e os países em desenvolvimento, entre as classes sociais dominantes e as classes sociais oprimidas, o que coloca em risco “Cultura do encontro” Favor “Cultura de rejeição.

Como tudo A ferramenta emitida porHomo faberÉ evidente que os benefícios e malefícios da inteligência artificial dependerão da sua utilização. No entanto, esta utilização nem sempre é orientada apenas para o bem, sublinha François, convencido de que as ferramentas tecnológicas só se revelarão se for garantida a sua vocação ao serviço do ser humano. “Isso diz respeito não apenas à grandeza e à dignidade única do homem, mas também ao mandato que lhe foi dado de ‘cultivar e proteger’ o planeta e todos os seus habitantes (ver Gn 2:15).”

Ser humano significa decidir, não apenas escolher

Portanto, segundo o Papa, é claro que falar de tecnologia equivale a falar “Sobre o que significa ser humano” E “Pela nossa situação única entre liberdade e responsabilidade, ou seja, falar sobre moralidade.” Na realidade, O Bispo de Roma sublinha que uma ferramenta simples permanece sob o controlo do ser humano que a utiliza, ao contrário da inteligência artificial, que pode adaptar-se de forma independente à tarefa que lhe é atribuída e, se concebida desta forma, faz escolhas independentes do ser humano para consiga. Alvo específico. Assim, uma pessoa decide em seu coração. A máquina apenas escolhe entre diversas possibilidades com base em critérios específicos ou em conclusões estatísticas.

Portanto, Francisco insiste que a decisão deve sempre ser deixada ao homem. “Mesmo nos momentos dramáticos e urgentes, ele às vezes aparece em nossas vidas.” “Condenaremos a humanidade a um futuro sem esperança se privarmos as pessoas da sua capacidade de decidir por si mesmas e pelas suas vidas, e as condenarmos à dependência das escolhas das máquinas.” Ele enfatizou, ligandoGarantir e proteger uma grande área de controle humano sobre o processo de seleção de programas de inteligência artificial.porque “A própria dignidade humana” Depende.

Khalifa Boutros cita a situação concreta dos conflitos armados em que se tornou urgente repensar o desenvolvimento e utilização de meios como “Armas Autônomas Letais” Proibir a sua utilização, começando já com um compromisso dinâmico e concreto de introduzir um controlo humano cada vez mais importante. “Nenhuma máquina deveria escolher acabar com uma vida humana.

Outra tentação que surge da complexidade da IA, identificada pelo Papa, é tirar conclusões gerais, até mesmo antropológicas, das soluções específicas que oferece; Quando os juízes utilizam a ferramenta para prever as probabilidades de reincidência, isso deixa a máquina com a palavra final sobre o destino de uma pessoa e aponta para o preconceito inerente às categorias de dados utilizadas pela IA. No entanto, o Papa afirma que o ser humano está em constante evolução e mostra que é capaz de surpreender as pessoas com as suas ações, algo que uma máquina não pode levar em conta.

Não há inovação neutra

“Esquecer que a inteligência artificial não é outro ser humano e que não pode sugerir princípios gerais é muitas vezes um erro grave que surge quer de uma profunda necessidade humana de encontrar uma forma estável de companheirismo, quer de uma suposição inconsciente da sua parte, nomeadamente que as observações obtidas por A aritmética tem as qualidades de certeza indiscutível e universalidade indiscutível», acrescentou François, considerando o método algorítmico sem qualquer objetividade ou imparcialidade. “Como se baseia na álgebra, só pode examinar factos expressos em números.”

Assim, François salienta que, ao reorganizar o conteúdo existente que ajuda a padronizá-lo, muitas vezes sem verificar se contém erros ou ideias pré-concebidas, a IA generativa é bastante “Fortalecer”, Corre o risco de legitimar notícias falsas e fortalecer o peso da cultura dominante, para não falar “Minando o processo educacional.” Evitando qualquer reflexão real.

Por uma política de saúde focada no bem público

O perigo reside em substituir o modelo tecnológico incorporado pela inteligência artificial por um modelo mais perigoso.“modelo tecnocrático” Embora, segundo o Papa, devemos especificamente fazer da inteligência artificial um baluarte contra a sua expansão.

Num momento em que o conceito de dignidade humana diminui e o significado do que é humano se eclipsa, o Pontífice lamenta que mesmo a categoria básica do Ocidente, que é… “pessoa humana” Parece estar perdendo valor. “Exorta à restauração da dignidade humana.”No cerne da proposição moral comum“por um”Polícia da saúde. Este é o significado de assinar o Chamado de Roma para IA Ética em 2020 e apoiar esta forma de moderação ética de algoritmos e programas de IA chamada ““Algoritmo.” Concluiu que cabe a todos fazer bom uso dele e à política criar as condições para que esse uso seja possível e frutífero.