Papa Francisco soa o alarme sobre inteligência artificial na cúpula do G7

BARI, Itália (AP) – O Papa Francisco desafiou os líderes das democracias ricas do mundo na sexta-feira a defender a dignidade humana acima de tudo no desenvolvimento e uso da inteligência artificial, alertando que uma tecnologia tão poderosa corre o risco de transformar as próprias relações humanas em meros algoritmos.

Francisco usou a sua autoridade moral para influenciar o G7, que a Itália anfitriã convidou para discursar numa sessão especial na sua cimeira anual sobre os riscos e promessas da inteligência artificial. Ao fazê-lo, tornou-se o primeiro papa a participar numa cimeira do G7, oferecendo uma perspectiva moral sobre uma questão que está cada vez mais na agenda das cimeiras internacionais, das políticas governamentais e dos conselhos de administração das empresas.

Francisco disse que os políticos devem assumir a liderança para garantir que a IA permaneça centrada no ser humano, para que as decisões sobre quando usar armas ou mesmo ferramentas menos letais sejam sempre tomadas por seres humanos e não por máquinas.

“Condenaremos a humanidade a um futuro sem esperança se privarmos as pessoas da sua capacidade de tomar decisões sobre si mesmas e sobre as suas vidas, condenando-as a depender das escolhas das máquinas”, disse ele. “Precisamos de garantir e proteger o espaço para um controlo humano adequado sobre as escolhas feitas pelos programas de IA: a própria dignidade humana depende disso.”

Francis se junta a um grupo de países e organismos globais que pressionam por proteções mais fortes para a IA após o boom da IA ​​generativa iniciado pelo chatbot ChatGPT da OpenAI.

O Papa argentino usou sua mensagem anual de paz este ano Apelo por um tratado internacional para garantir a inteligência artificial Desenvolvido e usado de forma ética. Ele argumenta que a tecnologia que carece dos valores humanos de compaixão, compaixão, moralidade e tolerância é muito arriscada para ser desenvolvida sem controle.

Ele não repetiu explicitamente este apelo no seu discurso de sexta-feira, mas deixou claro que cabe aos políticos a responsabilidade de liderar nesta questão. Ele apelou para que eventualmente proibissem o uso de armas autônomas letais, conhecidas coloquialmente como “robôs assassinos”.

“Nenhuma máquina deveria escolher tirar uma vida humana”, disse ele.

Dirigindo-se aos líderes à mesa, concluiu: “Cabe a todos fazer bom uso (da inteligência artificial), mas a responsabilidade cabe à política de criar as condições que tornem esse bom uso possível e frutífero”.

Primeira-ministra italiana, Giorgia Meloni Ele ligou para Francisco e anunciou a sua participação, sabendo do impacto potencial do seu poder de estrela e autoridade moral no G7. As pessoas à mesa pareciam devidamente aterrorizadas, e o barulho na sala diminuiu completamente quando Francis chegou.

“O papa é um tipo de celebridade muito especial”, disse John Kirton, professor de ciências políticas na Universidade de Toronto e diretor do Grupo de Pesquisa G7.

A última cimeira que teve esse tipo de poder de estrela, que depois se traduziu em ação, ocorreu numa reunião de 2005 em Gleneagles, na Escócia, recordou Kirton. Aí, os líderes mundiais decidiram cancelar 40 mil milhões de dólares em dívidas de 18 dos países mais pobres do mundo ao Banco Mundial e ao Fundo Monetário Internacional.

A cimeira foi precedida por um concerto Live 8 em Londres com Sting, The Who e Pink Floyd, atraindo mais de um milhão de pessoas numa demonstração de solidariedade contra a fome e a pobreza em África.

“Gleneagles teve grande sucesso em seu território e, para alguns, é uma das cúpulas de maior sucesso”, disse Kirton.

Esta pressão popular não está a ser aplicada aos líderes mundiais do G7 Região da Apúlia na ItáliaMas Francisco sabia que poderia exercer a sua autoridade moral para renovar as suas exigências de salvaguardas para a inteligência artificial e destacar as ameaças à paz e à sociedade se a ética humana for deixada de lado.

“Falar sobre tecnologia é falar sobre o que significa ser humano e, portanto, sobre a nossa posição única como seres que possuem liberdade e responsabilidade”, disse ele. “Isso significa falar sobre ética.”

A tecnologia de IA generativa surpreendeu o mundo com a sua capacidade de produzir respostas semelhantes às humanas, mas também levantou preocupações sobre a segurança da IA ​​e levou a uma série de esforços globais para a conter.

Alguns preocupam-se com os riscos catastróficos, mas remotos, para a humanidade, decorrentes da sua capacidade de criar novas armas biológicas e de espalhar desinformação. Outros preocupam-se com o seu impacto na vida quotidiana, através de preconceitos algorítmicos que levam à discriminação ou de sistemas de inteligência artificial que eliminam empregos.

Na sua mensagem de paz, Francisco fez eco destas preocupações e levantou outras. Ele disse que a Amnistia Internacional deve manter as principais preocupações sobre a garantia dos direitos humanos básicos, a promoção da paz e a protecção contra a desinformação, a discriminação e a distorção.

Na frente regulatória, Francisco irá, de certa forma, pregar aos convertidos, já que os membros do G7 têm estado na vanguarda do debate sobre a supervisão da IA.

O Japão, que assumiu a presidência rotativa do G7 no ano passado, lançou o processo de IA de Hiroshima para estabelecer diretrizes internacionais e um código de conduta para os desenvolvedores de IA. Além desses esforços, o primeiro-ministro Fumio Kishida no mês passado Revelando uma estrutura para regulamentação global IA generativa, que são sistemas que podem produzir rapidamente novos textos, imagens, vídeos e áudio em resposta a solicitações e comandos.

A União Europeia foi uma das pioneiras graças ao seu amplo âmbito A Lei de Inteligência Artificial, que deverá entrar em vigor nos próximos dois anos Pode servir como um modelo global. A lei visa qualquer produto ou serviço de IA oferecido nos 27 países da União Europeia, com restrições impostas ao nível de riscos que representam.

Nos Estados Unidos, o presidente Joe Biden emitiu Ordem Executiva sobre Salvaguardas de Inteligência Artificial Apelou a que fosse adoptada legislação para o reforçar, enquanto alguns estados preferiram que Califórnia E Colorado Eles tentaram aprovar seus próprios projetos de lei sobre IA, com resultados mistos.

Funcionários antitruste Ambos os lados do Oceano Atlântico Tem sido Auditando grandes empresas de inteligência artificial Incluindo Microsoft, Amazon e OpenAI Sobre se as suas posições dominantes sufocam a concorrência.

A Grã-Bretanha iniciou um diálogo global sobre como controlar a inteligência artificial Riscos extremos com a cimeira do outono passado. Em um Reunião de acompanhamento Em Seul, as empresas comprometeram-se a desenvolver a tecnologia com segurança. A França está programada para sediar outra reunião da série no início do próximo ano. As Nações Unidas também contribuíram para isso Primeira decisão Sobre inteligência artificial.

À margem do seu discurso na Amnistia Internacional, Francisco passou um dia inteiro de reuniões bilaterais. Manteve reuniões com o presidente ucraniano Volodymyr Zelensky, além de líderes convidados da Argélia, Brasil, Índia, Quênia e Turquia. Ele também se reunirá com membros do G7, incluindo Biden, o primeiro-ministro canadense, Justin Trudeau, e o presidente francês, Emmanuel Macron.

___

Chan relatou de Londres.