AI ‘padrinho’ Geoffrey Hinton alerta sobre armadilhas ao deixar o Google

Um homem amplamente considerado o pai da inteligência artificial (IA) deixou o emprego, alertando para os perigos representados pelos desenvolvimentos no campo.

Jeffrey Hinton, 75, anunciou sua demissão do Google em um comunicado ao New York Times, dizendo que agora se arrepende de seu trabalho.

Ele disse à BBC que alguns dos riscos dos chatbots de IA são “muito assustadores”.

“No momento, eles não são mais espertos do que nós, pelo que sei. Mas acho que podem ser em breve.”

“Tenho 75 anos, então é hora de me aposentar”, disse Hinton à BBC, admitindo que sua idade influenciou sua decisão de deixar a gigante da tecnologia.

A pesquisa pioneira do Dr. Hinton em redes neurais e aprendizagem profunda abriu o caminho para os atuais sistemas de IA como o ChatGPT.

Na inteligência artificial, as redes neurais são sistemas que aprendem e processam informações de maneira muito semelhante ao cérebro humano. Eles permitem que as IAs aprendam com a experiência, assim como uma pessoa. Isso é chamado de aprendizado profundo.

Um psicólogo cognitivo e cientista da computação britânico-canadense disse à BBC que os chatbots logo ultrapassarão a quantidade de informações que o cérebro humano pode conter.

“O que vemos agora é algo como o GPT-4 eclipsar o nível de bom senso de uma pessoa e escondê-la por muito tempo. Racionalmente, não é tão bom, mas já é. Motivo simples”, disse.

“E, dada a taxa de progresso, esperamos que as coisas melhorem muito rapidamente. Portanto, devemos nos preocupar com isso.”

Em um artigo do New York Times, o Dr. Hinton se referiu a “maus atores” tentando usar IA para “más ações”.

Quando questionado pela BBC para elaborar, ele respondeu: “É uma espécie de cenário de pior caso, uma espécie de cenário de pesadelo.

“Por exemplo, você pode imaginar alguns atores ruins [Russian President Vladimir] Putin decidiu dar aos robôs a capacidade de criar seus próprios sub-alvos.”

Isso pode eventualmente criar “subobjetivos como ‘eu quero mais poder'”, alertou o cientista.

Ele acrescentou: “Cheguei à conclusão de que a inteligência que estamos desenvolvendo é muito diferente da inteligência que temos.

“Nós somos sistemas biológicos e estes são sistemas digitais. E a grande diferença é que com os sistemas digitais, existem várias cópias do mesmo peso, do mesmo modelo do mundo.

“E todas essas réplicas podem aprender individualmente, mas compartilham seu conhecimento instantaneamente. Portanto, é como se você tivesse 10.000 pessoas e, sempre que alguém aprende algo, todos sabem automaticamente. E esses chatbots podem aprender mais do que qualquer pessoa.”

Falando em particular à BBC, Matt Clifford, chefe da Agência de Pesquisa e Inovação Avançada do Reino Unido, disse que o anúncio do Dr. Hinton “sublinha o ritmo das capacidades de IA”.

“Há uma grande vantagem nessa tecnologia, mas o mundo precisa investir forte e urgentemente em segurança e controle de IA”, disse ele.

Hinton não quis criticar o Google e insistiu que o gigante da tecnologia era “muito responsável”.

“Na verdade, quero dizer algumas coisas boas sobre o Google. E se eu não trabalhasse no Google, elas teriam mais credibilidade.”

Jeff Dean, cientista-chefe do Google, disse em um comunicado: “Estamos comprometidos com uma abordagem responsável da IA. Continuamos a aprender a entender os riscos emergentes enquanto inovamos com ousadia”.