Em entrevistas e declarações públicas, muitos na comunidade de IA descartaram as alegações do engenheiro, enquanto alguns apontaram que sua história destaca como a tecnologia pode levar as pessoas a atribuir características humanas a ela. Mas pode-se argumentar que a crença de que a IA do Google pode ser consciente destaca nossos medos e expectativas sobre o que essa tecnologia pode fazer.
O engenheiro Blake Lemoine teria dito ao Washington Post que compartilhou a evidência com o Google de que Lambda estava consciente, mas a empresa não concordou. Em um comunicado, o Google disse na segunda-feira que sua equipe, que inclui especialistas em ética e tecnólogos, “revisou as preocupações de Blake de acordo com nossos princípios de IA e informou-o de que as evidências não apoiam suas alegações”.
Um porta-voz do Google confirmou que Lemoine permanece em licença administrativa. De acordo com o The Washington Post, ele recebeu licença por violar a política de confidencialidade da empresa.
Lemoine não estava disponível para comentar na segunda-feira.
O surgimento contínuo de poderosos programas de computação treinados em big data profundo levantou preocupações sobre a ética que rege o desenvolvimento e o uso dessa tecnologia. E, às vezes, os desenvolvimentos são vistos da perspectiva do que pode acontecer, em vez do que é possível atualmente.
Em entrevista na segunda-feira à CNN Business, Marcus disse que a melhor maneira de pensar em sistemas como o LaMDA é como uma “versão glorificada” de um programa de preenchimento automático que você pode usar para prever a próxima palavra em uma mensagem de texto. Se você escrever “Estou com muita fome, então quero ir”, ele pode sugerir “restaurante” como sua próxima palavra. Mas esta é uma previsão feita usando estatísticas.
“Ninguém deve pensar que o preenchimento automático, mesmo com esteróides, é consciente”, disse ele.
“O que acontece é que há uma corrida para usar mais dados, mais computação, para dizer que você criou essa coisa genérica que todos conhecem, responde a todas as suas perguntas ou o que quer que seja, e essa é a bateria que você está tocando”, Gebru disse. . “Então, como você fica surpreso quando essa pessoa leva isso ao extremo?”
Em sua declaração, o Google observou que o LaMDA passou por 11 “revisões distintas de princípios de IA”, bem como “pesquisas e testes rigorosos” em relação à qualidade, segurança e capacidade de apresentar dados baseados em fatos. “É claro que alguns na comunidade de IA mais ampla estão estudando o potencial de longo prazo da IA consciente ou geral, mas não faz sentido incorporar modelos de conversação atuais, que não são conscientes”, disse a empresa.
“Centenas de pesquisadores e engenheiros conversaram com lambda, e não temos conhecimento de mais ninguém fornecendo afirmações tão extensas ou incorporando lambda como Blake fez”, disse o Google.