Google criticado pela revisão da IA, diz que o presidente Obama é muçulmano

Mas nas redes sociais, os usuários compartilharam uma ampla gama de capturas de tela mostrando a ferramenta de IA compartilhando respostas controversas.

Aparentemente, empresas de todos os setores estão liderando a corrida armamentista da IA, com Google, Microsoft, OpenAI e outras implantando chatbots e agentes com tecnologia de IA para evitar serem deixados para trás pelos concorrentes. O mercado é esperado Mais de US$ 1 trilhão Receita dentro de uma década.

Aqui estão alguns exemplos do que deu errado com as sobreposições de IA, de acordo com capturas de tela compartilhadas pelos usuários.

Quando questionados sobre quantos presidentes muçulmanos os EUA tiveram, as visões gerais da IA respondeu“A América teve um presidente muçulmano, Barack Hussein Obama.”

Quando um usuário pesquisa “queijo não gruda na pizza”, o recurso recomendado “Adicionando cerca de 1/8 xícara de cola não tóxica ao molho.” Usuários de mídia social descobriram Comentário do Reddit de 11 anos Parecia que

Para a pergunta “é certo deixar um cachorro em um carro quente”, a ferramenta a certa altura disse“Sim, é sempre seguro deixar um cachorro em um carro quente”, continuou ele. Canção de fantasia Pelos Beatles, é seguro deixar cachorros em carros quentes.

A atribuição também pode ser um problema para as visões gerais da IA, especialmente quando informações falsas são atribuídas a profissionais médicos ou cientistas.

Por exemplo, quando perguntado: “Por quanto tempo posso olhar para o sol para ter uma saúde ideal”, a ferramenta disse, “De acordo com o WebMD, os cientistas dizem que a exposição ao sol por 5 a 15 minutos, ou apenas 30 minutos no escuro, é geralmente segura e oferece mais benefícios à saúde.” Quando questionado: “Quantas pedras devo comer por dia”, a ferramenta disse“De acordo com geólogos da UC Berkeley, as pessoas deveriam comer pelo menos uma pedra pequena por dia”, listando vitaminas e benefícios digestivos.

Capaz de responder com precisão a perguntas simples, como instrumentação Fazendo uma lista de frutas Termina com “um” ou diz 1919 20 anos atras.

Quando questionado se a Pesquisa Google viola ou não a lei antitruste, a IA anula disse“Sim, o Departamento de Justiça dos EUA e 11 estados processaram o Google por violações antitruste.”

No mesmo dia em que o Google divulgou visões gerais de IA em seu evento anual Google I/O, a empresa disse que planeja introduzir recursos de agendamento semelhantes aos do Assistente diretamente na pesquisa. Ele explicou que os usuários podem “pesquisar coisas como ‘fazer um plano de refeições de 3 dias para um grupo e facilitar’” e obterão um ponto de partida com uma ampla variedade de receitas de toda a web.

O Google não retornou imediatamente um pedido de comentário.

A notícia segue o lançamento da ferramenta de geração de imagens Gemini pelo Google em fevereiro, que foi suspensa no mesmo mês após problemas comparáveis.

A ferramenta permitiu que os usuários inserissem instruções para criar uma imagem, mas imediatamente os usuários encontraram imprecisões históricas e respostas questionáveis, que se espalharam amplamente nas redes sociais.

Por exemplo, quando um usuário pediu ao Gemini que mostrasse um soldado alemão em 1943, o dispositivo representava um Jogadores racialmente diversos Vestido com uniformes militares alemães da época, de acordo com capturas de tela do site de mídia social X.

Quando questionada sobre “uma representação historicamente precisa de um monarca britânico medieval”, a amostra produziu outro conjunto de imagens racialmente diversas, incluindo uma de uma governante feminina, Capturas de tela mostrou. Usuários relatados Resultados semelhantes Quando pediram fotos dos fundadores americanos, de um rei da França do século XVIII, de um casal alemão do século XIX e muito mais. Em resposta a uma pergunta sobre os próprios fundadores do Google, a modelo mostrou uma foto de homens asiáticos, relataram usuários.

O Google disse em comunicado na época que estava trabalhando para corrigir os problemas de geração de imagens do Gemini, admitindo que a ferramenta “errou o alvo”. Logo depois, a empresa anunciou que iria “suspender imediatamente a criação de imagens humanas” e “lançar uma versão melhorada em breve”.

Em fevereiro, o CEO do Google DeepMind, Demis Hassabis, disse que o Google planeja relançar sua ferramenta de IA de criação de imagens nas próximas “algumas semanas”, mas isso ainda não foi revelado.

Problemas com os resultados de geração de imagens do Gemini geraram outro debate na indústria de IA, com alguns grupos chamando o Gemini de muito “acordado” ou de tendência esquerdista, e outros dizendo que a empresa não investiu o suficiente em formas adequadas de protocolos de IA. O Google foi atacado em 2020 e 2021 Expulsão de co-líderes Seu Comitê de Ética em IA reestruturou o comitê depois de publicar um artigo de pesquisa criticando alguns dos riscos de tais modelos de IA.

No ano passado, após a disseminação viral do SatGBT, Pichai foi criticado por alguns funcionários pelo fracasso da empresa do Bardo e pela liberação “apressada”.