O chatbot da Nvidia agora oferece suporte ao formulário Gemma do Google, consultas de voz e muito mais

A Nvidia está atualizando seu ChatRTX beta com mais modelos de IA para proprietários de GPU RTX. O chatbot, executado nativamente em um PC com Windows, já pode usar Mistral ou Llama 2 para consultar documentos pessoais que você alimenta, mas agora a lista de modelos de IA suportados está crescendo para incluir Gemma do Google, ChatGLM3 e até mesmo o modelo CLIP da OpenAI. Para facilitar a pesquisa de suas fotos.

A Nvidia apresentou o ChatRTX pela primeira vez como “Chat with RTX” em fevereiro como um aplicativo beta, e você precisará de uma GPU da série RTX 30 ou 40 com 8 GB de VRAM ou mais para poder executá-lo. O aplicativo cria essencialmente um servidor de chatbot local que você pode acessar a partir de seu navegador e alimentá-lo com seus documentos locais e até mesmo vídeos do YouTube para uma poderosa ferramenta de pesquisa completa com resumos e respostas a perguntas sobre seus dados privados.

O modelo Gemma do Google foi projetado para ser executado diretamente em laptops ou desktops potentes, portanto, sua inclusão no ChatRTX é adequada. A implementação da Nvidia elimina parte da complexidade da execução desses modelos localmente, e a interface do chatbot resultante permite escolher entre modelos para que você possa encontrar aquele que melhor se adapta aos dados específicos que deseja analisar ou pesquisar.

ChatRTX, disponível como Baixe 36 GB do site da Nvidia, agora também oferece suporte ao ChatGLM3, um grande modelo aberto de idioma bilíngue (inglês e chinês) baseado na estrutura do General Language Model. O pré-treinamento de linguagem variacional – imagens (CLIP) da OpenAI também foi adicionado, o que permite pesquisar e interagir com dados de imagem locais e essencialmente treinar o modelo para reconhecimento de imagem.

Finalmente, a Nvidia também está atualizando o ChatRTX para oferecer suporte a consultas de voz. A Nvidia integrou o Whisper, um sistema de reconhecimento de fala de IA que permite pesquisar seus dados usando sua voz.