Os novos chatbots de IA das GPUs RTX são bons? Descubra neste artigo da ENBLE.
A Nvidia está se aventurando na criação de seu próprio chatbot de IA usando as habilidades das GPUs RTX - uma promissora empreitada que ainda pode exigir algumas melhorias.
@img
É hora de conversar com a sua placa de vídeo! A Nvidia está introduzindo um recurso empolgante chamado Chat com RTX, um chatbot de IA local que utiliza o poder da sua GPU Nvidia para executar um modelo de IA. Finalmente, seu PC pode usar toda a potência do hardware dedicado à IA! Mas o que exatamente isso significa para você? Vamos mergulhar e explorar todos os detalhes dessa nova tecnologia.
Conheça o Chat com RTX
A primeira pergunta que vem à mente é como o Chat com RTX difere de outros chatbots de IA, como o ChatGPT. Bem, o Chat com RTX é um modelo de linguagem grande (LLM) local que utiliza modelos compatíveis com TensorRT-LLM, como Mistral e Llama 2, diretamente no seu PC. Em vez de depender de computação em nuvem, o processamento real acontece localmente na sua confiável placa de vídeo. Mas espera, tem mais! Para participar da festa do Chat com RTX, você precisará de uma GPU Nvidia RTX da série 30 ou 40, com pelo menos 8GB de VRAM. Então, é hora de ver se o seu PC aguenta o tranco.
Uma das características marcantes do Chat com RTX é a capacidade de trabalhar com os seus próprios dados. Você pode compilar uma pasta cheia de documentos específicos e direcionar o Chat com RTX naquela direção, permitindo que o modelo de IA forneça respostas mais detalhadas e específicas com base no seu conteúdo exclusivo. Diga adeus às respostas genéricas e olá às informações personalizadas! É como ter o seu próprio assistente de IA pessoal, mas sem os custos elevados de servidor.
Imagem: Jacob Roach / ENBLE
- A Roda Suprema para Gran Turismo O Gran Turismo DD Extreme da Fanatec
- Xbox Game Pass Ultimate Mais do que apenas uma assinatura.
- 🎮 Novo conteúdo emocionante chegando ao LEGO Fortnite Survival! 🧱
Mas será que realmente funciona? A resposta curta é sim! Usuários que testaram o Chat com RTX relataram resultados impressionantes. Alguns carregaram artigos de pesquisa sobre DLSS 3 da Nvidia, FSR 2 da AMD e XeSS da Intel, e fizeram perguntas específicas sobre as diferenças entre eles. Para sua surpresa, o Chat com RTX foi capaz de extrair e apresentar respostas detalhadas com base nos próprios artigos de pesquisa. Ele até mesmo conseguiu explicar os termos acadêmicos complexos de maneira facilmente compreensível. Um verdadeiro gênio virtual!
Mas há um porém. O Chat com RTX também tem algumas desvantagens. Como mencionado anteriormente, você precisará de um PC potente com uma GPU Nvidia compatível e bastante VRAM. Além disso, o próprio aplicativo requer cerca de 100GB de espaço livre em disco, portanto, certifique-se de ter espaço de sobra. Sempre é um equilíbrio entre potência e espaço em disco!
Alucinações
Nenhuma ferramenta de IA é perfeita, e o Chat com RTX não é exceção. De vez em quando, podem ocorrer falhas ocasionais e respostas incorretas, causando situações estranhas. Por exemplo, o modelo pode erroneamente associar o Counter-Strike 2 com o DLSS 3, levando a informações incorretas. Isso ocorre devido a vieses presentes no pequeno conjunto de dados no qual o Chat com RTX é baseado. É um lembrete de que até mesmo modelos de IA sofisticados podem ter escorregões ocasionais.
Imagem: Jacob Roach / ENBLE
Outra peculiaridade é que, às vezes, o Chat com RTX responde a perguntas que não deveria responder. Enquanto a maioria dos chatbots de IA reconheceria a falta de informações nesses casos, o Chat com RTX nos surpreende ao tentar fornecer uma resposta. Por exemplo, quando perguntado como amarrar um cadarço usando os dados padrão, ele realmente ofereceu instruções passo a passo. Não está claro de onde o Chat com RTX obtém essas informações adicionais, mas isso adiciona um interessante toque especulativo à conversa.
O Incidente do YouTube
Uma das características marcantes do Chat com RTX é a capacidade de ler e analisar transcrições de vídeos do YouTube. No entanto, esse recurso também traz seus próprios desafios. Mesmo depois de iniciar uma nova sessão, o Chat com RTX pode se lembrar de vídeos anteriormente vinculados, o que pode causar confusão. A Nvidia reconhece esse problema e aconselha os usuários a excluir manualmente as transcrições se quiserem recomeçar do zero.
Imagem: Jacob Roach / ENBLE
“`html
Em um caso, um usuário vinculou um vídeo de Magic: The Gathering do canal do YouTube Commander at Home e, em seguida, mudou para uma entrevista com o CEO da Nvidia, Jensen Huang. Apesar de reconstruir o banco de dados e iniciar uma nova sessão, o Chat with RTX insistia em responder perguntas sobre o vídeo do Commander at Home, ignorando completamente o novo link de vídeo. É um bom lembrete de que modelos de IA às vezes podem se apegar a informações que não deveriam. Lembre-se de ficar de olho nessas transcrições do YouTube!
Você Encontra a Utilidade
Então, o Chat with RTX é uma adição valiosa ao seu arsenal de IA? A utilidade dessa ferramenta depende em grande parte de suas necessidades específicas. Chatbots baseados em nuvem como o ChatGPT oferecem uma ampla variedade de informações acessíveis, tornando-os ideais em muitos cenários. No entanto, se você tiver uma grande coleção de documentos ou uma série de vídeos do YouTube para analisar, o Chat with RTX se destaca ao permitir que você aproveite o poder do seu PC local. Apenas certifique-se de se adaptar às suas particularidades e limitações, como qualquer bom companheiro de IA.
Imagem: Jacob Roach / ENBLE
Em última análise, o Chat with RTX serve como uma demonstração do potencial de modelos de IA locais. A Nvidia espera que os desenvolvedores se inspirem nessa tecnologia e explorem seus próprios aplicativos de IA locais. Portanto, enquanto você reflete sobre a utilidade do Chat with RTX, fique de olho no futuro da IA e em como ela pode revolucionar sua experiência no PC.
E lembre-se, o poder está em suas mãos! Comece a conversar com sua GPU Nvidia e deixe as conversas de IA começarem!
💡 P&R
P: Existem requisitos específicos para usar o Chat with RTX?
R: Sim, para usar o Chat with RTX, você precisa de uma GPU Nvidia RTX da série 30 ou 40 com pelo menos 8GB de VRAM. Portanto, certifique-se de que seu PC atenda a essas especificações antes de mergulhar no mundo das conversas de IA!
“`
