NVIDIA Lança “Chat with RTX”: O Chatbot de IA que Funciona Localmente em PCs

A NVIDIA, conhecida por suas inovações em tecnologia de processamento gráfico, deu um passo significativo em direção ao futuro da inteligência artificial (IA) com o lançamento do “Chat with RTX“. Este chatbot de IA, que funciona localmente em PCs Windows, promete uma interação personalizada e privada, utilizando dados armazenados localmente para responder a perguntas e extrair informações. Com este avanço, a NVIDIA não apenas reafirma seu compromisso com a inovação tecnológica, mas também aborda preocupações crescentes sobre privacidade e segurança dos dados.

Funcionalidades e Benefícios do Chat with RTX

O “Chat with RTX” é uma demonstração técnica que permite aos usuários personalizar um chatbot de IA com seu próprio conteúdo, acelerado por uma GPU NVIDIA GeForce RTX da série 30 ou superior, com pelo menos 8GB de memória de vídeo RAM (VRAM). Esta ferramenta utiliza a geração aumentada por recuperação (RAG), o software NVIDIA TensorRT-LLM e a aceleração NVIDIA RTX para trazer capacidades de IA generativa para PCs Windows locais, alimentados por GeForce.

Ao invés de vasculhar notas ou conteúdos salvos, os usuários podem simplesmente digitar consultas como, “Qual foi o restaurante que meu parceiro recomendou enquanto estávamos em Las Vegas?” e o “Chat with RTX” examinará os arquivos locais indicados pelo usuário e fornecerá a resposta com contexto. A ferramenta suporta vários formatos de arquivo, incluindo .txt, .pdf, .doc/.docx e .xml.

Além disso, os usuários podem incluir informações de vídeos e playlists do YouTube. Ao adicionar uma URL de vídeo ao “Chat with RTX”, os usuários podem integrar esse conhecimento ao seu chatbot para consultas contextuais, como recomendações de viagem baseadas em conteúdo de influenciadores favoritos ou tutoriais rápidos e instruções baseadas em recursos educacionais de ponta.

Requisitos de Hardware e Disponibilidade

Para usar o “Chat with RTX”, são necessários:

• Uma GPU NVIDIA GeForce RTX da série 30 ou 40, ou uma GPU NVIDIA RTX das gerações Ampere ou Ada, com pelo menos 8GB de VRAM.
• 16GB ou mais de RAM.
• Sistema operacional Windows 11.
• Versão do driver GeForce 535.11 ou posterior.

Esta demonstração técnica está atualmente disponível gratuitamente, e a NVIDIA ainda não confirmou planos de monetização futura para ela. Para rodar esta aplicação, é necessário um PC potente com especificações de hardware específicas, o que pode não ser facilmente acessível para todos. Além disso, sua funcionalidade é atualmente limitada em comparação com alguns chatbots baseados na nuvem.

Privacidade e Personalização

O “Chat with RTX” representa uma abordagem única para chatbots de IA, priorizando o processamento local e a privacidade dos dados. Enquanto os requisitos de hardware e os potenciais custos futuros podem limitar seu alcance imediato, pode ser uma ferramenta valiosa para indivíduos que priorizam o controle sobre suas informações e desejam assistência de IA personalizada com base em seus dados.