Nvidia lanzó hoy su propio IA Chatbot que corre nativamente en tu PC

Publicado

chatbot nvidia inteligencia artificial
Chat with RTX | Nvidia

A partir de hoy, Nvidia lanzó la versión demo de su propio Chatbot alimentado por inteligencia artificial, llamado Chat with RTX. Esto permitirá a los usuarios de Nvidia tener acceso a su propio modelo de lenguaje personalizable de forma nativa desde su PC. Lo mejor es que este Chatbot está conectado a Internet y puedes entrenarlo con documentos y hasta videos directamente de YouTube para que cree transcripciones e, incluso, resúmenes.

Lo único que se necesita para tener acceso a este Chatbot es tener en tu PC un GPU RTX serie 30 o 40 con al menos 8 GB de VRAM y 16 GB de RAM. Así lo describe Nvidia en el sitio oficial:

“Chat With RTX es una aplicación de demostración que le permite personalizar un modelo de lenguaje grande (LLM) GPT conectado a su propio contenido: documentos, notas, videos u otros datos. Aprovechando la generación de recuperación aumentada (RAG), TensorRT-LLM y la aceleración RTX, puede consultar un chatbot personalizado para obtener rápidamente respuestas contextualmente relevantes. Y como todo se ejecuta localmente en su PC o estación de trabajo con Windows RTX, obtendrá resultados rápidos y seguros.”

Nvidia

Por ahora, se trata únicamente de una versión de prueba, por lo que existen errores y limitaciones en el modelo; sin embargo, nos permite ver las capacidades de las inteligencias artificiales aplicadas para los usuarios y alimentadas por una empresa del tamaño de Nvidia.

Te puede interesar