DIGITS: Así es la supercomputadora personal con IA de Nvidia
Nvidia vende por montones sus chips a todos los fabricantes de modelos de inteligencia artificial propios, pero su tirada actual apunta al código abierto y la IA “hazlo por ti mismo”. La empresa anunció que este año ofrecerá una “supercomputadora personal” a partir de los 3,000 dólares, que cualquier persona podrá utilizar en su casa u oficina.
De acuerdo con el anuncio de su CEO Jensen Huang en el CES, el mayor evento tecnológico celebrado en Las Vegas, Project DIGITS saldrá a la venta en mayo y tendrá el tamaño de un libro pequeño. La máquina funcionará con el superchip GB10 Grace Blackwell, optimizado para acelerar los cálculos necesarios para entrenar y ejecutar modelos de IA, y viene equipada por 128 gigabytes de memoria unificada y hasta 4 terabytes de almacenamiento NVMe para manejar programas especialmente grandes de IA.
En el escritorio de todo científico y estudiante
“Poner una supercomputadora de IA en la mesa de cada científico de datos, investigador y estudiante les capacita para participar y dar forma a la era de la inteligencia artificial”, afirmó Huang en un comunicado publicado antes de su discurso. DIGITS significa “sistema de entrenamiento de inteligencia GPU de aprendizaje profundo”, y podrá ejecutar un único gran modelo de lenguaje (LLM) con hasta 200,000 millones de parámetros, una medida aproximada de la complejidad y el tamaño de un modelo.
Para concretar esta hazaña sería necesario alquilar espacio a un proveedor de servicios en la nube como Amazon Web Services (AWS) o Microsoft, o construir un sistema personalizado con un puñado de chips diseñados para ejecutar IA. Nvidia explica que si se conectan dos máquinas DIGITS mediante un enlace de interconexión de alta velocidad patentado, se podrá ejecutar la versión más capaz disponible del modelo Llama de código abierto de Meta, que tiene 405,000 millones de parámetros.
DIGITS facilitará a aficionados e investigadores la experimentación con modelos que se acercan a las capacidades básicas de ChatGPT-4 de OpenAI o Gemini de Google en sus oficinas o sótanos. Sin embargo, lo más probable es que las mejores versiones de esos modelos patentados, alojados en gigantescos centros de datos propiedad de Microsoft y Google, sean más grandes y potentes que cualquier tarea que la máquina de Nvidia pueda desempeñar.
El nuevo modelo se llama Gemini 2.0 Flash Thinking y sus desarrolladores lo describen como una herramienta que “muestra explícitamente sus pensamientos”.
Los agentes de IA impulsados por Nvidia
Nvidia ha sido una de las mayores beneficiarias del auge de la IA. En los últimos años, el precio de sus acciones se ha disparado, las gigantes tecnológicas compran sus chips avanzados de hardware en grandes cantidades: un ingrediente crucial para desarrollar IA de vanguardia. La empresa ha demostrado ser la experta en la fabricación de software y hardware optimizados por la inteligencia artificial, y su hoja de ruta de productos se ha convertido en una importante señal de hacia dónde se espera que se dirija la industria en el futuro.
Cuando salga al mercado, DIGITS será el hardware informático de consumo más potente que ofrezca Nvidia. La compañía ya vende una gama de chipsets para el desarrollo de la inteligencia artificial conocidos por Jetson, que se ofertan a partir de los 250 dólares. Pueden ejecutar modelos de IA más pequeños y utilizarse como una minicomputadora o instalarse en un robot para probar distintos programas de inteligencia artificial.
