Nvidia ha sorprendido al lanzar un dispositivo de inteligencia artificial de escritorio por USD $249, el Jetson Orin Nano Super, capaz de ejecutar modelos de lenguaje como Llama 3, Mistral o Gemma de forma local. Este gadget podría impulsar la adopción de la IA descentralizada en redes como Bittensor, Render o Akash, sin tarifas de API ni envío de datos a la nube.
El Jetson Orin Nano Super Developer Kit, presentado por el CEO de Nvidia, Jensen Huang, está diseñado para ejecutar grandes modelos de lenguaje de manera local, sin la necesidad de suscripciones a servicios en la nube. Huang explicó que el dispositivo permite conectarse y comenzar a utilizar IA de inmediato, sin tarifas recurrentes de API ni envío de datos a servidores de terceros.
El dispositivo alcanza entre 67 y 70 TOPS (billones de operaciones por segundo) y consume solo 25 vatios, similar a una bombilla estándar. Incluye 8 GB de memoria con un ancho de banda de 1.023 GB/s. Nvidia afirma que este dispositivo duplica el rendimiento de su predecesor, el Jetson Orin Nano original, y ofrece un 50% más de ancho de banda de memoria.
La inferencia local es crucial para la comunidad cripto, ya que aborda preocupaciones sobre privacidad de datos y descentralización. Al ejecutar un modelo localmente, las consultas no abandonan la máquina, evitando el registro o recolección de datos por terceros. Este enfoque se alinea con proyectos de IA descentralizada en redes que crean mercados de computación distribuida, donde los participantes aportan poder de GPU a cambio de tokens.
Un punto de entrada de USD $249 podría expandir significativamente el número de participantes en estas redes, ya que hasta ahora, la barrera de costos era alta para personas o pequeños proyectos. Además, la eliminación de tarifas recurrentes de API es fundamental para proyectos cripto que utilizan IA en bots de trading, auditorías de contratos inteligentes o análisis en cadena.
Con una inversión única de USD $249, estos proyectos pueden ejecutar modelos de código abierto comparables localmente, cambiando su estructura de costos. Para las redes descentralizadas, esto significa más nodos capaces de contribuir a la red, lo que podría presionar a los competidores de hardware y ampliar la participación en redes de computación distribuida.
Etiquetas: Tecnología, IA, Hardware, Nvidia, Descentralización, Tecnología · IA general
About the Author
