El sistema DLAP Supreme permite superar las limitaciones de memoria en aplicaciones de inteligencia artificial generativa en el borde, mejorando el rendimiento de cálculo y reduciendo significativamente los costes asociados.
ADLINK Technology anuncia la serie DLAP Supreme de plataformas de inteligencia artificial (IA) generativa en el borde.
Al integrar la tecnología aiDAPTIV+ de Phison, optimiza los recursos de memoria, permitiendo un rendimiento avanzado sin incrementar el coste de hardware.
Así, dicho enfoque ayuda a las empresas a superar las barreras económicas y técnicas asociadas a la adopción de IA generativa.
En concreto, el modelo DLAP-411 Orin Supreme, equipado con un procesador NVIDIA Jetson AGX Orin de 32 GB, destaca por su capacidad para ejecutar tareas de inferencia y entrenamiento de modelos de lenguaje generativo.
Por ejemplo, al utilizarse junto con el modelo Gemma 27B, logra multiplicar por ocho el rendimiento en inferencias y cuadruplicar la longitud de los tokens procesados.
Optimización para modelos de lenguaje
Gracias a aiDAPTIV+, el DLAP-411 Orin Supreme hace frente a las limitaciones de capacidad DRAM, resolviendo problemas relacionados con la ejecución de modelos complejos, como las restricciones en la longitud de tokens.
Este avance permite realizar entrenamientos de modelos en dispositivos edge, tareas que anteriormente requerían GPU de alto rendimiento, como las unidades H100 o A100 80G Tensor Core.
Así, se mejora la capacidad de aprendizaje autónomo de los dispositivos y su adaptación a diversos entornos industriales.
Más aplicaciones
La serie DLAP Supreme no sólo aumenta las capacidades del AGX Orin, sino que también extiende su tecnología a módulos de menor capacidad como Orin Nano y NX, habilitando dispositivos de entrada para operaciones de IA altamente eficientes.
Además, ADLINK planea el lanzamiento de versiones Orin Nano Super y NX Super para ampliar las posibilidades de la serie y proporcionar soluciones personalizadas para múltiples sectores industriales.
Si te interesa, en nuestro monográfico especial de Box PC puedes encontrar información con todas las posibilidades actuales en el mercado.
Para más información o precios sobre la plataforma de IA generativa DLAP-411 Orin Supreme, puedes dejarnos un sencillo COMENTARIO. Nosotros se lo haremos llegar al fabricante o distribuidor del producto para que te responda rápidamente.
#tarjetaCPU, #DLAP411OrinSupreme, #ADLINK, #inteligenciaartificial, #memoria, #entornoedge, #AGXOrin, #modelosdelenguaje
