Durante Microsoft Build 2024, Qualcomm Technologies, Inc. anunció la expansión del Qualcomm AI Hub para apoyar las plataformas Snapdragon X Series reduciendo el tiempo de comercialización para los desarrolladores y desbloqueando las ventajas de la IA generativa On-Device en las PC Windows de nueva generación. Además, ahora los desarrolladores pueden traer sus propios modelos de IA y optimizarlos sin problemas para que se ejecuten directamente en los dispositivos. La capacidad de ejecutar modelos de IA en dispositivos ofrece ventajas significativas, como una mayor capacidad de respuesta, más privacidad, más fiabilidad y experiencias más personalizadas para los usuarios.
El Qualcomm AI Hub es la puerta de acceso de los desarrolladores a recursos, herramientas y servicios que permiten un rendimiento superior de la IA en los dispositivos, y cuenta con una creciente biblioteca de más de 100 modelos de IA pre optimizados, que también están disponibles en Hugging Face y GitHub. Además, Qualcomm AI Hub ahora permite a los desarrolladores «Bring Your Own Model» (BYOM), con la capacidad de cargar, optimizar y compilar sus modelos específicamente para las plataformas Snapdragon y Qualcomm, incluida la compatibilidad con todos los marcos clave, como PyTorch, TensorFlow y ONNX. Los desarrolladores pueden probar y validar fácilmente los modelos en dispositivos alojados en la nube, en menos de cinco minutos y utilizando unas pocas líneas de código.
Al simplificar el proceso de optimización y verificación de modelos, los desarrolladores pueden ahorrar un valioso tiempo y esfuerzo, acelerando sus ciclos de desarrollo y despliegue, facilitando iteraciones más rápidas.
Los principales fabricantes mundiales de equipos de cómputo, entre ellos Acer, ASUS, Dell, HP, Lenovo, Samsung y OEM7, tienen previsto lanzar al mercado equipos con tecnología para computadoras de Snapdragon X Elite y/o X Plus, lo que permite a los desarrolladores utilizar Qualcomm AI Hub para llevar experiencias superiores a esta nueva generación de dispositivos.
Las plataformas de la serie X de Snapdragon son compatibles con una amplia gama de herramientas de desarrollo de IA. Gracias a las profundas integraciones con ONNX Runtime y Hugging Face Optimum, así como el apoyo a Llama.cpp, los desarrolladores ya pueden ejecutar miles de modelos en las plataformas de la serie X de Snapdragon y crear aplicaciones Windows enriquecidas con IA. Los desarrolladores también pueden aprender sobre la IA On-Device y cómo implementarla en sus aplicaciones en este curso online ofrecido por DeepLearning.ai en colaboración con Qualcomm Technologies.
Deja un comentario