Meta Llama 3 se ejecutará en dispositivos con Snapdragon

Qualcomm Technologies, Inc. y Meta anunciaron una colaboración para optimizar la ejecución de los modelos de lenguaje de gran tamaño (LLM) Meta Llama 3 directamente en teléfonos inteligentes, PC, auriculares VR/AR, vehículos y más. La capacidad de ejecutar Llama 3 en dispositivos ofrece ventajas significativas, que incluyen una capacidad de respuesta superior, privacidad mejorada, confiabilidad mejorada y experiencias más personalizadas para los usuarios.

La colaboración tiene como objetivo democratizar el acceso a las capacidades de IA generativa al permitir que los OEM y los desarrolladores hagan que Llama 3 sea accesible en dispositivos impulsados por las próximas plataformas insignia Snapdragon. La utilización de la poderosa arquitectura informática heterogénea de Qualcomm Technologies, que aprovecha perfectamente la CPU, GPU y NPU, junto con una arquitectura de memoria de vanguardia, permite a los clientes, socios y desarrolladores maximizar el rendimiento de las aplicaciones, la eficiencia térmica y duración de la batería.

Los desarrolladores podrán acceder a los recursos y herramientas para ejecutar Llama 3 de manera óptima en plataformas Snapdragon a través de Qualcomm AI Hub, que actualmente ofrece aproximadamente 100 modelos de IA optimizados. Qualcomm AI Hub reduce el tiempo de comercialización para los desarrolladores y desbloquea los beneficios de la IA en el dispositivo para sus aplicaciones. Para obtener actualizaciones, suscríbete a nuestro boletín mensual para desarrolladores.

«Celebramos el enfoque abierto de Meta con Meta Llama 3 y compartimos su compromiso de empoderar a los desarrolladores e impulsar la innovación en IA», afirmó Durga Malladi, vicepresidente senior y director general de tecnología, planificación y soluciones de vanguardia de Qualcomm Technologies, Inc. «Nuestro liderazgo en IA en dispositivos, junto con nuestro amplio alcance en varios dispositivos en el borde, nos posiciona para expandir los beneficios del ecosistema Llama en todo el mundo y permitir a los clientes, socios y desarrolladores crear una nueva generación de experiencias de IA innovadoras”.

Qualcomm Technologies y Meta están comprometidos a impulsar la innovación y ofrecer la próxima generación de experiencias de IA. Este compromiso representa un hito importante en su colaboración continua y muestra su dedicación para dotar a los desarrolladores y usuarios de potentes capacidades de IA.

Fuente: Comunicado

Deja un comentario