Oracle y Nvidia han anunciado hoy la ampliación de su colaboración para ofrecer soluciones de IA soberanas a clientes de todo el mundo. La nube distribuida, la infraestructura de IA y los servicios de IA generativa de Oracle, combinados con el software acelerado de procesamiento e IA generativa de Nvidia , están permitiendo a gobiernos y empresas desplegar fábricas de IA.
Estas fábricas de IA pueden ejecutar servicios en la nube a nivel local y dentro de las instalaciones seguras de un país u organización con diversos controles operativos, lo cual respalda los objetivos soberanos de diversificar e impulsar el crecimiento económico.
Soluciones llave en mano para ayudar a los clientes a cumplir las normas en materia de soberanía de datos
La combinación de la plataforma de IA de pila completa de Nvidia con la IA empresarial de Oracle, que se puede implementar en OCI Dedicated Region, Oracle Alloy, Oracle EU Sovereign Cloud y Oracle Government Cloud, ofrece a los clientes una solución de IA de vanguardia que proporciona mayor control sobre las operaciones, la ubicación y la seguridad para fortalecer la soberanía digital.
«A medida que la IA redefine los negocios, la industria y las políticas en todo el mundo, los países y las organizaciones necesitan fortalecer su soberanía digital para proteger sus datos más valiosos», comenta Safra Catz, CEO de Oracle. «Nuestra constante colaboración con Nvidia y nuestra capacidad única para desplegar regiones en la nube de forma rápida y local garantizarán que las sociedades puedan aprovechar la IA sin poner en riesgo su seguridad».
Países de todo el mundo están invirtiendo cada vez más en infraestructura de IA que pueda apoyar sus objetivos culturales y económicos. En 66 regiones de nube repartidas en 26 países, los clientes pueden acceder a más de 100 servicios de nube e IA, incluidas infraestructuras y aplicaciones para respaldar la migración, la modernización y la innovación de TI.
Las ofertas combinadas de las empresas se pueden desplegar a través de la nube pública o en el centro de datos de un cliente en ubicaciones específicas, con controles operativos flexibles. Oracle es el único hiperescalador capaz de ofrecer IA y servicios completos en la nube en entornos locales y en cualquier lugar. Los servicios y precios de Oracle Cloud Infrastructure son uniformes en todos los tipos de despliegue para simplificar la planificación, la portabilidad y la gestión.
«En una era en la que la innovación se basará en tecnología de IA generativa, velar por la soberanía de datos es un imperativo cultural y económico», señala Jensen Huang, fundador y CEO de Nvidia. «La infraestructura y las aplicaciones en la nube integradas de Oracle, junto con los servicios de IA generativa y procesamiento acelerado de Nvidia, crean la flexibilidad y la seguridad que las regiones y naciones necesitan para controlar su propio destino».
Los servicios en la nube de Oracle aprovechan diversas tecnologías de la pila de Nvidia , incluida la infraestructura de procesamiento acelerado de Nvidia y la plataforma de software Nvidia AI Enterprise, incluidos los microservicios de inferencia Nvidia NIM que acaban de anunciarse y que se basan en el software de inferencia Nvidia, como Nvidia TensorRT, Nvidia TensorRT-LLM y Nvidia Triton Inference Server.
OCI Supercluster y OCI Compute reforzados con Nvidia Grace Blackwell
Para ayudar a los clientes a satisfacer las crecientes necesidades de modelos de IA, Oracle aprovechar al máximo la última plataforma de procesamiento Nvidia Grace Blackwell, anunciada hoy en GTC, en OCI Supercluster y OCI Compute. OCI Supercluster será significativamente más rápido con nuevas instancias con hardware dedicado de OCI Compute, redes RDMA de latencia ultrabaja y almacenamiento de alto rendimiento. OCI Compute adoptará tanto NVIDIA GB200 Grace Blackwell Superchip como GPU Nvidia Blackwell B200 Tensor Core.
El Nvidia GB200 Grace Blackwell Superchip dará impulso a una nueva era de procesamiento informático. GB200 ofrece una inferencia de modelo grande de lenguaje (LLM) en tiempo real hasta 45 veces más rápida, un coste total de propiedad 40 veces menor y un consumo de energía 40 veces menor que la generación anterior de GPU, lo cual supondrá un enorme impulso para el entrenamiento de la IA, el procesamiento de datos y el diseño y la simulación en el ámbito de la ingeniería. Las GPU de Nvidia Blackwell B200 Tensor Core están diseñadas para las cargas de trabajo de IA, análisis de datos y computación de alto rendimiento (HPC) más exigentes.
Los microservicios Nvidia NIM y CUDA-X, incluidos Nvidia NeMo Retriever para despliegues de inferencias de generación aumentada de recuperación (RAG), también ayudarán a los clientes de Oracle Cloud Infrastructure a aportar más insights y precisión a sus copilotos de IA generativa y otras herramientas de productividad que utilicen sus propios datos.
Nvidia Grace Blackwell llega a DGX Cloud en Oracle Cloud Infrastructure
Para satisfacer la creciente demanda de los clientes de modelos de IA cada vez más complejos, las empresas están agregando Nvidia Grace Blackwell a Nvidia DGX Cloud en Oracle Cloud Infrastructure. Los clientes podrán acceder a nuevas instancias basadas en GB200 NVL72 a través de este servicio de supercomputación diseñado conjuntamente para que el entrenamiento y la inferencia mantengan la eficiencia energética en una época de modelos LLM compuestos por billones de parámetros.
La cartera completa de clústeres de DGX Cloud incluirá más de 20 000 aceleradores GB200 y redes NVIDIA CX8 InfiniBand, lo que proporcionará una infraestructura en la nube altamente escalable y de gran rendimiento. El clúster constará de 72 GPU Blackwell NVL 72 y 36 CPU Grace con NVLink de quinta generación.
Disponibilidad
Las soluciones de IA soberana de Oracle y Nvidiaestarán disponibles en próximas fechas.
Deja un comentario