Dell Technologies (NYSE: DELL) ha anunciado hoy dos
desarrollos significativos que marcarán el futuro de la Inteligencia Artificial Generativa (GenAI) y el
almacenamiento de datos empresariales, reforzando su posición como líder en innovación
tecnológica.
Expansión del ecosistema abierto de IA Generativa con AMD Instinct™
Dell Technologies se une con AMD para expandir su cartera de Soluciones de IA Generativa. El
nuevo Dell PowerEdge XE9680 es una muestra de esta colaboración, incorporando el acelerador
AMD Instinct™ MI300X. Esta innovación promete ser la solución de implementación más rápida de
Dell, optimizando el rendimiento de la IA y ofreciendo a las empresas una variedad de opciones
para mejorar sus capacidades de GenAI.
Raymundo Peixoto, vicepresidente Senior de Soluciones de Infraestructura de Dell Technologies
en América Latina, comentó que "GenAI es el acelerador más prometedor para la innovación en
esta década" y, además, subraya la importancia de seleccionar infraestructuras de TI adecuadas
para proyectos de IA escalables y energéticamente eficientes, y el valor añadido de contar con un
equipo de consultoría que ayude a los clientes en su camino hacia la transformación digital.
El PowerEdge XE9680 de Dell, integrado con AMD Instinct MI300X, representa un salto
significativo en capacidades de alto rendimiento, especialmente diseñado para empresas que
buscan maximizar el valor de sus datos. Este servidor no solo permite diferenciar negocios a través
de Lenguajes de Modelos Grandes personalizados (LLMs), sino que también viene equipado con
ocho GPUs MI300X. Cada una de estas GPUs cuenta con 192 GB de memoria HBM3 de alta
velocidad, alcanzando 5,3 TB/s y sumando un total de 1,5 TB de memoria HBM3 por servidor.
Además, su capacidad para ofrecer más de 600 TFLOPS y 21 petaflops de rendimiento pico
FP32/FP16 sitúa al PowerEdge XE9680 con MI300X como un recurso clave para democratizar aún
más el acceso a GenAI. Estas características permiten a las empresas no solo entrenar modelos
más grandes, sino también reducir el tamaño de sus centros de datos, disminuir el costo total de
propiedad (TCO) y, en última instancia, obtener una ventaja competitiva en el mercado.
En línea con estas innovaciones, Dell también está ampliando sus Soluciones de Inteligencia
Artificial Generativa con un diseño validado que soporta el Acelerador AMD MI300X Instinct. Este
desarrollo es un paso adelante para facilitar a las organizaciones la implementación de GenAI de
manera confiable. Incluyendo el conjunto ROCm™ de AMD, que comprende controladores de
código abierto, herramientas de desarrollo y APIs específicas para aceleradores AMD Instinct, este
nuevo diseño validado de Dell para IA Generativa con AMD ROCm™ integra LLMs de código
abierto. Esto hace que sea más sencillo para los clientes de Dell construir plataformas GenAI
personalizadas y robustas, eliminando la incertidumbre en cuanto a la integración, el rendimiento
y el dimensionamiento.
Además, el PowerEdge XE9680 se destaca no solo por su rendimiento, sino también por su
seguridad y simplicidad. La implementación de la infraestructura GenAI se ve enormemente
facilitada por el software Dell Open Manage Enterprise, mientras que CloudIQ ofrece
automatización inteligente accesible desde cualquier lugar. Reforzando aún más su perfil, el
PowerEdge XE9680 viene equipado con recuperación cibernética integrada y adopta un enfoque
de Confianza Cero para una mayor seguridad.
Profundizando en su arquitectura, el PowerEdge XE9680 con MI300X se beneficia de la Plataforma
Infinity de AMD. Esta plataforma, impulsada por ocho aceleradores AMD Instinct MI300X, permite
una escalabilidad casi lineal y un entrenamiento GenAI distribuido de baja latencia. Este avance se
logra mediante la Interconexión Global de Memoria (xGMI), que enlaza un clúster de servidores
PowerEdge, interconectando GPUs MI300X a través de una malla de inteligencia artificial basada
en Ethernet. Dell ha validado esta malla de GPU con el Dell PowerSwitch Z9664F-ON, asegurando
un rendimiento óptimo y una integración efectiva.
Como miembro activo del Consorcio de Ethernet Ultra (UEC), Dell continúa defendiendo una red
basada en estándares abiertos. Esta posición estratégica permite a Dell Technologies aprovechar al
máximo el potencial de un enfoque abierto en toda la solución GenAI, abarcando desde la
computación hasta la malla y el almacenamiento.
El Dell PowerEdge XE9680 con Aceleradores AMD Instinct™ MI300X y el Diseño Validado de Dell
para IA Generativa con AMD estarán disponibles para los clientes en la primera mitad de 2024.
Avances en almacenamiento para estrategias de IA y GenAI
Paralelamente, Dell Technologies ha hecho progresos significativos en sus sistemas de
almacenamiento con Dell PowerScale, logrando hasta un 200% de mejora en el rendimiento para
lecturas y escrituras en streaming. Estos avances no solo facilitan un acceso más rápido a los datos
para cargas de trabajo de IA, sino que también refuerzan las capacidades de modelado de IA con
las actualizaciones de software Dell PowerScale OneFS.
Arthur Lewis, presidente del Grupo de Soluciones de Infraestructura de Dell Technologies, enfatiza
la importancia del rendimiento del almacenamiento para el éxito en IA y GenAI, y destacó la forma
en la que Dell está liderando la innovación en este campo.
PowerScale introducirá una nueva función de expansión inteligente para optimizar el rendimiento
de los nodos de cómputo y mejorar la eficiencia de las GPU. Esto se traducirá en una velocidad de
transferencia de datos más rápida, lo cual es crucial para el entrenamiento de inteligencia artificial
(IA), la creación de puntos de control (checkpointing) y la inferencia.
Scott Sinclair, de Enterprise Strategy Group, destacó el compromiso de Dell con el desarrollo de
soluciones de almacenamiento orientadas a la IA, según explicó: “Las mejoras recientes en
PowerScale permitirán a los usuarios optimizar el entrenamiento y el ajuste de modelos de IA,
facilitando la toma de decisiones comerciales más rápidas y precisas”.
En colaboración con NVIDIA, Dell está trabajando para combinar sistemas NVIDIA DGX,
almacenamiento Dell PowerScale y redes NVIDIA Quantum-2 InfiniBand y Spectrum Ethernet. Esta
integración busca ofrecer un almacenamiento de IA más rápido y eficiente, y se espera que Dell
sea el primero en lograr una solución de almacenamiento Ethernet validada en NVIDIA DGX
SuperPOD.
Con la validación para NVIDIA DGX SuperPOD, Dell PowerScale reforzará las infraestructuras de IA
llave en mano para centros de datos, permitiendo a los clientes acelerar sus iniciativas de IA y
GenAI con soluciones de almacenamiento avanzadas.
Con casi el 87% de las empresas adoptando estrategias de multicloud, Dell brinda a los clientes la
libertad de procesar datos donde tenga más sentido para ellos, ya sea en sus instalaciones, en el
borde o en nubes públicas.
La incorporación de Dell APEX File Storage en Microsoft Azure y AWS brinda capacidades
avanzadas de gestión y rendimiento de archivos. Esto permite a los clientes satisfacer las
necesidades de aplicaciones de IA y aprendizaje automático de alto rendimiento. Además, a través
de la colaboración con Databricks, Dell ofrece mayor flexibilidad en entornos multicloud para el
manejo de grandes modelos de lenguaje y bibliotecas avanzadas.
La colaboración de Dell con Databricks y la integración del software de análisis de Starburst en sus
servidores y sistemas de almacenamiento están diseñadas para acelerar los esfuerzos de IA y
análisis de datos. Con el lanzamiento de su moderno lago de datos abierto, Dell busca
proporcionar una solución integral para el análisis de datos en diferentes entornos.
Una visión integral para el futuro de la IA
Con estos desarrollos, Dell Technologies refuerza su compromiso de llevar la IA y la GenAI al
siguiente nivel, ofreciendo soluciones integrales que abarcan desde el rendimiento hasta la
seguridad y simplicidad. Estos esfuerzos son parte de una estrategia más amplia que busca
democratizar aún más el acceso a tecnologías avanzadas y garantizar que las empresas estén
equipadas para competir en la nueva era digital.
Comments