Introducción
En los últimos años, los procesadores han tenido un papel secundario en los servidores dedicados a la Inteligencia Artificial (IA). Sin embargo, los agentes de IA han dado un vuelco a las necesidades de hardware de los servidores. AMD ha lanzado Zen 6, su nueva arquitectura, junto con EPYC Venice, una gama específica para centros de datos.
Rendimiento de Zen 6
Los modelos más potentes de EPYC Venice llegan hasta los 256 núcleos y 512 hilos, con un incremento del 27% en la capacidad de instrucciones por ciclo (IPC) respecto a la generación anterior. Los chips se fabrican en 2 nanómetros de TSMC.
Capacidad y conectividad
Los EPYC Venice tienen 16 canales de memoria DDR5 y admite módulos MRDIMM de hasta 12.800 MT/s y PCIe 6.0 para conectar GPU y memoria. Los chips se fabrican en 2 nanómetros de TSMC.
Diseño específico para IA
AMD ha diseñado un chip de la familia EPYC 9006 especializado en cada una de las tres tareas de trabajo de los servidores de IA: ejecutar agentes de IA en entornos aislados, alimentar a las GPU como nodo anfitrión que aloja a los modelos de IA, y mover los servicios de siempre, como bases de datos o almacenamiento que la IA necesita para funcionar.
Competencia
AMD compite con Nvidia en este segmento empresarial con su plataforma Vera. Los EPYC 9006 superan en rendimiento a los Vera de Nvidia en algunas pruebas de memoria, aunque estos resultados deben tomarse con cautela.
Conclusión
Con la llegada de los agentes de IA, la carga de datos se multiplica y recae principalmente en la CPU, no en la GPU. Por ese motivo, el incremento en la potencia y capacidad de los nuevos procesadores cobra especial relevancia en los nuevos centros de datos.
Comentarios