Los modelos de lenguajes de inteligencia artificial<\/strong> que se popularizaron durante este a\u00f1o, como ChatGPT <\/strong>(OpenIA) o Llama2 <\/strong>(Meta), fueron dise\u00f1ados para comprender, generar y, en ocasiones, traducir el lenguaje humano<\/strong>. Esto demanda m\u00e1s potencia de c\u00f3mputo para cumplir con las necesidades de usuarios cada vez m\u00e1s demandantes. Por eso AMD anunci\u00f3 dos procesadores que sirven de \u00abcerebros\u00bb<\/strong> para estos sistemas: los MI 300X y MI 300A. <\/strong><\/p>\n<\/div>\n La presidenta y CEO de AMD, la Dra. Lisa Su, volvi\u00f3 a ser la oradora de un evento que celebraron recientemente y que cont\u00f3 con la participaci\u00f3n de varios exponente de la industria y socios fabricantes de computadoras, como Dell, Hewlett Packard Enterprise (HPE), Lenovo, Microsoft, la nube de Oracle Cloud, quienes comenzar\u00e1n a utilizan su hardware de IA para hacer posible la computaci\u00f3n de alto rendimiento y aplicaciones de IA generativa.<\/strong><\/p>\n<\/div>\n En este contexto, AMD dio un salto tecnol\u00f3gico importante en lo que respecta a procesadores para data centers con la variante Instinct MI300X, ya que posee el suficiente ancho de banda para IA generativa y el m\u00e1ximo rendimiento hasta el momento para capacitaci\u00f3n e inferencia de Modelos de Lenguaje de Gran Tama\u00f1o (LLM), como ChatGPT.<\/p>\n<\/div>\n Estos flamantes \u00abaceleradores\u00bb de AMD destacan por funcionar con la nueva arquitectura AMD CDNA 3. Se trata de la arquitectura de c\u00f3mputo dedicada que subyace a los aceleradores AMD Instinct MI300 Series. Cuenta con tecnolog\u00edas espec\u00edficas dise\u00f1adas para reducir la sobrecarga de movimiento de datos<\/strong> y mejorar la eficiencia energ\u00e9tica de los data centers.<\/p>\n<\/div>\n Los LLM actuales contin\u00faan aumentando en tama\u00f1o y complejidad, y requieren cantidades masivas de memoria y computaci\u00f3n. Los aceleradores AMD Instinct MI300X cuentan con 192 GB de capacidad de memoria HBM3<\/strong>, la mejor de su clase, as\u00ed como un ancho de banda de memoria m\u00e1ximo de 5,3 TB\/s2 para ofrecer el rendimiento necesario para cargas de trabajo de IA cada vez m\u00e1s exigentes. <\/p>\n<\/div>\n En comparaci\u00f3n con los aceleradores AMD Instinct MI250X de la generaci\u00f3n anterior, MI300X ofrece casi un 40 % m\u00e1s de unidades de c\u00f3mputo<\/strong>, 1.5 veces m\u00e1s capacidad de memoria, 1.7 veces m\u00e1s ancho de banda de memoria te\u00f3rico m\u00e1ximo, as\u00ed como soporte para nuevos formatos matem\u00e1ticos <\/strong>como FP8 y sparsity; todo orientado a cargas de trabajo de IA y HPC.<\/p>\n<\/div>\n La serie AMD Instinct es una plataforma de IA generativa <\/strong>construida sobre un dise\u00f1o OCP est\u00e1ndar de la industria con ocho aceleradores MI300X para ofrecer una capacidad de memoria HBM3 de 1,5 TB. El dise\u00f1o est\u00e1ndar de la industria de la plataforma permite a compa\u00f1\u00edas como Lenovo o Dell dise\u00f1ar equipos para aceleradores MI300X<\/strong>, simplificar la implementaci\u00f3n y acelerar la adopci\u00f3n de servidores basados en esta tecnolog\u00eda.<\/p>\n<\/div>\n En comparaci\u00f3n con su rival Nvidia H100 HGX<\/strong>, la plataforma AMD Instinct puede ofrecer un aumento de rendimiento de hasta 1,6 veces cuando se ejecuta inferencia en LLM como BLOOM 176B y es la \u00fanica opci\u00f3n en el mercado capaz de ejecutar inferencia para un modelo de par\u00e1metros de 70B, como Llama2. en un \u00fanico acelerador MI300X.<\/p>\n<\/div>\n Como socio estrat\u00e9gico de las principales compa\u00f1\u00edas del mercado, AMD confirm\u00f3 que sus procesadores estar\u00e1n presente en los equipos de Microsoft Azure<\/strong> ND Serie MI300X v5 Virtual Machine (VM).<\/p>\n<\/div>\n A su vez, los servidores PowerEdge XE9680 de Dell<\/strong>, que incorporan aceleradores AMD Instinct 300X y un dise\u00f1o validado por Dell con marcos de IA impulsados por ROCm.<\/p>\n<\/div>\n Otros como Oracle Cloud Infrastructure<\/strong> planea agregar AMD Instinct MI300X en sus equipos para las instancias inform\u00e1ticas aceleradas de alto rendimiento para IA<\/strong> de la compa\u00f1\u00eda. Est\u00e1 previsto que las instancias basadas en MI300X admitan OCI Supercluster con redes RDMA ultrarr\u00e1pidas.<\/p>\n<\/div>\n Por otro lado, el evento en San Jos\u00e9 arroj\u00f3 precisiones sobre la esperada supercomputadora \u00abEl Capit\u00e1n\u00bb que estar\u00e1 operativa en 2024. <\/p>\n<\/div>\n AMD confirm\u00f3 que sus APUs \u2013la composici\u00f3n de un procesador x86 con gr\u00e1ficos integrados de mayor rendimiento\u2013 AMD Instinct MI300A ser\u00e1n los chips del equipamiento de \u00faltima generaci\u00f3n alojado en el Laboratorio Nacional Lawrence Livermore.<\/p>\n<\/div>\n Hewlett Packard Enterprise (HPE) y Advanced Micro Devices Inc. hicieron historia en 2020 al anunciar el desarrollo de la supercomputadora m\u00e1s grande del mundo<\/strong>, dise\u00f1ada para prevenir incendios forestales, terremotos y hasta proteger el arsenal nuclear de los Estados Unidos<\/strong>, entre otras cosas. <\/p>\n<\/div>\n El Capitan es la supercomputadora m\u00e1s r\u00e1pida del mundo, ofreciendo un procesamiento 10 veces m\u00e1s r\u00e1pido que cualquiera de sus predecesoras. Notablemente, se dice que puede entregar un rendimiento mayor que 200 supercomputadoras<\/strong> combinadas.<\/p>\n<\/div>\n La nueva arquitectura optimizada AMD Instinct MI300A, que combina la \u00faltima arquitectura AMD CDNA 3 y CPU Zen 4 , para cargas de trabajo como la inform\u00e1tica de alto rendimiento e inteligencia artificial. La supercomputadora tambi\u00e9n utilizar\u00e1 unidades de procesamiento central Epyc de AMD<\/strong> y la tercera generaci\u00f3n de la Arquitectura Infinity de AMD para una conexi\u00f3n de alta velocidad y baja latencia entre las CPU y las GPU.<\/p>\n<\/div>\n \u201cLos aceleradores de la Serie AMD Instinct MI300 est\u00e1n dise\u00f1ados con nuestras tecnolog\u00edas m\u00e1s avanzadas, ofreciendo un rendimiento l\u00edder y estar\u00e1n en implementaciones empresariales y en la nube a gran escala\u201d, dijo Victor Peng, presidente de AMD.<\/p>\n<\/div>\n Y agreg\u00f3: \u00abAl aprovechar nuestro liderazgo en hardware, software y enfoque de ecosistema abierto, los proveedores de nube, fabricantes de equipos originales, y fabricantes de dise\u00f1o original (OEM y ODM por sus siglas en ingl\u00e9s) est\u00e1n llevando al mercado tecnolog\u00edas que permiten a las empresas adoptar e implementar soluciones impulsadas por IA.\u201d<\/p>\n<\/div>\n AMD Instinct MI300A es la primera APU del mundo para centros de datos<\/strong> enfocada en el procesamiento y realizar c\u00e1lculos complejos a altas velocidades (HPC) junto con inteligencia artificial, aprovecha el apilado 3D y la arquitectura AMD Infinity de cuarta generaci\u00f3n para ofrecer un buen rendimiento frente a cargas de trabajo cr\u00edticas.<\/p>\n<\/div>\n![\"La](\"https:\/\/www.clarin.com\/img\/2023\/12\/15\/tHPn0XNKp_720x0__1.jpg\"\/)
La plataforma con procesadores MI 300X para actualizar los data centers. <\/span><\/span><\/picture><\/div>\nC\u00f3mo cambiar\u00e1 ChatGPT y los modelos de lenguaje con el procesador MI 300X<\/h2>\n<\/p>\n
![\"ChatGPT,](\"https:\/\/www.clarin.com\/img\/2023\/12\/15\/n1x-yuSo-_720x0__1.jpg\"\/)
ChatGPT, la IA generativa del 2023.Foto: AP.<\/span><\/span><\/picture><\/div>\n![\"Lisa](\"https:\/\/www.clarin.com\/img\/2023\/12\/15\/hHq9NmH24_720x0__1.jpg\"\/)
Lisa Su, CEO de AMD, present\u00f3 el procesador MI 300x en San Jos\u00e9, California.<\/span><\/span><\/picture><\/div>\n![\"NVIDIA](\"https:\/\/www.clarin.com\/img\/2023\/12\/15\/ZS9f-iK9X_720x0__1.jpg\"\/)
NVIDIA H100 hgx, rival del procesador AMD MI 300X.<\/span><\/span><\/picture><\/div>\nEl Capit\u00e1n, la super computadora con el chip AMD MI 300A<\/h2>\n<\/p>\n
![\"La](\"https:\/\/www.clarin.com\/img\/2023\/12\/15\/dbQ7wQ0_K_720x0__1.jpg\"\/)
La supercomputadora \u00abEl Capit\u00e1n\u00bb fue dise\u00f1ada por Cray, compa\u00f1\u00eda que HPE adquiri\u00f3 por $1.3 mil millones de d\u00f3lares en mayo del 2020.<\/span><\/span><\/picture><\/div>\n