Más del 11% de GPUs de Meta están inactivas

Meta ha informado que más del 11% de las unidades de procesamiento gráfico (GPUs) en su supercluster Prometheus, ubicado en Nueva Albany, Ohio, están inactivas o han fallado. Este supercluster es uno de los mayores despliegues de computación de la compañía y está diseñado para mantener el ritmo de los entrenamientos de inteligencia artificial, un área crítica para su desarrollo tecnológico.

La razón detrás de tener una cantidad significativa de GPUs inactivas es asegurar que el sistema pueda recuperarse rápidamente de fallas. En un sistema tan extenso como el de Prometheus, que está diseñado para escalar hasta un gigavatio de capacidad con aproximadamente un millón de aceleradores, las fallas son inevitables. Al contar con GPUs adicionales listas para entrar en acción, Meta busca minimizar el impacto en sus operaciones.

Este enfoque no es único de Meta; muchas empresas que operan grandes clústeres de computación enfrentan el desafío de la fiabilidad. A medida que el número de componentes crece, también lo hace la probabilidad de que uno o más fallen, lo que puede interrumpir procesos críticos como el entrenamiento de modelos de lenguaje grande (LLM) o cargas de trabajo de computación de alto rendimiento (HPC).

El supercluster Prometheus está impulsado por los sistemas de rack Grace Blackwell de Nvidia y, en un futuro próximo, también contará con los sistemas Vera Rubin. Esto resalta la continua colaboración entre Meta y Nvidia en el ámbito de la inteligencia artificial, una asociación que probablemente seguirá evolucionando a medida que ambas empresas busquen optimizar sus capacidades de computación.

La decisión de mantener un número elevado de GPUs en espera subraya la importancia de la fiabilidad en las operaciones de IA. Para los usuarios y desarrolladores, esto significa que Meta está comprometido a ofrecer un servicio continuo y eficiente, lo que podría traducirse en avances más rápidos en la inteligencia artificial y otras aplicaciones tecnológicas.