La adopción de la inteligencia artificial (IA) se está acelerando en todos los sectores. Según McKinsey, Más del 75 % de las organizaciones utilizan IA en al menos una función empresarial, y podría decirse que aún estamos en las primeras etapas. Detrás de este auge se esconde un desafío urgente: cómo alimentar y refrigerar de forma eficiente y sostenible la infraestructura que lo hace posible. Como se suele decir, no se puede mejorar lo que no se puede medir.
Durante casi dos décadas, la eficiencia energética (PUE, por sus siglas en inglés) ha sido el estándar de oro para medir la eficiencia de los centros de datos. Compara el consumo total de energía de las instalaciones con el consumido por los equipos de TI. En términos sencillos, un PUE más bajo indica que se destina más energía al procesamiento que a gastos generales como la iluminación o la refrigeración. Pero la IA lo cambia todo.
Por qué el PUE por sí solo no es suficiente: los límites de una métrica conocida.
El PUE se diseñó para una época diferente, caracterizada por cargas de trabajo relativamente predecibles, impulsadas por la CPU y con densidades de potencia modestas. Las cargas de trabajo de IA se comportan de forma muy distinta. Los clústeres de GPU consumen energía en ráfagas, la densidad de racks alcanza el rango de los megavatios y las exigencias térmicas son mucho mayores. A medida que aumenta la demanda de IA, la escasez de energía y el creciente consumo de agua impulsan la necesidad de métricas de evaluación más completas y detalladas.
Hoy centros de datos Son complejos e interconectados, con mejoras en un área que impactan la eficiencia en otra. En este contexto, el PUE puede ser útil para orientar el análisis, pero también puede resultar engañoso si se considera de forma aislada. Por ejemplo, el PUE no mide la eficiencia real del uso de los recursos informáticos. Ignora el consumo de agua, las emisiones de carbono y la reutilización de energía. Puede llevar a conclusiones erróneas en escenarios donde la infraestructura o la utilización de los recursos cambian.
En resumen, el PUE por sí solo no aborda las múltiples facetas de la eficiencia que los operadores deben considerar en su búsqueda por ofrecer más tokens por dólar de manera equilibrada y sostenible. Esta es la idea central detrás del libro electrónico. Más allá del PUE: Eficiencia de los centros de datos en la era de la IA, que introduce un marco más integral para evaluar y mejorar el rendimiento de los centros de datos.