Blog
Cómo aprovechar las ventajas de la cadena de suministro para los centros de datos
Se ha debatido mucho sobre en qué podría evolucionar la IA en el futuro: una cumbre sobre IA en el Reino Unido en noviembre de 2023 reunió a líderes tecnológicos de todo el mundo para debatir posibles resultados, buenos y malos. Como era de esperar, la reunión se celebró en Bletchley Park, el hogar de los descifradores de códigos durante la Segunda Guerra Mundial que utilizaban el primer ordenador "Colossus", tal vez un precursor de la IA de hoy con sus 2500 tubos, su superficie de 17 metros cuadrados, su peso de 5 toneladas métricas y su consumo de energía de 8 kW.Prueba de Turing"Determinar si una computadora puede 'pensar' debe su nombre al descifrador de códigos de Bletchley Park, Alan Turing, y se argumenta que el 'Gran Modelo de Lenguaje' ChatGPT ahora pasa con facilidad.
Límites de la IA: energía y hardware
Entonces, ¿cuáles son las influencias que controlan la IA? Dejando a un lado las consideraciones éticas, hay límites prácticos en juego, y uno de ellos, y no el menor, es el hardware involucrado y el suministro de energía para ejecutarlo. Antes de la IA, centros de datos Los datos mostraron enormes aumentos en el rendimiento para satisfacer las demandas de servicios como la transmisión de video y los juegos en la nube, pero el hardware se mantuvo a la par y los avances en la programación y la eficiencia del sistema de suministro de energía dieron como resultado un consumo de energía general del centro de datos apenas mayor. Por ejemplo, el consumo aumentó solo 20% entre 2015 y 2022 según la Agencia Internacional de Energía (AIE). Esto ocurre a pesar de un aumento del 340% en la carga de trabajo del centro de datos entre las mismas fechas.
Centros de datos, inteligencia artificial y energía: las cifras
Sin embargo, las cosas están cambiando con la IA: la fase de entrenamiento de un modelo de lenguaje grande (LLM) consume mucha energía; se informa que ChatGPT consume más de 1,2 TWh. Sin embargo, en la fase operativa o de "inferencia", La figura es de alrededor 564 MWh por día Utilizando cerca de 30.000 GPU NVIDIA en más de 3.600 servidores. Como resultado de cifras como estas y todas las demás aplicaciones de servidores, la IEA afirma que el crecimiento del uso de energía de los centros de datos se sitúa ahora a un ritmo de 20-40% al año. Empresa Schneider estima que el elemento CAGR de IA es 25% a 30% hasta 2028.
Obtenga más información sobre las consideraciones de potencia de IA de los módulos de potencia Flex
