El gasto en infraestructura para la inferencia de inteligencia artificial está proyectado a superar al de entrenamiento por primera vez en 2026, según un informe de Gartner. Este cambio representa una transformación fundamental en cómo se financia y desarrolla la IA, pasando de una inversión inicial a un gasto recurrente continuo. Las implicaciones afectan desde el diseño de centros de datos hasta los precios de los componentes electrónicos y los servicios de IA para los usuarios finales.
Desde la popularización de ChatGPT y la expansión de la inteligencia artificial, el término "entrenamiento" ha sido central. Se sabía que el entrenamiento era costoso debido a los equipos y el consumo de recursos naturales y energéticos. Sin embargo, parece que nos acercamos a una nueva etapa de la IA, dominada por la inferencia. Estimaciones recientes sugieren que el gasto en infraestructura para inferencia superará al de entrenamiento en 2026 y continuará en ascenso.
Un informe reciente de Gartner indica que el gasto global en IaaS optimizado para IA crecerá un 96% este año, alcanzando los 42.000 millones de dólares. Lo más relevante es la distribución de esta inversión: 23.300 millones de dólares se destinarán a inferencia, frente a 19.000 millones para entrenamiento. Esto significa que la inferencia acaparará, por primera vez, la mayor parte de la inversión, representando el 55% del presupuesto de IaaS para el año. Gartner también proyecta que el mercado de optimización de IaaS alcanzará los 66.100 millones de dólares en 2027, y que los 42.000 millones para 2026 solo representarán el 15% del mercado global de IaaS, valorado en 287.300 millones de dólares.
Este fenómeno indica un cambio de paradigma significativo. El entrenamiento de modelos de IA requiere una gran capacidad de procesamiento y un costo inicial elevado, pero finito. Una vez entrenado el modelo, la inferencia entra en juego, calculando las respuestas a las consultas de los usuarios. Este proceso conlleva un costo recurrente que se incrementa con cada interacción. En la era agéntica actual, donde las peticiones se multiplican, se estima que la inferencia podría representar entre el 80% y el 90% del costo total de vida de un sistema de IA, dejando el porcentaje restante para el entrenamiento. La IA se transforma así de un "proyecto de inversión" a un "gasto continuo". Para empresas como Meta, Google, Amazon o Microsoft, la IA deja de ser un aspecto más del negocio para convertirse en una parte fundamental.
Estos gigantes tecnológicos deben reestructurar sus presupuestos, enfocándose en el costo por token, la eficiencia energética y la latencia. La obsesión por el tamaño de los modelos podría perder relevancia. El predominio de la inferencia obliga a los proveedores de servicios en la nube a rediseñar sus sistemas. Ya no se trata solo de potencia bruta; los centros de datos deberán optimizarse para servir modelos de manera más eficiente, donde la memoria rápida, el mayor ancho de banda y la eficiencia serán tan cruciales como la potencia de cómputo. Gartner predice que las arquitecturas de los centros de datos se volverán más densas en aceleradores y que el modelo de negocio ofrecerá tarifas por uso más agresivas.
Este cambio ya se observa en los grandes centros de datos, con empresas chinas diseñando sistemas para la inferencia y Nvidia produciendo masivamente su plataforma Vera Rubin. A nivel de dispositivos de consumo, también emergen equipos más orientados a la inferencia local, como la estación de trabajo DGX Spark de Nvidia o las alianzas de Microsoft con Nvidia para portátiles. Se espera que los fabricantes de PC y portátiles integren NPUs, CPUs y GPUs diseñadas para ejecutar modelos de manera eficiente y local, minimizando la dependencia de la nube para tareas menos exigentes.
El lado negativo de este auge de la inferencia es el impacto en el mercado de componentes. La demanda de las grandes tecnológicas por la inferencia está distorsionando el mercado. Los principales fabricantes de DRAM (Samsung, Micron y SK Hynix) están destinando su producción a la memoria HBM y DDR5 de servidor para IA, lo que se traduce en precios menos competitivos para los consumidores. Esta situación afecta no solo a la memoria RAM, sino también al almacenamiento NAND (SSD), los HDD, y otros componentes como tarjetas gráficas, procesadores y placas base. El resultado son componentes más caros, así como dispositivos móviles, consolas y otros equipos con precios prohibitivos.
Más allá del hardware, el precio de la propia IA también se ve afectado. Pensando en empresas que ofrecen servicios de IA, el gasto continuo y la necesidad de ser competitivas podrían llevar a límites de tokens más bajos, más niveles de suscripción e incluso precios dinámicos según la carga del sistema. El futuro se presenta complejo y desafiante.
