Apple ha presentado sus nuevas máquinas Mac, que se posicionan como las mejores para ejecutar modelos de inteligencia artificial de forma local, privada y eficiente. Este giro estratégico subraya la importancia de la memoria unificada y el ancho de banda, donde Apple aventaja a la competencia. Sin embargo, el acceso a esta tecnología de vanguardia viene acompañado de un precio considerable.
Para los entusiastas de la inteligencia artificial, los recientes anuncios de Apple fueron una mezcla de asombro y decepción. Maravilloso por la presentación de máquinas excepcionales que se perfilan como las mejores para ejecutar modelos de IA de forma local. Triste porque el acceso a estas máquinas no está al alcance de todos. El mensaje central del lanzamiento fue claro: estos Mac ya no son solo para profesionales de la fotografía o la edición de vídeo, sino "bestias perfectas para correr los citados modelos de IA en local". Una IA privada, eficiente y súper silenciosa. Este giro es significativo, ya que, si bien Apple podría no tener (todavía) el modelo de IA líder en la industria, posee sin duda la mejor máquina para ejecutar modelos de IA locales.
El éxito de Apple se debe, en gran parte, a su memoria unificada. Retomando el pasado, cuando la compañía lanzó los revolucionarios Apple M1 en 2020, la atención se centró en su asombrosa eficiencia y rendimiento por vatio. Sin embargo, pocos (aunque algunos sí) reconocieron la importancia de la memoria unificada en ese momento. Era el año 2020, y una gran cantidad de memoria de vídeo no era crucial para la mayoría de los usuarios. Las tarjetas gráficas como la RTX 3090 con 24 GB de GDDR6X parecían excesivas, y muchos se conformaban con los 8 GB de la RTX 3070, o los 10 GB de la RTX 3080, que ya se consideraban más que suficientes.
Todo cambió el 30 de noviembre de 2022 con la llegada de ChatGPT. Sin saberlo en ese momento, este lanzamiento no solo sería el catalizador para los modelos de IA en la nube, sino también para aquellos que podían ejecutarse localmente en nuestros ordenadores. Meta sorprendió a todos con su modelo de pesos abiertos, Llama, y gradualmente se hizo evidente que la memoria de vídeo era extremadamente importante para ejecutar modelos de IA localmente. De hecho, se comprendió que, para los modelos de IA locales, dos aspectos de la memoria de vídeo eran cruciales: una mayor cantidad (para ejecutar modelos más grandes y potentes) y un mayor ancho de banda (para más tokens por segundo en inferencia).
Así, las cosas empezaron a aclararse: cuando llegaron las RTX 5090 con 32 GB de GGDR7, ofrecían un excelente ancho de banda (casi 1.792 TB/s), pero se quedaban algo cortas en cantidad de memoria para albergar modelos de IA grandes. En este escenario, Apple, casi sin hacer ruido, comenzó a destacar como una opción sobresaliente. Los Mac Studio con los M3 Ultra del año pasado ofrecían a los usuarios la posibilidad de acceder a máquinas con hasta 512 GB de memoria unificada y un impresionante ancho de banda de 819 GB/s. Si bien era menos de la mitad que las RTX 5090, proporcionaba un margen considerable para integrar modelos de pesos abiertos realmente grandes en esa memoria.
Con los nuevos Mac Studio equipados con los chips Apple M5 Ultra, esa memoria unificada brilla aún más. Se mantienen los hasta 512 GB disponibles por máquina, pero el ancho de banda ahora asciende a 1,2 TB/s, un 50% más que en los M3 Ultra. La mejora es notable, y la situación de la competencia es complicada, como se observa en comentarios de expertos. Las tarjetas gráficas más potentes de Nvidia superan a Apple en ancho de banda, pero no en cantidad de memoria VRAM, y además requieren el resto de componentes para funcionar.
La DGX Spark es una alternativa interesante con sus 128 GB de "memoria unificada", similar a la de los Mac, pero su ancho de banda es significativamente inferior al de los M3 Ultra, y mucho más al de los M5 Ultra. El mismo problema afecta a todas sus variantes (Acer Veriton GN100, Dell GB10, etc.), así como a máquinas como el Framework Desktop o los nuevos PCs con chips AMD Strix Halo (como el Ryzen AI Max+ 395): el ancho de banda es limitado, rondando los 250 GB/s. En comparación, el Mac mini M4 tiene un ancho de banda de 120 GB/s, aproximadamente la mitad que las DGX Spark, lo que representa un desafío para los rivales de Apple.
El software complementa la ecuación. Durante años, se ha hablado de CUDA como el "foso defensivo" de Nvidia en el ámbito de la inteligencia artificial. Esta tecnología ha permitido a los desarrolladores maximizar las capacidades de sus tarjetas gráficas, especialmente en los grandes centros de datos utilizados por OpenAI, Anthropic y sus competidores. Sin esta tecnología, NVIDIA no obtendría los ingresos ni dominaría el mercado de las GPU como lo hace hoy. El éxito de Nvidia no se debe tanto a sus chips de IA como a su software de IA. AMD, por ejemplo, tiene chips fantásticos en sus Instinct MI350, pero su software no está (todavía) tan pulido. Su tecnología ROCM avanza, pero por ahora Nvidia mantiene esa ventaja tan valorada por los usuarios que buscan simplicidad.
Apple, que parecía estar en desventaja, sorprendió con MLX, un framework abierto para su familia de chips Apple Silicon. Con MLX, se ha creado un ecosistema de modelos cuantizados que se "entienden" perfectamente con estos chips, y aplicaciones como LM Studio permiten ejecutarlos de forma óptima. Además, hay otro componente de software destacable: la capacidad de conectar varios Mac (mini, Studio, etc.) para combinar su capacidad de cómputo y crear clústeres híbridos que permiten procesar más información y, sobre todo, aumentar la memoria disponible para ejecutar estos modelos. Esto es lo que Exo Labs lanzó hace unos meses, y ahora sus desarrolladores han colaborado con Apple para integrar esta opción de forma nativa en los nuevos equipos.
Se habla de cómo máquinas de este tipo podrían convertirse en los nuevos PCs domésticos de la era de la IA: en lugar de un PC o un NAS, la idea es tener una máquina similar al Mac Studio funcionando 24/7 para ejecutar modelos de IA locales. Bienvenidos a la era de los mini centros de datos de IA domésticos. Aunque estos modelos pueden ser inferiores en capacidad a los modelos frontera de OpenAI, Anthropic o sus rivales, la diferencia ya no es tan pronunciada. Esto se evidencia en el hecho de que los modelos abiertos chinos están muy cerca en rendimiento de lo que logran GPT-5.6 Sol o Fable 5.
Es cierto que algunos de esos modelos son demasiado grandes para ejecutarlos localmente (Kimi K3 es un modelo de 2.8 billones de parámetros, Qwen3.8.Max alcanza los 2.4 billones), pero de ellos se derivan versiones "locales" como el excepcional Qwen3.8-27B, que "cabe" perfectamente en una máquina con 32 GB de VRAM (o memoria unificada). Esto permite a quienes poseen una RTX 5090 ejecutarlo a velocidades que superan los 100 tokens/s en algunas variantes, pero con dos inconvenientes: las RTX 5090 consumen mucha energía, y generan bastante ruido y calor, lo que las hace "incómodas" para entornos domésticos. Aquí es donde los Mac Studio (e incluso los Mac mini con los nuevos M5 Pro) se convierten en máquinas muy recomendables para este ámbito. Son eficientes y silenciosas, superando a la competencia en estos aspectos.
Entonces, ¿cuál es el problema? El de siempre: ejecutar los mejores modelos de IA locales resulta muy costoso. A pesar de todas estas ventajas, el aspecto negativo es el elevado precio de los nuevos Mac. Era algo previsible hasta cierto punto, dada la crisis de las memorias que ha encarecido todo, pero Apple "castiga" especialmente a los usuarios que necesitan mayor capacidad de memoria en estas potias de la IA. El Mac Studio M5 Ultra con 96 GB de memoria unificada y 1 TB de SSD tiene un precio de 6.649 euros. Uf. El Mac Studio con el M5 Ultra más económico (96 GB de memoria unificada) parte de los 6.649 euros. Si se desea la versión de 256 GB, el precio asciende a 11.049 euros. Cabe mencionar que las DGX Spark con 256 GB tampoco son baratas y se acercan a los 6.000 euros actualmente, y lo mismo ocurre con otras alternativas: ejecutar grandes modelos de IA localmente es caro hoy en día.
Es probable que esto mejore con el tiempo, pero una cosa está clara: el giro que Apple ha dado a sus equipos de sobremesa es fascinante. En Cupertino parecía que tenían prohibido pronunciar las siglas "IA", pero desde hace un tiempo parecen haberlo comprendido. Quizás no tengan un modelo propio local destacable (aunque es probable que eso cambie), pero lo que sí tienen son (probablemente) las mejores máquinas para ejecutar los de la competencia. Bien jugado, Apple. Bien jugado.
