Microsoft anunció este 12 de octubre Maia 300, la tercera generación de su chip propio para inteligencia artificial. Según The Verge, está diseñado para convertirse en el sistema principal de inferencia —la ejecución de modelos para generar respuestas— de los productos y servicios de Microsoft.

📊 La promesa combina menor costo y mayor eficiencia al ejecutar IA en la nube: Scott Guthrie, vicepresidente ejecutivo del grupo de nube de Microsoft, espera 40% más tokens por megavatio frente a sistemas líderes basados en GPU. En una configuración de 96 aceleradores, la compañía también anuncia hasta siete veces el rendimiento de generación de tokens por rack de Maia 200; son expectativas de Microsoft, no resultados independientes.

🚀 El despliegue de Maia 300 en cargas de IA de producción comenzará en 2027. Desde ese año, Microsoft planea ampliar la familia Azure Maia a instalaciones de varios gigavatios y apoyarse principalmente en sus propios chips para inferencia, reduciendo su dependencia de los de Nvidia y AMD.

💻 Su antecesor, Maia 200, se anunció apenas en enero y ya ejecuta cargas de producción de Microsoft Copilot, GitHub Copilot, Microsoft Foundry y los modelos propios de la empresa. Guthrie sostiene que es la infraestructura de IA con mejor desempeño de su flota, medido con métricas reales de sus servicios.

⚙️ Maia 300 usa una arquitectura de chiplets, fabricada con el proceso N2P de TSMC, que separa el cómputo, el controlador de memoria y las funciones de entrada y salida. Según el equipo de hardware e infraestructura de Azure, esto deja más área de silicio para cómputo y permite elegir la tecnología adecuada para cada función.

¿Qué cambia para los servicios de IA?

Microsoft diseñó Maia 300 para razonamiento con contextos largos, conversaciones sensibles a la latencia y tareas de agentes que requieren varios pasos sostenidos. Mustafa Suleyman, director ejecutivo de Microsoft AI, plantea que desarrollar sus modelos junto con una plataforma de hardware propia es clave para su equipo: esa integración podría ayudar a Microsoft en su objetivo de alcanzar a Google DeepMind, OpenAI y Anthropic.

💬 En las herramientas de IA que usas para programar, ¿qué te importa más: que respondan rápido o que resuelvan mejor las tareas de varios pasos?

¿Pero deveras? 🌵💚