Andy Jassy, CEO de Amazon, afirmó que la inferencia de inteligencia artificial sigue costando cerca de diez veces más de lo que debería para que su uso se extienda de forma masiva en empresas. La compañía intenta reducir esa factura con sus chips Trainium, al tiempo que admite que la demanda de capacidad informática supera su plan de infraestructura.

El costo que frena el uso cotidiano de la IA

Jassy planteó en una entrevista con a16z publicada el viernes que el problema no está solo en entrenar modelos, sino en la inferencia: el cómputo que se utiliza cada vez que un sistema responde una consulta o ejecuta una tarea. Ese gasto se repite con cada interacción y puede volver inviable ampliar la tecnología a procesos diarios dentro de una empresa.

Según su planteamiento, el mercado hoy se divide entre laboratorios que necesitan enormes volúmenes de cómputo y empresas que ya usan IA en funciones concretas, como atención al cliente o detección de fraude. Entre ambos extremos, dijo, hay un espacio todavía poco explotado: las compañías que no han integrado la IA de forma amplia en sus aplicaciones empresariales.

Para Jassy, ese segmento podría convertirse con el tiempo en la mayor fuente de demanda. Pero para llegar allí, sostuvo, hace falta una reducción importante del costo de operar esos modelos; de lo contrario, la tecnología puede quedarse en pruebas aisladas y no entrar en los sistemas de trabajo de uso diario.

Trainium y una infraestructura que ya va al límite

Amazon respondió con una combinación de más infraestructura y chips propios. Jassy comparó esa estrategia con el desarrollo previo de Graviton, creado cuando la compañía buscó mejorar la relación entre rendimiento y gasto en servidores en la nube.

En IA, dijo que Trainium nació con la misma lógica: ofrecer una alternativa menos costosa. El ejecutivo sostuvo que el chip aporta una mejora de entre 30% y 40% en relación precio-rendimiento frente a procesadores comparables, aunque no detalló en la entrevista la metodología ni las condiciones exactas de esa comparación.

También afirmó que la empresa tiene compromisos futuros de ingresos superiores a USD 225.000 millones relacionados con Trainium, incluidos acuerdos con Anthropic y OpenAI. Ese monto refleja una demanda comercial relevante, pero no equivale a ingresos ya cobrados ni a un ahorro garantizado para todos los clientes.

La presión por capacidad se suma a un plan de gastos de capital de USD 220.000 millones para 2026. Jassy aseguró que, aun con esa inversión, Amazon no logra construir infraestructura suficiente para responder a la demanda. Dijo además que los compromisos más importantes de capacidad para 2026 están prácticamente agotados, que buena parte de 2027 ya está reservada y que una parte considerable de 2028 también se encuentra comprometida.

En su visión, la compañía podría gastar incluso más sin que eso representara un uso ineficiente del capital, porque ve una oportunidad comercial clara. La prueba para Amazon será convertir esa inversión en capacidad útil, ingresos y una reducción real del costo de ejecutar modelos de IA para sus clientes.