Amazon lanza su propio modelo de decisiones de código abierto

Amazon Web Services lanzó Strands Decider 2B, un modelo de decisiones de código abierto inspirado en el sistema Jev de TypeSafe. Este avance llega en un momento en que los desarrolladores de inteligencia artificial buscan soluciones más adecuadas para la automatización de procesos que los modelos de lenguaje tradicionales.

Un modelo rápido y económico para decisiones automatizadas

Strands Decider 2B, presentado la misma semana en que OpenAI anunció una oferta similar, permite clasificar opciones predefinidas y ofrecer un nivel de confianza en sus decisiones. El modelo es completamente de código abierto, está disponible de inmediato y es lo suficientemente pequeño como para ejecutarse localmente.

El ingeniero distinguido de Amazon, Marc Brooker, desarrolló el proyecto tras conocer Jev y intentar crear su propia versión de este tipo de modelo. El proyecto casero tuvo tanto éxito que, brevemente, ocupó el primer lugar en el ranking Jevbench para modelos de su tamaño. Esto llevó a los ingenieros de Amazon a refinarlo y lanzarlo como una oferta de Strands Labs, una organización que desarrolla nuevas herramientas y protocolos para el despliegue de agentes de inteligencia artificial.

Respuesta a las necesidades de los clientes de AWS

Brooker explicó que la necesidad de una herramienta como esta surgió en conversaciones con clientes de AWS, cuyos flujos de trabajo con agentes no siempre requerían la capacidad o el costo de un modelo de lenguaje completo. Según el ingeniero, el modelo ofrece a los usuarios «un paso de flujo de trabajo que puede estructurarse de manera más confiable, gracias a las puntuaciones de confianza, al dominio cerrado de respuestas, con menor latencia y potencialmente menor costo».

Al igual que otros modelos de decisiones, Strands Decider se construye sobre la base de un modelo de lenguaje, en este caso Qen3.5-2B, pero en lugar de generar texto, proporciona opciones calibradas. TypeSafe nombró a su modelo Jev en honor al economista William Stanley Jevons, con la esperanza de evocar su teoría de que la reducción del costo de algo, como la inteligencia computacional, puede aumentar su demanda.

Brooker reconoce que el desafío está en optimizar la toma de decisiones rápidas del modelo sin comprometer su inteligencia. «Hay un equilibrio muy cuidadoso que encontrar: se quiere mejorar su rendimiento en precisión y calibración en este tipo de tareas, sin degradar su capacidad para entender diferentes idiomas o el conocimiento que posee, lo que lo hace de propósito general, interesante y útil», explicó.