Modelos de toma de decisiones con IA: cómo se diferencian de los LLM

Los modelos de toma de decisiones han cobrado recientemente protagonismo como un enfoque distinto en el ámbito de la inteligencia artificial. Uno de los más comentados es Jev, de TypeSafe AI. Jev produce opciones estructuradas, puntuaciones y estimaciones de confianza, en lugar de generar texto.

Mientras que los modelos de IA tradicionales han realizado predicciones y clasificaciones durante años, Jev se centra en la toma de decisiones estructuradas que el software puede utilizar directamente. Este enfoque ofrece una vía alternativa para construir aplicaciones de IA, especialmente cuando un sistema necesita evaluar información y determinar el siguiente paso.

¿Cómo funciona Jev?

En un LLM tradicional, se envía un prompt (instrucción) y se recibe texto generado. Incluso cuando se solicita JSON, la aplicación debe manejar la respuesta y validar su contenido antes de poder utilizarlo.

Jev funciona de manera diferente. Se proporciona un contexto, se definen las preguntas que se desean responder y se especifica el tipo de respuesta esperado. Jev devuelve resultados estructurados que la aplicación puede procesar directamente.

Jev admite tres tipos principales de preguntas:

• Elección (Choice): Selecciona una opción de una lista definida, como facturación, soporte técnico o ventas.
• Puntuación (Score): Califica algo según una escala ordenada, como prioridad baja, media o alta.
• Sí o no: Estima la probabilidad de que una afirmación sea verdadera, como si un ticket de soporte requiere atención humana.

Se pueden hacer varias preguntas sobre la misma entrada en una sola solicitud. Por ejemplo, una aplicación de soporte podría clasificar un ticket, calificar su urgencia y estimar si un humano debe revisarlo. Jev devuelve los resultados en un formato estructurado, permitiendo que la aplicación decida qué hacer a continuación.

Modelos de toma de decisiones frente a LLM

Los LLM y los modelos de toma de decisiones cumplen propósitos diferentes. Un LLM puede explicar una decisión, generar contenido, escribir código o razonar sobre tareas complejas. Jev está diseñado para decisiones centradas con salidas definidas.

La distinción no radica en que los LLM no puedan tomar decisiones. También pueden clasificar información y devolver datos estructurados. Jev está construido específicamente alrededor de esa tarea, sin generar una respuesta libre que la aplicación deba interpretar.

Esto puede hacerlo útil para decisiones repetidas y bien definidas. Para tareas que requieren explicaciones detalladas, salida creativa o razonamiento complejo de varios pasos, un LLM sigue siendo la herramienta más adecuada.

¿Qué son las puntuaciones de confianza?

Una de las funciones principales de Jev es que sus salidas incluyen probabilidades e información de confianza. Estos valores ayudan a los desarrolladores a evaluar en qué medida el modelo favorece una respuesta.

Por ejemplo, una aplicación de soporte al cliente podría preguntar si un ticket debe ser escalado. Si el modelo indica una alta probabilidad de que se necesite la escalación, la aplicación podría enviar el ticket a un equipo de soporte senior. Si el resultado es incierto, podría enviarlo para revisión humana.

Sin embargo, la confianza no garantiza la corrección. Un modelo puede estar muy seguro y aun así tomar la decisión incorrecta. Los desarrolladores deben probar sus resultados contra ejemplos reales y elegir umbrales que se ajusten a las consecuencias de cada decisión.

También es importante distinguir la probabilidad de una respuesta de una puntuación de confianza separada. El significado exacto depende del tipo de salida. Las aplicaciones deben seguir la documentación del modelo en lugar de tratar cada número devuelto como la misma medición.

¿Dónde pueden ser útiles los modelos de toma de decisiones?

Clasificación y enrutamiento

Muchas aplicaciones necesitan clasificar la información entrante antes de procesarla. Una plataforma de soporte podría clasificar solicitudes por tema y enviarlas al equipo adecuado. Una aplicación empresarial podría categorizar documentos, correos electrónicos o comentarios de clientes.

Jev puede devolver una categoría de una lista predefinida, permitiendo que la aplicación enrute el elemento sin tener que analizar un párrafo generado.

Puntuación y evaluación

Los modelos de toma de decisiones también pueden evaluar información según una escala definida. Por ejemplo, una aplicación podría clasificar un ticket de soporte por urgencia, puntuar un documento por relevancia o evaluar si una respuesta cumple criterios específicos.

Los resultados pueden utilizarse para clasificar elementos, priorizar trabajo o identificar casos que necesiten revisión adicional. La calidad de estas decisiones sigue dependiendo del modelo y de lo bien que los criterios describan la tarea.

Agentes de IA y selección de herramientas

Los agentes de IA utilizan modelos para decidir qué acciones realizar. Un agente podría elegir una herramienta, clasificar una solicitud o determinar si una tarea necesita información adicional.

Un LLM de uso general puede tomar estas decisiones como parte de su razonamiento. Un modelo de toma de decisiones puede manejar una elección más específica antes de que el agente actúe.

Por ejemplo, un flujo de trabajo personalizado que utilice Hermes Agent podría emplear Jev para clasificar una tarea entrante antes de pasarla al agente. También podría ayudar a determinar qué flujo de trabajo debe manejar una solicitud. Esto requeriría una integración personalizada, en lugar de depender de un soporte nativo asumido.

Los modelos de toma de decisiones no deben tratarse como controles de seguridad por sí solos. Si un agente puede ejecutar comandos o modificar archivos, los permisos y las reglas deterministas deben ejecutar qué acciones están permitidas. La clasificación de un modelo puede informar ese proceso, pero no debe sustituirlo.

Alternativas a Jev

Jev forma parte de un tipo más amplio de modelos diseñados para producir decisiones estructuradas. OpenJev y Laya son otros dos proyectos dignos de estudio al comparar enfoques.

OpenJev

OpenJev es un proyecto abierto relacionado con el enfoque de Jev. Vale la pena examinarlo si se desea explorar una implementación fuera de un servicio alojado. Antes de usarlo, revise su disponibilidad actual, requisitos de hardware, funciones admitidas y licencia.

Laya

Laya es un modelo de toma de decisiones de código abierto de Convai Innovations. Se centra en tareas como elegir de opciones predefinidas, calificar información y responder preguntas de sí o no. Puede ser relevante si se desea evaluar un modelo que pueda ejecutarse en el propio entorno.

Estos proyectos deben compararse en términos de rendimiento real, no solo en sus capacidades declaradas. Utilice los mismos datos de prueba y mida la precisión, la latencia, los requisitos de recursos y en qué medida sus estimaciones de confianza coinciden con los resultados reales.

¿Puedes ejecutar modelos de toma de decisiones localmente?

Ejecutar un modelo localmente otorga más control sobre el entorno de software y dónde se procesan los datos. Sin embargo, las opciones de despliegue disponibles varían según el proyecto. Jev se ofrece a través de una API, mientras que las alternativas de código abierto pueden proporcionar opciones para ejecutar la inferencia en el propio hardware.

Los requisitos de hardware dependen del tamaño del modelo, el uso de memoria y el rendimiento. Algunos modelos pueden ejecutarse en una CPU, mientras que otros se benefician de una GPU, especialmente al procesar muchas solicitudes.

Si desea experimentar con modelos de IA locales, DaDesktop ofrece escritorios en la nube con opciones de GPU dedicadas. Puede utilizarlos para el desarrollo y las pruebas sin comprar una GPU de gama alta para su computadora local.

Para obtener más información sobre la ejecución de LLM locales o explorar entornos de agentes de IA.

¿Cuándo debe utilizar un modelo de toma de decisiones?

Los modelos de toma de decisiones son útiles cuando una aplicación necesita una respuesta definida que pueda desencadenar un paso siguiente específico. Pueden complementar a los LLM al manejar la clasificación, la puntuación y el enrutamiento, mientras que un modelo generativo se encarga del lenguaje y de un razonamiento más complejo.

La mejor elección depende de su aplicación. Pruebe el modelo con sus propios datos, compárelo con clasificadores convencionales y LLM, y mida la precisión, la latencia y el costo. Para decisiones importantes, incluya revisiones humanas y salvaguardas donde sea necesario.

¿Desea hablar sobre su caso de uso? Contáctenos y le orientaremos en la dirección correcta.