TypeSafe AI ha presentado Jev, un innovador modelo de inteligencia artificial diseñado para clasificar información y tomar decisiones estructuradas en aplicaciones, en lugar de generar texto completo. La herramienta ha iniciado su etapa de acceso anticipado y se enfoca en tareas como clasificación, enrutamiento, puntuación, extracción y moderación.
Características de Jev
Jev se posiciona como el primer modelo público de lo que TypeSafe llama System One Models, una arquitectura destinada a ofrecer decisiones rápidas a partir de información no estructurada. A diferencia de los modelos de lenguaje tradicionales, Jev proporciona respuestas predefinidas que pueden ser utilizadas directamente por el software.
El modelo opera mediante tres tipos de operaciones:
- Choice: selecciona entre alternativas previamente establecidas.
- Score: posiciona una entrada dentro de una escala.
- Noul: responde preguntas binarias con una probabilidad entre cero y uno.
Por ejemplo, en una plataforma de atención al cliente, Jev podría determinar a qué área corresponde una solicitud, estimar el nivel de urgencia y detectar si existe una petición específica, todo sin necesidad de extraer información de un texto generado.
Rendimiento y costos
TypeSafe informa que Jev presenta latencias de extremo a extremo que varían entre 70 y 500 milisegundos y establece un costo de US$0,042 por cada millón de tokens de entrada, sin cargo por los tokens de salida. Estas cifras son parte de mediciones publicadas por la propia compañía y aún no cuentan con validación independiente.
En su estado actual, Jev admite información basada en texto y puede trabajar con cadenas, JSON o conjuntos de texto, aunque no tiene la capacidad de procesar imágenes, audio o video. La herramienta no está diseñada para reemplazar un LLM general, ya que no se destina a mantener conversaciones, redactar documentos o generar código.
TypeSafe ha abierto el acceso anticipado a Jev mientras sigue incorporando desarrolladores y evaluando sus aplicaciones en escenarios reales. Este lanzamiento marca la primera implementación pública de los System One Models, una categoría que la compañía desarrollará dentro de su propuesta de inteligencia artificial.
Fuente: Pisapapeles

Discussion about this post