● Lo Último en Tecnología

Coworker.ai lanza OM2, una capa de memoria organizacional que promete reducir el gasto en tokens de IA empresarial hasta en 9 veces

Fuente: Coworker.ai

Introducción

Coworker.ai, una empresa que se especializa en mejorar la eficiencia de la inteligencia artificial (IA) en las empresas, ha lanzado OM2, una capa de memoria organizacional que promete reducir significativamente el gasto en tokens de IA empresarial. Esta nueva solución se basa en la ingesta y la precomputación de datos de más de 50 plataformas empresariales, lo que permite a las agencias de IA reutilizar información estructurada en lugar de reconstruirla desde cero en cada consulta.

El problema actual en la IA empresarial

En el contexto actual, la mayoría de las agencias de IA empresariales dependen de la recuperación de documentos a nivel de texto completo, lo que implica un proceso costoso y repetitivo. Cada vez que un empleado formula una pregunta, la agencia de IA debe recuperar y procesar grandes cantidades de texto, lo que consume una gran parte del presupuesto de tokens de IA de la empresa. Este enfoque a menudo resulta en un gasto excesivo y una eficiencia baja en la recuperación de información relevante.

Una solución innovadora: OM2

OM2, la nueva capa de memoria organizacional de Coworker.ai, se propone resolver este problema mediante la ingesta continua de datos desde más de 50 plataformas empresariales. Estos datos se procesan y se distillan en hechos precomputados, que son accesibles y controlados por permisos. Esta estrategia permite a las agencias de IA reutilizar la información estructurada en lugar de reconstruirla desde cero, lo que reduce significativamente el gasto en tokens y acelera las respuestas.

Cómo funciona OM2

OM2 funciona de manera similar a un cerebro corporativo precomputado. Cada vez que se ingresa nueva información a la plataforma, como un acuerdo cerrado en Salesforce, un cambio de estrategia en Slack o una decisión estratégica en una transcripción de reunión, OM2 extrae estos datos en hechos discretos y precomputados. Estos hechos proporcionan una representación clara de quién participó, qué se decidió y qué cuentas se vieron afectadas. Esta estrategia permite a las agencias de IA reutilizar la información precomputada en lugar de reconstruirla en cada consulta, lo que reduce el gasto en tokens y acelera las respuestas.

Reducción de costos y optimización de la ruta del modelo

Además de la reducción de costos en tokens, OM2 también optimiza la ruta del modelo. La plataforma dinámicamente triage las tareas, enviando consultas simples a modelos más baratos y más rápidos, mientras que reserva las tareas de razonamiento pesado para modelos de vanguardia. Esta optimización, combinada con la precomputación de contexto, puede llevar a ahorros totales de hasta 51 veces. Esta arquitectura garantiza que las empresas tengan verdadera soberanía de datos, permitiéndoles conectar directamente con las herramientas que ya están utilizando, como Claude, ChatGPT, Gemini, Perplexity o agentes internos personalizados.

Seguridad y control de acceso

OM2 también se enfoca en la seguridad y el control de acceso. Cada hecho y conexión dentro del grafo se configura con políticas de acceso directas, lo que garantiza que los usuarios y las agencias solo accedan a los nodos que están explícitamente autorizados a ver. La plataforma se ejecuta en infraestructura aislada y single-tenant que cumple con los estándares SOC 2, GDPR y CASA Tier 2, lo que proporciona una seguridad robusta.

Impacto real y casos de uso

Las empresas que han adoptado OM2 han experimentado beneficios significativos. Por ejemplo, en RapidSOS, el equipo de Operaciones de Recaudación de ingresos ahora puede obtener respuestas instantáneas y precisas, en lugar de pasar horas verificando datos a través de registros dispersos y comunicaciones. Esta plataforma permite a las empresas conectar datos silos y mejorar la eficiencia operativa.

💡 La Opinión de ExploxTV

La llegada de OM2 de Coworker.ai representa un paso significativo en la optimización de la inteligencia artificial empresarial. Al precomputar el contexto y optimizar la ruta del modelo, esta solución reduce significativamente los costos y mejora la eficiencia. Sin embargo, la verdadera prueba estará en cómo las empresas adoptan y integran esta tecnología en sus operaciones diarias.