Credit: Claude / Blog Anthropic ha hecho disponible para el análisis de código Claude Mythos 5 en Claude Security y lo está integrando en productos defensivos de socios, con los usuarios recibiendo salidas en lugar de acceso directo al modelo. También ha comprometido $35 millones en créditos para trabajo de seguridad de código abierto. Anthropic está ampliando el acceso a su modelo de seguridad más capaz, sin permitir que la mayoría de las personas se acerquen al modelo.
Análisis de la estrategia de Anthropic
Claude Mythos 5 ahora realiza análisis de código dentro de Claude Security y se está integrando en los productos que los defensores ya utilizan. La distinción es la propia estructura. Un usuario de una herramienta de socios recibe un artefacto específico, una sugerencia de parche o una alerta, y no tiene forma de solicitar al modelo que escriba un exploit en su lugar. Lo que está vivo hoy es el análisis. Los clientes empresariales pueden dirigir Mythos 5 a un repositorio y obtener hallazgos etiquetados con una categoría CWE, severidad y calificación de confianza, y una sugerencia de parche, facturada como uso ordinario de tokens en lugar de un complemento.
📌 Puntos Clave
- Los hallazgos se proporcionan a los usuarios, no el modelo en sí.
- El análisis se realiza dentro de Claude Security y se integra en productos de socios.
- Se ha comprometido $35 millones en créditos para trabajo de seguridad de código abierto.
Los humanos permanecen en el círculo de control por diseño. Cada parche tiene que ser revisado y aprobado por una persona antes de implementarse, y el análisis no extiende el acceso a Mythos a nada más. El segundo anuncio es el dinero, y apunta a la verdadera barrera. Anthropic ha comprometido $35 millones de créditos en un Fondo de Ventaja para Defensores para trabajo de seguridad de código abierto, después de que TNW informara que los modelos de Glasswing encontraron 10,000 vulnerabilidades críticas en un mes y que el parcheo no podía mantener el ritmo.
Fondos y objetivos
Los fondos irán a tres cosas. Parchear vulnerabilidades vivas en proyectos ampliamente utilizados, automatizar el análisis y parcheo para que otros proyectos puedan copiarlo, y perseguir diseños que cierren clases enteras de ataque. Para los mantenedores europeos, el momento no es casual. Las obligaciones de informe de vulnerabilidades del Acto de Resiliencia Cibernética comienzan el 11 de septiembre, tres semanas después. Estas reglas caen sobre los responsables de código abierto específicamente. Deben mantener una política de ciberseguridad, informar vulnerabilidades activamente explotadas y cooperar con las autoridades de vigilancia del mercado, aunque están exentos de sanciones. El acceso a Mythos mismo a Europa tomó un stand-off para arreglarlo.
Los créditos no son mantenedores, que es el límite de esto. Un fondo denominado en uso de modelos ayuda a proyectos que ya tienen personas para ejecutarlo. La competencia se está acercando a la misma forma. OpenAI tiene su propio programa de acceso aprobado para equipos de seguridad, construido en la misma lógica de gatear la capacidad detrás de la verificación. El cuidado detrás de todo esto es reciente. Anthropic reveló en julio que tres de sus propios modelos llegaron a organizaciones reales durante evaluaciones de seguridad mal configuradas, lo que es el argumento para entregar resultados en lugar de prompts.
Conclusión y perspectivas
La estrategia de Anthropic de entregar hallazgos a los defensores, en lugar de proporcionar directo acceso al modelo, se basa en la idea de que el análisis y la alerta son más valiosos que el modelo en sí. Esto no solo protege la integridad del modelo, sino que también permite a Anthropic mantener un control sobre cómo se utilizan los hallazgos. A medida que la ciberseguridad se vuelve cada vez más crítica, la estrategia de Anthropic podría servir como un modelo para otras empresas de IA y seguridad.
💡 La Opinión de ExploxTV
La estrategia de Anthropic de entregar hallazgos a los defensores, en lugar de proporcionar directo acceso al modelo, se basa en la idea de que el análisis y la alerta son más valiosos que el modelo en sí. Esto no solo protege la integridad del modelo, sino que también permite a Anthropic mantener un control sobre cómo se utilizan los hallazgos. A medida que la ciberseguridad se vuelve cada vez más crítica, la estrategia de Anthropic podría servir como un modelo para otras empresas de IA y seguridad.