California ha aprobado una ley que exige la certificación de organizaciones independientes para verificar modelos de inteligencia artificial (IA) de vanguardia, un paso que ha llevado a una investigación costosa que ha consumido cerca de 400,000 dólares en tokens de API. Esta medida busca establecer un marco para garantizar la seguridad y la integridad de los modelos de IA antes de su lanzamiento.
La SB 813 y su impacto
La California legislature ha aprobado el proyecto de ley SB 813, que establece que la Agencia de Operaciones del Gobierno de California (GOC) deberá certificar organizaciones independientes que puedan verificar modelos de IA de vanguardia antes de su lanzamiento. Esta medida se implementará a partir del 1 de enero de 2028. El proyecto de ley fue propuesto por el senador Jerry McNerney y ha sido aprobado con modificaciones por la Asamblea estatal.
Un caso de estudio: La investigación METR y sus costos
La investigación METR (Model Evaluation and Testing Research) en relación con el incidente de OpenAI y Hugging Face ha sido especialmente costosa. La investigación, que se basó en el uso de un modelo de la misma familia que participó en el ataque, consumió aproximadamente 400,000 dólares en tokens de API proporcionados gratuitamente por OpenAI. El trabajo, que duró seis días en lugar de los dos previstos, utilizó el modelo GPT-5.6 Sol para examinar más de 1,200 agentes y más de 70,000 mensajes intercambiados.
📌 Puntos Clave
- El proyecto de ley SB 813 requiere la certificación de organizaciones independientes para verificar modelos de IA.
- La investigación METR costó 400,000 dólares en tokens de API de OpenAI.
- El modelo GPT-5.6 Sol se utilizó para examinar más de 1,200 agentes y 70,000 mensajes intercambiados.
Desafíos y objeciones
Un argumento común contra este tipo de esquemas es que la verificación es imposible o demasiado costosa. Sin embargo, el caso de la investigación METR ha proporcionado un costo real para la verificación. Ryan Greenblatt, quien escribió el informe para METR, calificó el esfuerzo como una “investigación de desecho” debido a su dependencia excesiva de la IA para el análisis. Sean O hEigeartaigh, de la Universidad de Cambridge, señaló que el campo está utilizando herramientas no probadas y actualmente defectuosas para suplantar el tiempo humano insuficiente.
El impacto global y las comparaciones
Mientras California se prepara para esta medida, Europa ha avanzado en la certificación de verificadores. El AI Act estableció un panel científico de expertos independientes el 1 de junio, con 60 miembros designados. Este panel, que opera bajo el artículo 68 y una reglamentación implementadora, puede emitir alertas calificadas cuando un modelo de propósito general presente un riesgo concreto a nivel de la Unión Europea, lo que activa los poderes de investigación de la Comisión. Una tercera parte de los miembros también pueden solicitar a la Comisión que exija documentación a un proveedor.
Sin embargo, estas medidas no resuelven quién pagará por el cálculo. En el único ejemplo trabajado disponible, la empresa bajo investigación pagó, y OpenAI ya gasta el 20% de su cálculo supervisando sus propios sistemas.
Conclusión y perspectivas futuras
La SB 813 y la investigación METR representan un paso significativo hacia la certificación y verificación de modelos de IA emergentes en California. Sin embargo, las objeciones sobre la viabilidad y el costo de la verificación siguen siendo relevantes. Mientras tanto, Europa ha avanzado en la certificación de verificadores, lo que podría ser un modelo a seguir. La implementación de estas medidas en el futuro dependerá de cómo se resuelvan los desafíos económicos y técnicos asociados a la verificación de IA.
💡 La Opinión de ExploxTV
La SB 813 y la investigación METR son pasos importantes hacia la certificación y verificación de modelos de IA emergentes en California. Sin embargo, las objeciones sobre la viabilidad y el costo de la verificación siguen siendo relevantes. Mientras tanto, Europa ha avanzado en la certificación de verificadores, lo que podría ser un modelo a seguir. La implementación de estas medidas en el futuro dependerá de cómo se resuelvan los desafíos económicos y técnicos asociados a la verificación de IA.