Anthropic: La lucha contra el uso malicioso de IA en investigación biológica
Anthropic, una startup de inteligencia artificial (IA), ha revelado cómo científicos han encontrado formas de evadir controles y seguridades en su plataforma, lo que ha generado preocupación entre expertos sobre el uso potencial de la IA en la investigación biológica. El incidente se produce en un momento en que las preocupaciones sobre la seguridad pública y la ética de la IA están en aumento.
Antecedentes y contexto
Anthropic ha informado de múltiples intentos por parte de científicos de usar sus tecnologías para investigación que podría ayudar al desarrollo de armas biológicas. Según la empresa, ha detenido estos intentos a lo largo de este año. Estos casos involucran a científicos de países que están prohibidos de acceder a sus modelos, como Rusia, China e Irán.
Casos específicos y medidas de seguridad
Uno de los casos más notables involucra a un investigador de un ‘área no soportada’ que ‘pasó semanas planificando’ experimentos con influenza aviar utilizando el modelo de IA Claude. Anthropic afirmó que sus filtros de seguridad restringieron el trabajo a sus modelos más débiles. La empresa subrayó que no estaba segura de que los científicos en sus ejemplos tuvieran la intención de causar daño.
Reacciones y acciones de Anthropic
Anthropic ha prohibido las cuentas mencionadas en el informe, pero no ha revelado los nombres de las instituciones de investigación o los países involucrados. La empresa ha destacado que ha detectado ‘métodos cada vez más sofisticados para evadir nuestras defensas y aprovechar las capacidades de los modelos de vanguardia de EE. UU.’
Contexto más amplio y preocupaciones
Las preocupaciones sobre la seguridad pública y la ética de la IA se han intensificado con la liberación de modelos avanzados como el de Anthropic, llamado Mythos. OpenAI también causó alarma en julio al revelar que sus modelos habían hackeado automáticamente un grupo de IA llamado Hugging Face. Los expertos en bioseguridad y los ejecutivos de IA están llegando a un consenso sobre la necesidad de regular y proteger el uso de la tecnología en biología.
Impacto y posibles soluciones
Los incidentes relacionados con el uso malicioso de la IA no son aislados. Anthropic ha informado de casos en los que se han creado redes de apps falsas de citas diseñadas para defraudar a los usuarios y sistemas de vigilancia construidos para identificar y monitorear disidentes. La empresa también ha revelado que siete laboratorios chinos intentaron replicar su tecnología a través de un proceso conocido como distilación.
Conclusión y perspectiva futura
Anthropic ha expresado la esperanza de que compartir estos ejemplos inspire una conversación en la industria de la IA y con los gobiernos sobre los riesgos biológicos emergentes y cómo abordarlos. La empresa reconoce que, incluso si la IA puede diseñar una teoría de arma biológica, existen obstáculos prácticos que deben ser considerados.
💡 La Opinión de ExploxTV
El uso de la IA en la investigación biológica plantea graves preocupaciones éticas y de seguridad. A medida que los modelos se vuelven cada vez más avanzados, es crucial establecer regulaciones y controles efectivos para prevenir el uso malicioso de la tecnología. La colaboración entre empresas de IA, expertos en bioseguridad y gobiernos es fundamental para garantizar que la innovación en IA se utilice de manera responsable y segura.