Anthropic implementa marcas de agua en texto generado por Claude para cumplir con la ley de la UE
Anthropic ha anunciado una innovadora solución para cumplir con las nuevas regulaciones de transparencia de la Unión Europea en relación con la inteligencia artificial. La compañía está implementando marcas de agua en el texto generado por su modelo de lenguaje, Claude, para identificar su origen artificial.
El Funcionamiento de la Marca de Agua
Un Enfoque Discreto y Eficaz
A diferencia de las marcas de agua visuales tradicionales, el método de Anthropic es sutil y no intrusivo. No se detectará fácilmente a simple vista, ni alterará la legibilidad del texto. La técnica implica la inserción de un patrón oculto que solo puede ser descifrado con la clave correspondiente.
Adaptación de la Tecnología SynthID-Text
El proceso se basa en la adaptación de la tecnología SynthID-Text desarrollada por Google DeepMind, que utiliza una secuencia de números (como los dígitos de Pi) para determinar qué palabra elegir durante la generación del texto. Esto asegura que la marca de agua sea imperceptible para el lector promedio.
Implicaciones y Limitaciones
Impacto en la Calidad y Costo
Anthropic asegura que esta implementación no afectará la calidad del texto generado por Claude ni ralentizará el proceso, ni incrementará los costos asociados.
Limitaciones de la Detección
Es importante destacar que la marca de agua no puede determinar si el texto fue generado directamente por Claude o simplemente editado. Esto significa que el texto editado también estará marcado. Además, la detectabilidad puede ser limitada en textos cortos o si se realizan modificaciones significativas.
Consideraciones sobre el Código
La compañía también ha abordado las preocupaciones sobre la posible falta de protección de derechos de autor en el código generado por IA. Debido a que el código a menudo requiere una salida precisa, la aplicación de marcas de agua es limitada en este contexto.
La Opinion de ExploxTV
La implementación de marcas de agua por parte de Anthropic es un paso crucial para la transparencia en la era de la IA generativa. Si bien la técnica tiene sus limitaciones, representa un esfuerzo significativo para cumplir con las regulaciones y fomentar la confianza en la tecnología. La capacidad de verificar el origen del texto es fundamental para combatir la desinformación y garantizar la responsabilidad en el uso de la IA.