Big Tech Enfrenta Mandato Legal por Aplicaciones de Deepfake 'Nudify'
Apple y Google han sido objeto de una orden del fiscal de la ciudad de San Francisco para tomar medidas contra aplicaciones que generan imágenes de desnudez mediante inteligencia artificial, conocidas como 'nudify'. Las compañías recibieron cartas de cese y desista exigiendo la eliminación de estas aplicaciones de sus respectivas tiendas, buscando detener la propagación de imágenes íntimas no consensuadas.
El Mandato Legal y la Proliferación de Deepfakes
El fiscal David Chiu ordenó a los gigantes tecnológicos que detengan la actividad de 13 aplicaciones que utilizan IA para crear contenido de desnudez. Esta acción se enmarca en una preocupación más amplia sobre cómo las plataformas facilitan la difusión de material íntimo no consentido a través de tecnologías de deepfake.
Riesgos de Moderación y Promoción
La orden subraya una falla en los sistemas de moderación de las tiendas de aplicaciones. Se reveló que estas aplicaciones lograron pasar los filtros de moderación de Apple y Google, a pesar de las políticas internas que prohíben el material sexual o pornográfico. Se alegó que estas apps eran promovidas activamente en las tiendas y algunas incluso tenían clasificaciones de edad 'E' para Todos, permitiendo el acceso a menores.
Respuesta de las Plataformas y Contexto Regulatorio
Ante la presión legal, Google y Apple confirmaron que están tomando medidas inmediatas. Un portavoz de Google indicó que la compañía ha eliminado "cientos" de aplicaciones con funciones de nudificación, y que toman "acción rápida" si se reportan violaciones a sus reglas. Esto se suma a un panorama donde otras entidades, como el Consejo de Supervisión de Meta y xAI de Elon Musk, también están lidiando con demandas relacionadas con los deepfakes no consensuados.
Análisis de la Competencia y Estrategia de Compra
Este caso es un punto de inflexión crítico. Demuestra que la responsabilidad de la moderación de contenido generado por IA no puede ser delegada únicamente a las políticas internas de las corporaciones. La intervención legal externa, como la ordenada por el fiscal de San Francisco, es esencial para forzar a las Big Tech a priorizar la seguridad y el bienestar de los usuarios sobre la monetización de contenido potencialmente dañino. La lentitud en la respuesta de las plataformas subraya la necesidad urgente de marcos regulatorios globales que aborden la ética de la IA y la protección contra el abuso digital.