Flock Safety lanza un potente nuevo tool de inteligencia artificial para la policía, generando críticas sobre privacidad y uso
La empresa de vigilancia Flock Safety ha lanzado un nuevo tool de inteligencia artificial (IA) que permite a la policía buscar personas y vehículos basándose en sus patrones de movimiento, sin necesidad de una placa de matrícula, un nombre o una acusación de crimen. Esta nueva herramienta, que se ha construido a partir de archivos expuestos a través de las páginas de inicio de sesión de la propia Flock, ha generado una gran controversia sobre sus implicaciones en términos de privacidad y justicia.
Contexto y desarrollo del tool
Según WIRED, los reporteros Dhruv Mehrotra y Dell Cameron han reconstruido el tool a partir de los archivos expuestos a través de las páginas de inicio de sesión de Flock. El sistema de IA permite a la policía buscar personas y vehículos basándose en sus patrones de movimiento, sin necesidad de una placa de matrícula, un nombre o una acusación de crimen. La herramienta puede conectar los escaneos de vehículos con archivos de casos policiales y registros de arrestos, y también puede extraer datos de registros de 911, resultados de balística y bases de datos comerciales de identidad.
Funcionamiento y características del tool
Algunas búsquedas comienzan con trabajo policial ordinario, como la entrada de una placa y la búsqueda de vehículos vistos cerca de ella. Otras utilizan lógica en sentido inverso. Un prompt busca testigos potenciales, encontrando los vehículos más vistos en una vecindad durante los últimos 14 días. Otro marca los vehículos que visitaron tres o más tiendas en tres días. De las prompts examinadas por WIRED, 19 se centran en patrones. Cuatro se basan en patrones sin necesidad de una placa, nombre o descripción física. Un oficial proporciona un lugar, un período y un comportamiento, y la herramienta devuelve personas o vehículos que encajan. También puede adjuntar nombres, direcciones, parientes, números de teléfono y cuentas en línea a una placa.
📌 Puntos Clave
- El tool puede generar leads basándose en patrones de movimiento.
- No requiere placa, nombre o descripción física.
- Se pueden adjuntar datos adicionales a una placa.
Críticas y respuestas de Flock
Chad Marlow, un abogado del American Civil Liberties Union (ACLU), ha señalado que la herramienta permite a los oficiales "pescar" por crímenes. El lenguaje de una prompt determina el resultado. "La diferencia entre un policía diciendo '¿Ves patrones criminales?' o 'Encuentra patrones criminales' producirá dos cosas diferentes".
Flock ha dicho que la herramienta aún está en desarrollo y que solo está siendo probada con un pequeño grupo de socios de la policía. La compañía no ha negado las características descritas por WIRED.
Historia de Flock Safety y sus herramientas
Flock Safety ha estado expandiendo sus herramientas más allá de los lectores de placas fijos a cámaras de video, detección de disparos, drones y software de 911. La herramienta OS Investigate es la capa que puede consultar todos estos sistemas juntos. El CEO Garrett Langley ha afirmado que los drones son ahora el negocio más rápido de crecimiento de la empresa.
Controversia y rechazo
La herramienta ha generado una gran controversia, con varias comunidades cancelando o reconsiderando sus contratos con Flock. En Minnesota, una ciudad encontró sus cámaras de Flock desaparecidas de la noche a la mañana. La resistencia está afectando a dónde Flock puede vender sus productos. La empresa ahora se enfrenta a la tarea de poner límites en el uso de la herramienta antes de que un lead generado por IA llegue a alguien que nunca fue sospechoso de un crimen.
💡 La Opinión de ExploxTV
La herramienta de Flock Safety es un paso significativo en la integración de la IA en la vigilancia policial, pero plantea serias preocupaciones sobre la privacidad y el uso ético de la tecnología. Es crucial que las autoridades establezcan límites claros y transparentes para evitar abusos y garantizar la justicia.
Conclusión
La herramienta de Flock Safety representa un avance tecnológico significativo, pero también plantea importantes cuestiones éticas y legales. Es crucial que las autoridades y las empresas de tecnología trabajen juntas para desarrollar y implementar herramientas que respeten la privacidad y la justicia. La tecnología debe servir a la sociedad, no al revés.