El mes pasado, la ciudad de San Francisco decidió prohibir el uso de la tecnología de reconocimiento facial en sus diversas agencias gubernamentales. Si bien una prohibición completa a perpetuidad probablemente va demasiado lejos, refleja una tensión real que crea el uso policial de la tecnología. Las ciudades de Estados Unidos se enfrentarán a un dilema similar al intentar equilibrar la promesa de la tecnología de mejorar los servicios públicos con el inmenso poder del gobierno y su capacidad para causar daño. Al formular una política coherente para gobernar el reconocimiento facial, los legisladores deben considerar cómo, cuándo y por qué usar una herramienta tan poderosa: usar umbrales de confianza apropiados para fotografías, utilizar solo el reconocimiento facial después del hecho en lugar de en tiempo real, y limitar su uso para los delitos más graves. Finalmente, los gobiernos deben considerar proteger los datos para evitar violaciones de información personal sensible.
En un nivel básico, la tecnología de reconocimiento facial funciona escaneando la geometría de una cara para reconocer las características clave (como el tamaño de la nariz, la forma de los ojos, la prominencia del mentón, etc.) y las distancias entre ellas. Esto permite que la computadora cree un mapa virtual de una cara, que luego puede comparar con otras caras escaneadas en su base de datos con un umbral de confianza correspondiente. Actualmente, el reconocimiento facial se usa más comúnmente en aplicaciones de tecnología de consumo como desbloquear teléfonos inteligentes o categorizar sus fotos de Facebook y Google.
Si bien estas aplicaciones ofrecen conveniencia para los consumidores, el uso de la misma tecnología por parte del gobierno plantea algunas preguntas difíciles, particularmente en el contexto de la justicia penal. A diferencia de las entidades privadas, las agencias gubernamentales no están sujetas a competencia , y sus errores suelen tener consecuencias de mayor alcance. Una cosa es que el reconocimiento facial identifique erróneamente a un amigo en Facebook; otra muy distinta es identificar erróneamente a un sospechoso. Además, la tecnología aún está madurando y los detalles de implementación pueden ser complicados. Por lo tanto, es sensato exigir un alto nivel de precisión y que se implementen algunas salvaguardas de sentido común antes de implementar estas tecnologías.
Una preocupación con el uso gubernamental del reconocimiento facial es que, al igual que otros sistemas algorítmicos, la tecnología es tan buena como los datos utilizados para entrenarla. El software Rekognition de Amazon, que las fuerzas del orden ya están utilizando en Oregón y Orlando, ha estar bajo fuego por identificar erróneamente a las personas de color a tasas más altas de lo que identifica erróneamente a los blancos. Amazon ha respondido que estas disparidades comienzan a disiparse cuando se usa su recomendado 99% umbrales de confianza, pero los críticos señalan que los departamentos de policía no están obligados actualmente a utilizar esos altos estándares (de hecho, se sabe que las agencias de aplicación de la ley alimentan imágenes de celebridades y bocetos forenses en software de reconocimiento facial para intentar conseguir coincidencias ).
¿Cuál es la duración de un día en la tierra?
Sabemos que las minorías raciales ya están involucradas en el sistema de justicia penal a un ritmo desproporcionado: A estudio encargado por el fiscal de distrito de San Francisco descubrió que, si bien las personas negras constituían el 6% de la población de la ciudad entre 2007 y 2014, representaban el 41% de los arrestos. La dependencia excesiva de la tecnología defectuosa, o la implementación deficiente de dicha tecnología, corre el riesgo no solo de aumentar las condenas erróneas, sino también de exacerbar aún más las disparidades raciales en el sistema.
Lo que genera una mayor preocupación para los ciudadanos de San Francisco es la capacidad de la policía para hacer un mal uso de la tecnología de reconocimiento facial dentro de la gama más amplia de abusos del poder estatal. Incluso si la tecnología puede identificar rostros con precisión, los defensores temen que pueda crear un estado de vigilancia, aumentando los arrestos por delitos menores sin mejorar la seguridad pública. El gobierno chino ya está usando el reconocimiento facial para arrestar a los peatones imprudentes y rastrear grupos minoritarios musulmanes . Si se usa de manera inapropiada, la tecnología de reconocimiento facial puede dañar una sociedad libre y democrática, creando un efecto escalofriante que afecta negativamente nuestro derecho a reunirnos, protestar, votar y movernos libremente por las áreas públicas.
Por otro lado, deberíamos querer que nuestras agencias gubernamentales innoven y adopten las últimas herramientas que les permitan servir mejor al público. La tecnología de reconocimiento facial tiene un potencial real para ayudar a las fuerzas del orden a atrapar a los delincuentes y mejorar la seguridad pública. Por ejemplo, la tecnología ya ha ayudó a identificar Jarrod Ramos, un sospechoso que actualmente enfrenta cinco cargos por asesinato en primer grado, cuando se negó a identificarse después de que la policía lo detuviera. La mayoría de los ciudadanos probablemente se sentirían cómodos con este uso de la tecnología de reconocimiento facial. Y fuera de los contextos tradicionales de aplicación de la ley, el reconocimiento facial también se puede utilizar para autorizar a los empleados del gobierno en instalaciones de alta seguridad, combatir el tráfico sexual infantil , y encontrar personas desaparecidas .
Entonces, aunque ciertamente se justifica la precaución, una prohibición total, sin ninguna disposición que requiera revisar la política, nos impide innecesariamente el uso de herramientas útiles que podrían ayudar a la aplicación de la ley en casos graves cuando las técnicas de investigación tradicionales fallan.
Dicho esto, el uso de esta tecnología necesita salvaguardias reales; una moratoria temporal sobre su uso mientras se desarrollan tales protecciones no está fuera de discusión. ¿Cómo sería la supervisión adecuada sobre el uso de la tecnología de reconocimiento facial por parte de las fuerzas del orden? Matthew Feeney del Instituto Cato establece algunas sugerencias útiles, incluida una prohibición de la capacidad en tiempo real que restringiría el reconocimiento facial a las investigaciones posteriores al hecho, lo que evitaría que las cámaras corporales de la policía se conviertan en máquinas de vigilancia sin restricciones, entre otras cosas.
Asegurarse de que el reconocimiento facial solo se use después del hecho también permitiría la revisión de terceros. Por ejemplo, los legisladores podrían requerir que un juez o magistrado revise el uso propuesto del reconocimiento facial en cada caso, similar al proceso de aprobación de las órdenes de registro. Además, para evitar el uso del reconocimiento facial para delitos menores como hurto , los legisladores podrían identificar qué delitos se elevan a un nivel de gravedad que justificaría la intrusión en la privacidad que crea la tecnología. Las fuertes restricciones sobre las personas incluidas en los conjuntos de datos de reconocimiento facial también pueden evitar que las personas con infracciones de estacionamiento sean arrastradas por una red policial. Idealmente, solo aquellos con una orden de arresto activa deberían incluirse en el conjunto de datos.
cuando fue el año nuevo chino
Con la recopilación de información biométrica como la que se utiliza en la tecnología de reconocimiento facial, surge la preocupación relacionada con cómo se protege y se almacena dicha información. Apenas la semana pasada, se supo sobre un Filtración de datos de un contratista de Aduanas y Patrulla Fronteriza, que expuso miles de fotos de viajeros internacionales que habían sido recopiladas con fines de reconocimiento facial. El riesgo de que los datos personales caigan en manos equivocadas es muy real. Para mitigar este riesgo, se debería exigir a las agencias gubernamentales (y sus contratistas) que cumplan con los estándares de higiene de ciberseguridad adecuados. Las restricciones sobre la cantidad de tiempo que se puede almacenar la información biométrica después de su recopilación también pueden reducir el daño de una infracción.
Finalmente, si las ciudades cuestionan su propia capacidad para acceder al desempeño técnico de estas herramientas, deberían considerar requerir una auditoría externa a través del contrato de adquisición inicial. Un control importante contra el uso indebido del gobierno o el sesgo algorítmico accidental es la capacidad de las organizaciones de la sociedad civil para probar estos sistemas de forma independiente, verificar que la tecnología funcione con precisión y asegurarse de que ninguna población minoritaria sea un objetivo injusto.
A medida que ciudades como Oakland y Somerville, y estados como Massachusetts, consideran piezas legislativas similares, también surgen preguntas sobre si estas políticas se instituyen mejor a nivel de ciudad o estado. Esta no es la primera vez que las ciudades intentan liderar el camino de las reformas judiciales; por ejemplo, Atlanta recientemente. fianzas en efectivo prohibidas (aunque los legisladores de Georgia intentaron adelantarse a esa política en esta sesión legislativa). Sin embargo, las restricciones locales sobre la tecnología policial son más complicadas, ya que los casos a veces pueden afectar a múltiples jurisdicciones. Entonces, idealmente, habría coherencia en un estado determinado en la protección de los derechos de privacidad de los ciudadanos, de modo que los agentes estatales y las fuerzas del orden locales estén sujetos a los mismos estándares.
Si bien San Francisco es la primera ciudad en prohibir el uso gubernamental del reconocimiento facial, es probable que no sea la última. Las ciudades y los estados están en su derecho de presionar el botón de pausa si finalmente deciden que la tecnología no está lista para el despliegue público. Pero también deberían combinar cualquier retraso con un plan de desarrollo tangible.
Una moratoria puede ser una herramienta útil para crear espacio para considerar cuidadosamente los tipos de restricciones y protecciones que queremos implementar. Pero el objetivo final de una moratoria debería ser el uso adecuado de estas herramientas, no facilitar una reacción instintiva a una nueva tecnología que parece aterradora. La ansiedad del público en torno a esta tecnología es comprensible, pero adoptar un enfoque equilibrado frente a tales temores probablemente pagará dividendos en el futuro.