Inicio / Artículos / 30 horas detenido por el error de un algoritmo: primer caso de un hombre falsamente acusado por el reconocimiento facial

30 horas detenido por el error de un algoritmo: primer caso de un hombre falsamente acusado por el reconocimiento facial

Lo que diga un algoritmo es suficiente para arrestarnos. Pero las máquinas también se equivocan. El New York Times describe el caso de Robert Julian-Borchak Williams, quien fue arrestado enfrente de su mujer e hijos el pasado enero en la ciudad de Detroit tras ser identificado por un algoritmo de reconocimiento facial. Salvo que en realidad él no tenía nada que ver con quien la policía andaba buscando.

Se trata del primer caso conocido de una persona arrestada erróneamente tras ser identificada por un software de reconocimiento facial. Williams fue acusado de robar cinco relojes por un valor de casi 4.000 dólares en una tienda, en octubre de 2018. Debido a ello fue enviado a la sala de interrogación y retenido durante unas 30 horas, antes de quedar en libertad sin cargos.

Un ejemplo claro de discriminación racial en los algoritmos

DataWorks Plus, el software utilizado por la policía del estado de Michigan, identificó a Williams después de conectar la foto de su licencia de conducir con las imágenes de la cámara de vigilancia de la noche del crimen.

Pero lo que para el reconocimiento facial era un caso de posible positivo de persona identificada, según describe NPRpara los policías estaba claro que no eran la misma persona. “La máquina lo ha captado mal”, parece que indicó el policía después de comparar presencialmente las imágenes con el propio Williams.

“Cuando miro la foto de la persona, solo veo a un negro grande. No veo ningún parecido. No creo que se parezca a mí en absoluto. Espero que no piense que todos los negros son iguales“, explica Williams.

Sin embargo, pese al claro error del software, Williams no fue inmediatamente liberado y estuvo retenido durante toda la noche con una fianza de mil dólares, según describe el NYTimes.

Facial Recognition

El software DataWorks Plus no identificó a Williams como el culpable directo, simplemente envió una información de un posible sospechoso. Según recoge el informe policial: “es solo una pista de investigación y no es causa probable de arresto”. Este proceso tuvo un error adicional, pues la imagen fue mostrada también a un guardia de seguridad, quien también identificó erróneamente a la persona.

Distintos expertos en inteligencia artificial han señalado que los sistemas de reconocimiento facial tienen un problema de discriminación racial por falta de muestras, siendo el caso de Williams el primero que ha tenido consecuencias directas.

principios del mes de junio, IBM anunció que ponía fin al desarrollo y la venta de software para el reconocimiento facial. El CEO de IBM enviaba una carta alertando que “es el momento de iniciar un diálogo nacional sobre si la tecnología de reconocimiento facial debe ser empleada por los organismos nacionales encargados de hacer cumplir la ley”.

En respuesta, a través de un comunicado, la Fiscalía del condado de Wayne ha emitido sus disculpas explicando que “no compensa de ninguna manera las horas que Mr.Williams pasó en la cárcel”. En esta línea, el acusado podrá ver el caso y sus huellas digitales borradas de la base de datos.

FUENTE

https://www.xataka.com/privacidad/30-horas-detenido-error-algoritmo-primer-caso-hombre-falsamente-acusado-reconocimiento-facial

Prueba también con

HISTORIAS Y LEYENDAS DE HUERTAPELAYO, por MARTA EMBID

Cuando aquella niña se sentaba en el poyete de piedra, aquellos en los cuales estaban …