King County, con unos 2,3 millones de habitantes, es el distrito más poblado del estado de Washington en los Estados Unidos.

También es sede de los cuarteles principales de Amazon y Microsoft.

Este segundo detalle no es menor. Recientemente el consejo del condado ha determinado, en una votación unánime, la prohibición para las agencias gubernamentales del uso de sistemas de identificación facial.

Tanto la compañía de Bezos como la de Gates han desarrollado este tipo de tecnología, y en algunos casos para aplicaciones bastante polémicas. Posteriormente, ante la presión de grupos civiles y empleados, han impuesto restricciones a la aplicación de sus creaciones.

Jeanne Kohl-Welles, la legisladora que impulso esta medida, señaló que el uso de la tecnología de identificación facial supone varias amenazas para los residentes, incluyendo falsos positivos, prejuicios y la erosión de las libertades civiles.

Aprendizaje automático y discriminación El problema con los programas de identificación facial es que suelen ser entrenados con sistemas de aprendizaje automático. Esto supone que existe una faceta de su desarrollo que se escapa a la supervisión directa.

No es raro que un programa desarrolle ciertos comportamientos sin que sus creadores sepan cabalmente cuáles fueron las causas.

En el ámbito policial y judicial se ha advertido que existe el riesgo de que los sistemas reproduzcan los prejuicios de los seres humanos.

Un distrito donde la policía detiene sin razón más personas de piel oscura que de piel clara ofrecerá una fuente de datos cargada con este comportamiento. El sistema podría determinar que el color de la piel o algún otro factor asociado es un determinante del comportamiento delictivo.

Varias asociaciones de derechos civiles han celebrado la decisión en King County y esperan que sirva de impulso para una decisión a nivel nacional.