Как една държава успя да напише правила за лицево разпознаване

Масачузетс е един от първите щати, които поставят законодателни предпазни мерки около използването на технология за разпознаване на лица при наказателни разследвания.

Едно от опасенията ми беше, че един ден ще се събудим в свят, наподобяващ този, изобразен в романа на Филип К. Дик „Доклад на малцинството“, каза Кейд Крокфорд, активист в ACLU в Масачузетс.

Слушайте тази статия

За да чуете още аудио истории от издатели като The New York Times, изтеглете Audm за iPhone или Android .

Въпреки че полицията използва технология за разпознаване на лица за последните две десетилетия да се опитат да идентифицират неизвестни хора в своите разследвания, практиката да се поставят мнозинството от американците в а вечна снимка съставът получи изненадващо малко внимание от страна на законодатели и регулатори. Досега.

Законодатели, защитници на гражданските свободи и полицейски началници обсъждат дали и как да използват технологията поради опасения както за поверителността, така и за точността. Но да разберете как да го регулирате е трудно. Досега това означаваше подход 'всичко или нищо'. Градски съвети в Оукланд, Портланд, Сан Франциско, Минеаполис и на други места са забранили полицията да използва технологията, до голяма степен поради пристрастия в начина, по който работи. Проучвания през последните години на изследователи от MIT и федералното правителство установиха, че много алгоритми за разпознаване на лица са най-точни за белите мъже, но по-малко за всички останали.

В същото време автоматизираното лицево разпознаване се превърна в мощен инструмент за разследване, който помага да се идентифицират изнасилватели на деца и, в скорошен нашумел пример, хора който участва в бунта на 6 януари в Капитолия. Служителите на правоприлагащите органи във Върмонт искат забраната на държавата да бъде отменена, защото може да има стотици деца, които чакат да бъдат спасени.

Ето защо новият закон в Масачузетс е толкова интересен: не е всичко или нищо. Държавата успя да постигне баланс по отношение на регулирането на технологията, позволявайки на правоприлагащите органи да се възползват от предимствата на инструмента, като същевременно изграждат защити, които могат да предотвратят фалшиви арести които са се случили преди .

Законопроект за реформа на полицията който влиза в сила през юли, създава нови мантинели: полицията първо трябва да получи разрешение от съдия, преди да започне търсене с разпознаване на лица, а след това да поиска някой от щатската полиция, F.B.I. или Регистърът на МПС извършва търсенето. Местният служител не може просто да изтегли приложение за разпознаване на лица и да извърши търсене.

Законът също така създава комисия за проучване на политиките за разпознаване на лица и отправяне на препоръки, като например дали на обвиняемия трябва да се каже, че е идентифициран с помощта на технологията.

Ако попитате законодателите в щата как са го постигнали, те често ще ви насочат към един човек: Кейд Крокфорд, активист в ACLU в Масачузетс.

Едно от опасенията ми беше, че един ден ще се събудим в свят, наподобяващ този, изобразен в романа на Филип К. Дик „Доклад за малцинството“, където където и да отидете, тялото ви се проследява; вашите физически движения, навици, дейности и местоположения се събират тайно и проследяват в база данни с възможност за търсене, достъпна за бог знае кой, Mx. — каза Крокфорд.

Преди две години, през юни 2019 г., Mx. Крокфорд и ACLU в Масачузетс стартираха кампания срещу наблюдението на лица, като обучават политиците за проблеми с технологията и разследват чрез заявки за публични записи колко широко се използва в щата. Този месец град Съмървил, извън Бостън, прие първата забрана на държавата да управлява нас д. Това беше вторият град в страната, който направи това, след Сан Франциско предния месец.

Не искаме да играем Whac-a-Mole и да забраним всяка нова дистопична технология за наблюдение, каза Бен Юен-Кампен, член на градския съвет на Съмървил. Искаме динамика на избиране, при която ако обществото реши, че го иска, то може да го има.

Образ

кредит...Тинг Шен за The New York Times

ACLU представи над 400 искания за публични записи до държавни и федерални агенции и установи, че полицията редовно използва технологията за идентифициране на хора, обикновено като насочва лицата им към държавната база данни със снимки на шофьорски книжки.

Един запис, който получи, беше бележка от септември 2015 г изпратено от полицай от щата Масачузетс до всички местни, щатски и федерални правоприлагащи агенции, като ги предупреждава за нов имейл адрес в регистъра на моторните превозни средства за търсене на лицево разпознаване. Ако не знаете самоличността на някого и искате да видите дали лицето му съвпада с това на шофьор от Масачузетс, всичко, което трябваше да направите, е да изпратите снимка на този адрес.

Нямаше споменаване за някаква политика, правен анализ или правен праг, който правоприлагащите органи трябва да изпълнят, за да бъде извършено едно от тези обиски, каза Mx. Крокфорд.

Имейлите от местните полицейски агенции, предадени на ACLU, също разкриха, че през последната година няколко служители са се регистрирали за пробни акаунти с Clearview AI, приложение, което търси нечие лице от милиарди снимки в публичната мрежа.

До 2020 г. Бостън и още пет града в Масачузетс забраниха правителственото използване на разпознаване на лица. Държавният представител Дейв Роджърс, демократ, който помогна за изработването на щатския законопроект за разпознаване на лица, каза, че инициативите на градовете помогнаха да се демонстрира необходимостта от мярка в цялата страна. Видяхме, че правоприлагащите органи го използват по напълно неограничен начин, каза представителят Роджърс. Технологиите в нашето общество се развиват много по-бързо от закона, който го регулира.

Законопроект, приет от контролирания от демократите законодател, забрани почти всякакво правителствено използване на технология за разпознаване на лица, с изключение на Регистъра на моторните превозни средства, който го използва за предотвратяване на кражба на самоличност. Отделът можеше да извършва издирвания на полицията само със заповед за обиск. (Изисква се заповед по а Закон на щата Вашингтон което също влиза в сила през юли.)

Но републиканският губернатор на Масачузетс Чарли Бейкър заплаши да наложи вето на мярката.

Няма да подписвам законопроект, който забранява разпознаването на лица, каза г-н Бейкър, според местен доклад , цитирайки използването му при решаване на два случая на убийство и сексуално насилие над деца.

Въпреки че беше малка част от по-голям законопроект за реформа на полицията, насоките за разпознаване на лица привлякоха внимание. Играчът от НБА Джейлън Браун и неговите съотборници от Селтикс се подадоха статия с мнение до Boston Globe, осъждайки проблемите с расовите пристрастия на технологията и подкрепяйки регламента.

Въпреки позициите и профилите ни като професионални спортисти, ние не сме имунизирани срещу расово профилиране и дискриминационна полицейска дейност, пишат те. Проучванията потвърждават, че технологията за наблюдение на разпознаване на лица е такава дефектни и пристрастни , със значително по-висок процент на грешки, когато се използва срещу цветни хора и жени.

Не можем да позволим на пристрастната технология да засили расистката полиция в Британската общност, добавиха те.

В крайна сметка законодателите и губернаторът постигнаха компромис под формата на предстоящите регулации.

Някои критици, включително други офиси на ACLU, казват, че разпознаването на лица е уникално вредно и трябва да бъде забранено. Полицейските синдикати и полицейското управление на Бостън не отговориха на искания за коментар. Райън Уолш, служител по обществена информация в полицейското управление в Спрингфийлд, Масачузетс, посочи, че отделът не вижда тази мярка като последна дума за това как правоприлагащите органи могат да използват тази технология.

Въпреки че в момента не използваме и не планираме да използваме софтуер за лицево разпознаване, се надяваме, че законът се развива с развитието и усъвършенстването на технологията, каза той.

Mx Крокфорд, който работи по въпросите на технологиите и наблюдението откакто се присъедини към ACLU в Масачузетс през 2009 г., каза, че е политически невъзможно да се забрани използването на разпознаване на лица в щата. Но те вярват, че допълнителните насоки ще помогнат за предотвратяване на злоупотреби и фалшиви арести.

Г-н Роджърс и щатският сенатор Синтия Крийм се представиха нов законопроект с ограничения, включващи ограничения върху използването на технологията на обществени места.

Според нас това много не е направено, Mx. — каза Крокфорд.