Вот почему я агитирую против распознавания лиц в школах

Изображения: Брук Трогдон / Борьба За Будущее

Эрика Даррагые является организатором сообщества и редукционистская вреда от Грузии. Она в настоящее время служит на совете директоров студенты за разумную политику в области наркотиков и координирует организацию кампуса для кампании по запрещению распознавания лица. Вы можете найти ее на Twitter на @erica_darragh.

Отрасль надзора имеет практику монетизации кризисы, и эпидемии вооруженного насилия в школах не является исключением.

На волне парков и других трагедий, поставщики видеонаблюдения потихоньку начали маркетинговых кампаний, которые рекламируют признания лица в качестве высокотехнологичных решений по безопасности. Некоторые государственные школьные округа, как и города Локпорта в Нью-Йорке и округе Бровард во Флориде, купленный в этом повествовании и установленных систем распознавания лица. Однако, собственные исследования правительства США проблемы, лежащие в основе понятия эти претензии: что массовая слежка мешает яростных атак, и распознавание лица-это надежный способ выявления потенциальных угроз безопасности.

Системы распознавания лица, которая продается в школах часто рекламируются как сравнение людей, попавших на камеры наблюдения в отношении «белого» (лиц, которым позволено находиться на территории кампуса) или черный список (лиц, которые не допускаются на территории кампуса). Но оба эти методы являются недостаточными для выявления типичных школьный стрелок: студентка.

Системы распознавания лиц, которые утверждают, что смогли выявить агрессии или других сложных эмоций также весьма сомнителен. Обширный обзор распознавания эмоций исследование показало, что выражение лица не очень ассоциируются с эмоциями, предъявления претензий поставщикам видеонаблюдения не лучше, чем лженаука. Как ужасно, как случаи массового расстрела, они тоже статистически редкое для любого типа алгоритм их прогнозирования. Это понятно даже поставщики видеонаблюдения и адвокатов, которые допускают, что признание лица не может остановить время стрельбы в школе.

Технология распознавания лиц является очень противоречивы – исследования показали, что для распознавания используется полицией в Великобритании неправильно определяет цели до 98 процентов времени, особенно если цель не белый мужчина. В 2019 году федеральное исследование показало, что даже топ-уровня распознавания лиц алгоритмы ошибочно идентифицировать лица людей цвета в 10-100 раз показатель, что они ошибочно отождествлять белые лица. Это расширение хорошо документированы когнитивной предвзятости, что уже способствует чрезмерной криминализации сообществ цвета.

Реализации рисков признания лица усиливающееся преследование и ложное определение наиболее уязвимых членов общества. Учитывая, что применение полицией огнестрельного оружия являются ведущей причиной смерти среди молодых чернокожих мужчин в США и льда регулярно депортирует граждан США, которые были расценены как нелегальные иммигранты, это буквально вопрос жизни и смерти для людей цвета.

Поскольку признание лица полностью нерегулируемым, поставщиков, частных видеонаблюдения работают с минимальными надзора. Большой угрозой сделал национальных новостей в последние несколько недель, когда Нью-Йорк Таймс опубликовала статью о ClearView И. и его взаимоотношения с правоохранительными органами. Клирвью использует искусственный интеллект для анализа данных более трех миллиардов изображений, которые были собраны в интернете из мест, как Facebook, Instagram, баз данных общих снимков, и другие сайты. Когда это возможно, изображения подключены к личной информации в социальных сетях. Программа сравнивает поступающие изображений в базе данных, что позволяет пользователю идентифицировать людей в реальном времени, как они подвергаются камеру.

Чтобы сделать вопросы еще хуже, доступ к программное обеспечение для продажи любому. 27 февраля Клирвью сообщил, что он был взломан и его список клиентов были скомпрометированы. Вскоре после того, BuzzFeed опубликовало список клиентов, и в него вошли высшие учебные заведения, как Университет штата Алабама, Международный Университет Флориды и Университет штата Миннесота, а также крупные корпорации, такие как Verizon и Walmart, и несколько правоохранительных органов, в том числе льда. Этот доклад был опубликован через несколько дней после того, как Калифорнийский университет отменил свое решение для реализации распознавания лиц на территории кампуса, после зазор сообщества, усиливается борьба за продолжающейся кампании будущем запретить распознавание лица на территории кампуса. Калифорнийского университета присоединились более пятидесяти других учреждений, которые приняли это обязательство, и 2 марта молодых людей по всей стране приняли участие в дне действий против распознавания лиц на территории кампуса.

Студенты за разумную политику в области наркотиков организовали несколько мероприятий, в том числе одна в моей альма-матер, Университет Северной Джорджии. Глава на мой кампус был основан в разгар кризиса опиоидов, и мы успешно лоббировали для медицинских и законы Об амнистии доступа к налоксону в штате Джорджия. Признавая, что политика в отношении наркотиков была использована как форма узаконенного угнетения, я вынужден был играть роль в предотвращении цифровой эволюции системной дискриминации. Из-за моего времени организации в политике реформ наркотиков и снижения вреда, я пришел в кампанию по запрещению распознавания лица с акцентом на расовой справедливости и согласия образования.

Тот факт, что личные данные могут быть легко собраны и добавлены к частной базе подчеркивает, насколько наше понимание согласие не развивалась технология. Согласие является информированным, revokable, и согласован сторонами с одинаковой мощности (или с учетом динамики мощность). Учитывая, что мало кто полностью понимает риски передачи биометрических данных частных компаний, эти решения далеко не полностью информированы. Поскольку данные детали обмена данных похоронен в милях юридической терминологии и использования услуг и платформ зависит от полного сотрудничества со сроками и условиями, наша реализация цифровых согласия по-прежнему находится в зачаточном состоянии.

В 2017 году, данные превзошли масло как самый ценный товар на рынке, и без значимых законов, обеспечивающих защиту передачи данных, ведется через посредника и продается на торгах. Мы уже знаем, что коммерческие организации, акции (и продавать) данные без индивидуального согласия, и в настоящее время существует несколько положений, которые затрагивают данный вопрос. Даже если “согласие” предоставляемых этими компаниями и нормативных актов, физических лиц, вероятно, никогда не знаешь, как их данные используются пока есть громкие утечки данных или ужасающий скандал—такие как Facebook и инцидент Кембридж Аналитика.

Критики признания лица, часто делают вывод, что решение-это усиление регулирования, но цифровой защите прав некоммерческих бороться за будущее признает, что правила не могут исправить в корне ошибочным и несправедливым технологии. Как ядерное и биологическое оружие, распознавание лица представляет собой уникальную угрозу человечеству, которая далеко перевешивает любые потенциальные выгоды.

Более сорока организаций гражданских свобод, в том числе Американский союз защиты гражданских свобод и цвет изменить, подписали открытое письмо с осуждением распознавания лиц на территории кампуса. Более 150 преподавателей подписались на отдельном открытое письмо в знак солидарности с организаторами студента, как я. Сравнивая эти уровни поддержки, кампания вызвала споры в Окленд колледж, где администраторы пытались запретить образовательный форум и цензор резолюции студенческого самоуправления. Позже администраторы полностью отменил это решение после того, как Американский союз гражданских свобод и Центр Правосудия в Детройте определили цензуры как нарушение Первой поправки.

Несколько других кампусах работают при принятии решений студенческого самоуправления, что запрет распознавания лиц на территории кампуса, и больше образовательных мероприятий запланировано в течение весны.

Молодые люди по всей стране требуют реальных изменений политики, и я призываю другие страны присоединиться к нашей кампании, подписать петицию, и работать, чтобы катализировать изменение политики в их собственных общинах.

Мы уже дали так много частной жизни и свободы ради “безопасности”, но признания лица должна быть там, где это останавливается. Признание лица не улучшает безопасность и может на самом деле сделать его хуже. Это также технологии, которые когда-то включили, не могут быть приняты обратно. Это принципиально принуждения для учебных заведений требуют от студентов для участия в биометрические наблюдения для того, чтобы посещать занятия.

Пока мы ждем от правительства запретить распознавания лиц на федеральном уровне, молодые люди могут взять под контроль повествование и политики потребовать запретить технологии в школьных округах и на campuses коллежа. Наблюдения антиутопия не является неизбежным, но мы должны действовать сейчас.