Как белый инженеры создали расистский код – и почему это опасно для черных людей

Опубликованно 09.12.2017 00:36

“Вы хорошо?” человек спросил два детектива с наркотиками в конце лета 2015 года.

Детективы закончили сделку под прикрытием наркотиков в Брентвуде, преимущественно черный район в Джексонвилле, штат Флорида, который является одним из самых бедных в стране, когда мужчина неожиданно подошел к ним. Один из детективов ответил, что он искал на $50 на “жесткий”– на сленге кокаин. Мужчина скрылся в соседней квартире и вернулся, чтобы выполнить просьбу детектива, меняя лекарства за деньги.

“Вы видите меня вокруг, меня зовут полночь,” дилер сказал, как он ушел.

До полуночи уходили, то один из детективов удалось взять несколько фотографий с ним, незаметно фотографирует с его телефон к уху, как будто принимая вызов.

Спустя две недели полицейские хотели произвести арест. Только информация у них о у дилера были фотографии, адрес, где обмен состоялся, и прозвище полночь. Тупик, в Джексонвилле офис шерифа превратилась в новый инструмент, чтобы помочь им выследить дилера: программное обеспечение для распознавания. Лицо-значение AI будет в состоянии обнаружить вашу политику и IQ, говорит профессор Подробнее

Технологии помогли им придавить подозреваемого по имени Вилли Линч. Линч, который был описан рядом наблюдателей в случае, например, Джорджтаунского университета, исследователь Клер Гарви, как “очень умные, крайне целеустремленные личности” несмотря на то, что закончил школу – он даже подал его случае движений, которые могли бы быть приняты за те, что написаны по реальным адвокатом – в итоге был осужден и приговорен к восьми годам лишения свободы. Сейчас он обжалует вынесенный ему приговор.

Ли Вилли Линч “полуночи” остается неясным. Но многие эксперты считают, что технология распознавания лиц используется против него недостатки, особенно в отношении чернокожих людей. Кроме того, в Джексонвилле офис шерифа использовали технологии – в качестве основы для выявления и ареста Линч, не в качестве одного из компонентов при поддержке тверже доказательств делает его убежденность еще более сомнительно.

Методы, используемые для осужденного Линч не ясно во время его судебного дела. В Джексонвилле офис шерифа изначально даже не раскрыть, что они использовали программное обеспечение распознавания лица. Вместо этого, они утверждали, что использовали базу данных mugshot чтобы определить Линч на основе одной фотографии, что сыщики взяли на ночь биржи. Для себя несовершенным биометрические’

Отсутствие ответов в Джексонвилле офис шерифа в случае Линча является представителем проблемы, что признание позах по всей стране. “Считается несовершенным биометрические”, - сказал Гарви, который в 2016 году создал исследование программного обеспечения распознавания лиц, опубликованная центром по защите персональных данных и технологии в Джорджтауне закон, называемый Вечный лайн-ап. “Нет консенсуса в научном сообществе, что он обеспечивает положительный идентификация кого-нибудь”. Эксперты опасаются новой технологии, на самом деле может быть больно сообществ полиция утверждает, что они пытаются защитить

Программное обеспечение, которое принимает все более важную роль среди правоохранительных органов в США в течение последних нескольких лет, возникли споры из-за его влияния на людей цвета. Эксперты опасаются, что новые технологии на самом деле может быть больно сообществ полиция утверждает, что они пытаются защитить.

“Если ты черный, то Вы более правоподобны для того чтобы подвергнуться этой технологии и технологии более вероятно, будет неправильно,” дом комитета по надзору высокопоставленным членом Элайджа Каммингс заявил в Конгрессе слушания по правоохранительной использовать для распознавания лиц в марте 2017 года. “Это адское сочетание”.

Каммингс имел в виду такие исследования, как Гарви по. Этот отчет нашел, что черные лица, как и многие другие аспекты системы правосудия, прежде всего, необходимо тщательно контролировать с помощью программного обеспечения распознавания лица в случаях. Он также предположил, что программа, скорее всего, чтобы быть неверным при использовании на черный лиц – заключение подтверждается собственные исследования ФБР. Эта комбинация, которая делает Линча и других темнокожих американцев живет мучительно сложно, рождается еще одна проблема расы, которая стала предметом национального дискурса: отсутствие разнообразия в технологическом секторе.

Алгоритмы, как правило, написанные белый инженеров, которые доминируют в технологическом секторе. Фото: Доминик Липинский/ПА Радикализируются код

Эксперты, такие как радость Buolamwini, исследователь из лаборатории Медиа Массачусетского технологического института, думаю, что программное обеспечение для распознавания имеет проблемы признания черные лица, поскольку его алгоритмы, как правило, написанные белый инженеров, которые доминируют в секторе высоких технологий. Эти инженеры опираться на уже существующие библиотеки кода, как правило, написаны другие белые инженеры.

Как программист создает алгоритмы, они обращают внимание на черты лица, которые могут быть более заметным в одной гонке, но не другой. Эти соображения вытекают из предыдущих исследований по методам распознавания лиц и практики, которые могут иметь свои собственные предубеждения, или инженера собственный опыт и понимание. Код, результаты направлены в фокус на белые лица, и в основном тестируют на белые предметы.

И хотя программное обеспечение построено таким образом, чтобы получить умнее и более точными методами машинного обучения, подготовки данных он использует часто состоят из белого лица. Код “узнает”, глядя на более белые люди – которые не поможет его улучшить с множеством разнообразных рас.

Однако технология пространства не только белыми,. Азиаты и выходцы из Южной Азии, как правило, хорошо представлены. Но это не может расширить пул разнообразия достаточно, чтобы исправить проблему. Исследования в области, безусловно, свидетельствует о том, что статус-кво просто не работает для всех людей с другим цветом кожи, особенно для групп, которые недостаточно представлены в технологии. По данным исследования 2011 г. Национальный институт стандартов и технологий (nist), программное обеспечение для распознавания собственно более точный на азиатских лицах, когда они создаются фирмами в странах Азии, предполагая, что кто делает программное обеспечение сильно влияет на то, как он работает.

В лекции на Ted, Buolamwini, кто черный, вспоминал некоторые моменты на протяжении всей своей карьеры, когда программа распознавания лиц не заметил ее. “Демо работал на всех, пока он добрался до меня, и вы можете догадаться, это. Он не мог обнаружить мое лицо”, - сказала она. Facebook Твиттер Пинтерест Нерегулируемый алгоритмов

Даже как использовать распознавание увеличивает программного обеспечения для лица в правоохранительные органы по всей стране, тем глубже анализ, что эксперты требуют не происходит.

Правоохранительные органы часто не пересмотреть свое программное обеспечение, чтобы проверить, запеченная в расовой предвзятости – и нет законов или правил, заставляя их. В некоторых случаях, как Линч, правоохранительные органы даже не скрывая тот факт, что они используют такое программное обеспечение.

Сказал гарви она уверена, что полиция, используя программное обеспечение для распознавания больше, чем нам говорят, что она называется “отмыванием доказательств”. Это является проблематичным, поскольку оно скрывает, сколько роль играет программное обеспечение распознавания лица в правоохранительных органах. Обе юридические адвокатов и программное обеспечение распознавания с лица сами говорят, что технология должна обеспечить только часть дела – не доказательство, что может привести к аресту.

“По результатам рассмотрения, все распознавания играм нужно относиться не иначе, чем кто-то зовет на возможный отрыв от выделенной линии”, - пишет Роджер Родригез, сотрудник признании бдительность решений вендора лица, в почтовое защиты программного обеспечения. “Бремя все равно ложится на следователя в агентство, чтобы самостоятельно установить вероятную причину для ареста”, - продолжает он, – вероятно, потому, что “должны быть выполнены с помощью других следственных средств”. Рост расистских роботов – как ИИ обучения все наши худшие импульсы Подробнее

Даже если программное обеспечение для распознавания используется правильно, однако технология имеет существенные недостатки базовых. Фирмы, создающие программное обеспечение не проводятся специфические требования для расовых предрассудков, и во многих случаях они даже не испытание для них.

Одной компании я говорил, CyberExtruder, в технологию распознавания лиц компании, которая сама продает в правоохранительных органах, также сказал, что они не проводили испытания или исследования по уклону в их программного обеспечения. Бдительно решения отказался сказать, является ли или не они это проверяли. CyberExtruder же обратите внимание, что некоторые цвета кожи-это просто сложнее для обработки в программе с учетом текущих ограничений технологии. “Так же, как люди с очень темной кожей трудно определить с высокой значимостью с помощью распознавания лица, люди с очень бледной кожей такие же”, - сказал Senftner Блейк, старший инженер CyberExtruder.

Что касается Линча, его дело в настоящее время играет во Флоридских судах. Часы также не может быть превращен обратно иже с ним, кто, возможно, был несправедливо осужден как результат недостатки программного обеспечения, без прозрачных стандартов для ее использования.

Программное обеспечение распознавания лиц вызывает много вопросов, на которые нужны четкие ответы. Получив ответы на эти вопросы займет больше исследований, также необходима, как и они. Это также важно, чтобы законы догнать технологии, для того, чтобы обеспечить людей, как Линч знать инструменты, которые используются против них. Самое главное, мы должны внимательнее смотреть на тех, кто делает эти алгоритмы, и как они это делают.

Али Бреланд-репортер на холме, где он фокусируется на пересечении технологий и политики. Появится более полный вариант этого произведения в предстоящем “вопрос справедливости” логики, журнал о технологиях. Посетите logicmag.ИО, чтобы узнать больше.

Категория: Автотехника