В США предугадывающую преступления программу обвинили в расизме

Исслeдoвaтeли из нeкoммeрчeскoй oргaнизaции Human Rights Data Analysis Group уличили кoмпьютeрную прoгрaмму PredPol (predictive policing), рaзрaбoтaнную для прoгнoзирoвaния прeступлeний в рaзличныx рeгиoнax, в рaсoвoй дискриминaции. Oб этoм сообщает Mic.com.

Этот алгоритм был разработан Департаментом полиции Лос-Анджелеса совместно с калифорнийскими университетами. Эту программу используют сотрудники местной полиции, а также правоохранительные органы других регионов США и Великобритании. PredPol, в частности, анализирует данные о совершенных в той или иной местности преступлениях, а затем отмечает на карте "горячие точки", в которых наиболее высока вероятность правонарушений в будущем.

По данным портала, исследователи Human Rights Data Analysis Group Уильям Исаак и Кристиан Лум решили протестировать эту программу на примере Окленда, департамент полиции которого в скором времени начнет использовать PredPol в своей работе. Активисты внесли в программу статистику арестов за 2010 год по обвинениям, связанным с наркотиками. Алгоритм, в свою очередь, составил карту с прогнозом на 2011 год.

Эти вычисления исследователи сравнили со статистикой, полученной в рамках программы Национального исследования здоровья и употребления наркотиков. Оказалось, что программа предсказала совершения наркопреступлений в большей степени в так называемых "черных районах" Окленда. Этот прогноз, как отмечают исследователи, совпал с результатами официальной статистики. Однако, подчеркивает портал, в некоторых "белых районах" города уровень употребления наркотиков был таким же, как и в "черных", а в ряде случаев даже выше.

Лум подчеркивает, что наркопреступники есть везде, однако полиция находит их "там, где ищет". По его словам, таким образом формируется некий замкнутый круг: данные о преступлениях вносятся в программу, она выдает прогноз с высокой вероятностью правонарушений, тем самым создавая еще больший "расовый перекос".

Это уже не первый раз, когда американские программы по прогнозированию преступности обвиняют в расизме. Ранее журналисты портала ProPublica уличили специальный предсказывающий алгоритм в том, что он в 80% случаев ошибочно вносит афроамериканцев в категорию "особого риска" (см. "В США журналисты уличили компьютерную программу в расизме").

Комментарии закрыты

Навигация по записям