Поиск по этому блогу

29 июля 2016 г.

Кристо Аргириди. Как прогностический софт может повлиять на преступность и расовые предубеждения



История многочисленных российских реформ показывает, что отечественные власти активно заимствуют любые военно-полицейские и пенитенциарные новшества. Завтра, описываемые ниже проблемы, могут оказаться нашими проблемами.
 




За последние пару десятков лет США резко увеличили число своих заключенных. Рост был беспрецедентным. Из страны с относительно невысоким уровнем сидящих за решеткой, страна скакнула в лидеры, прочно закрепившись в тройке лидеров вместе с РФ и КНР.


Специалисты указывают на несколько факторов, способствовавших такому скачку. Во-первых, социальные. В бедных районах, населенных преимущественно цветными, сложилась самая настоящая «цепочка» (ACLU был одной из тех организаций, которые наиболее подробно исследовали этот феномен), которая доводит подростков и молодых мужчин до тюрьмы. После этого начинают играть другие факторы, и это, во-вторых. На законодательном уровне был принят ряд законов, ухудшающих положение бывших заключенных, препятствующих их ресоциализации, запирая их на криминальном дне. В-третьих, и это уже было особенностью цветных, практически полная деградация семьи, в которой отец чаще всего отсутствовал, что приводило к массовой нищете. Феномен «феминизации бедности» здесь проявлялся наиболее ярко. Тем более, что разрыв в оплате труда между женщинами и мужчинами в США по-прежнему высокий. Это не считая традиционно высокой безработицы и низких доходов.



Свою существенную лепту внесли и законы, которые должны были улучшить криминагенную обстановку в стране, особенно на фоне увеличения потребления наркотиков. Правительство США объявило «Войну наркотикам», для чего в «братскую» Мексику и не менее «братскую» Гватемалу посыпались советники по борьбе с разбушевавшейся наркомафией. Потребовался не один год, тысячи и тысячи убитых, сотни морпехов и агентов УПН (Управление по борьбе с наркотиками), ЦРУ и ФБР, чтобы вывести войну на новый уровень: приграничные мексиканские штаты, в которых США развернули войну, были, фактически, разрушены. Поэтому мексиканские наркокартели перебрались по ту сторону Рио-Гранде и устраивают войны прямо на улицах американских городов. Например, в Чикаго.


В самой Мексике и Гватемале, картели, выжившие в убийственной нарко-гражданской войне, в которую были втянуты политические силы, экономическая верхушка и военно-полицейский аппарат этих стран, стали самостоятельной политической силой. Частично этому способствовали сами США, которые готовы были идти на тайные соглашение с частью картелей, чтобы потом сталкивать их лбами. Дело дошло даже до выращивания своих собственных «убийц картелей«, которые потом, подчиняясь логике войне за передел наркорынка, сумели откусить от него значительную долю.


Пока тайные агенты правительственных служб работали за границей, внутри страны ударными темпами работала юстиция. Война привела к ужесточению наказания за хранение, сбыт, перевозку наркотиков. Поскольку «война с наркотиками» шла следом за «войной с терроризмом», это привело к ещё большему вмешательству спецслужб в личную жизнь граждан и фактической отмене части их гражданских прав. Вдобавок, от «войны с террором» у Пентагона на складах «пылилось» большое количество военного снаряжения. Девать его в таком количестве было просто не куда.


Экономический кризис ухудшил положение простых американцев, вместе с ужесточением законодательства и криминализацией мелких нарушений это привело к росту заключенных, а рост заключенных к формальному росту преступности в абсолютных (и относительных) показателях. По отдельности эти факторы были незначительны, но взятые вместе они обусловили массовое перевооружение полиции и национальной гвардии. Спонсором выступил Пентагон, который не только передавал вооружение, но и делился опытом, накопленным во время «войны с террором». Поэтому скоро, неявно объявленная «война с преступностью» стала напоминать боевые действия, которые велись в Афганистане или Ираке.


«Война дома» вызвала массовый гнев и протесты многих американцев. Ситуация усугублялась тем, что протесты были расово окрашенными, а нарушения в наиболее громких делах совершали, как назло, белые полицейские. Способность полиции уйти от ответственности за совершенные ею действия, которые приводили к смерти задержанных или нарушению их гражданских прав, только подливали масла в огонь. Проблемы роста преступности от этого никуда не девались, а общество продолжало требовать от полиции четкого следования девизу «Служить и Защищать«.

Силовой вариант проблему не решал. Совершать Революцию — менять всю систему факторов (экономических, социальных, юридических, а значит политических), вызывающих рост преступности в определенных районах и среди определенных слоев, — никто не собирался. Было решено пойти другим путём.


Ещё несколько лет назад, работа полиции по выяснению того, что же замышляют очередные нарушители порядка, требовала своих ушей и глаз в потенциально опасном районе. Не так давно, все изменилось. Бурное развитие технологий обработки больших массивов данных, привело к появлению на рынке специализированных проприаритарных систем прогнозирования криминальной активности. Теперь полицейским офицерам понадобилось кресло и доступ к специализированной базе данных, которая, проанализировав многочисленные данные, выдавала прогноз в отношении отделенных людей в наблюдаемом районе. Прогноз касался того, что подозреваемый мог совершить, но отнюдь не того, что он совершил или планировал совершить.


Многие агентства используют софт, предсказывающий рост потенциальной криминальной активности. Это касается полиции в Канзасе или ряде других мест, которые используют полученные от таких систем данные и пытаются действовать упреждающим образом.


В Чикаго, где за последний год наблюдалось резкое увеличение количества совершаемых тяжелых преступлений, полиция использовала специальный софт, чтобы сформировать список людей, которых могли либо застрелить, либо они сами могли участвовать в перестрелке. В какой-то момент (на День Памяти) полиция заявила, что из 64 человек, убитых на данный момент в городе, в списке значилось 50 фамилий.


Правда, полиция не сообщила самую важную информацию — сколько людей было в списке и какую долю представляют собой совпадения. Без этих данных — заявление полиции больше похоже на рекламную компанию производителя софта.


Кроме полиции, прогностический софт стали активно использовать суды при определении длительности тюремного заключения обвиняемого.
Эрик Лумис был осужден на 6 лет тюремного заключения за неповиновение полиции (г.Ла Кросс, Висконсин), потому что судья посчитал его представляющим «высокий риск» для общества.


Судья пришел к такому выводу, опираясь на оценку Лумиса в БД Compas — секретном софте, использующемся в Висконсинской системе юстиции для прогнозирования вероятности возможного участия в потенциальном преступлении.


Получается, что система приговаривает человека на больший срок заключения за то, что он не совершал, а всего лишь мог совершить. Хотя вынесение осуждения на больший срок в американской системе юстиции базируется на многих факторах, новым является использование проприаритарного софта, который полностью закрыт от общественной критики и оценки.


Адвокат в деле Лумиса не согласился с назначенным сроком и потребовал от производителя софта (Compas) — Northpointe Inc. — обнародовать информацию на базе каких факторов происходит оценка. Производитель отказался, выпустив заявление, в котором подтверждалось ещё раз, что софт проприаритарный, и что он опирается на исследование. Раскрыть само исследование производитель так же отказался.


Проблема заключается не столько в проприаритарном софте, сколько в полном отсутствие доступа к нему. В юридической системе США периодически пересматриваются положения об определении длительности заключения на основании оценки возможной криминальной активности клиента. Сделать это не так просто, но это возможно. И только благодаря тому, что эти документы доступны общественной критике и оценке.
Использование в этом деле частных подрядчиков, делает судебный процесс существенно менее прозрачным, затрудняя работу адвоката по оспариванию вынесенного приговора. Поэтому, одними из требований к такого рода прогностическим системам стали четкая стандартизация оценок на государственном уровне и доступ общественности и собранным данным и моделям оценки.


Ситуация чем дальше, тем больше начинает напоминать антиутопию, в которой частные подрядчики диктуют судьям решения, используя при этом крайне противоречивые данные. Все это базируется на неявном предположении, что чем больше информации мы соберем, тем успешнее мы будем искоренять преступность. Пример использования такого рода технологии Чикагской полицией говорит о другом — софт способен предсказать появление некоторого, точно неизвестного, числа преступников среди обитателей морга (это проще сделать, если речь идет о членах банд и рецидивистах).

Второй важный момент касается сосредоточения полиции на каких-то отдельных группах населения и особо криминагенных районах. С учетом этого, чем больше осужденных из определенного района, тем выше статистика и выше показатели криминальной активности. Это, в свою очередь, сдвинет деятельность полиции в сторону наблюдения и патрулирования одних районов, выпуская из-под контроля преступность в других районах. Как результат, в обществе, где практикуется то, что называют «расовое отслеживание», сильнее прежнего укоренятся расовые предрассудки.


Третий важный аспект применения проприаритарных прогностических средств касается полного выхолащивания тюремного содержания, о чем беспокоятся противники такого рода технологий. От в равной степени «системы перевоспитания»/» системы изоляции», пенитенциарная система рискует перейти к последнему варианту, что скорее приведет не к искоренению преступности (вспоминая о «беловортничковой» её разновидности), а к увеличению тюремного населения, росту числа самих тюрем, закреплению расовых стереотипов.


Правда, используя ровно тот же подход, можно попытаться улучшить ситуацию. Поэтому параллельно с внедрением софта, который бы загонял на долго в тюрьму«вычисленных возможных рецидивистов», власти США решили устроить разгрузку тюрем от элемента, который не представляет особой опасности. И, как и в случае, разобранном выше, оценка давалось бы софтом.


Специальная программа (DDJI – Обусловленная данными юридическая инициатива) анонсированная 30 июня этого года должна будет выпустить из тюрем 40% их нынешнего «населения». В программе уже собираются принимать участие 67 городов, а крупные частные вендоры, такие как Amazon и Palantir, активно привлекаются к совместной деятельности с государственными органами власти.

В отдельных частях страны эксперимент прошел раньше. В графстве Мекленбург, Северная Каролина, было выпущено 40% тюремного населения. Оценку проводило специализированный софт, как говорят исследователи – резкого роста преступности не последовало.


Кроме крупных компаний, в программе принимают участие и исследовательские подразделение Университетов. При этом, некоторые из них (Нью-Йоркский и Чикагский), загодя пожертвовали разработанный софт городам и муниципалитетам, принимающим участие в программе.


Казалось бы, есть повод для радости, если не вспомнить тот простой факт, что именно цветные являются той этнорасовой прослойкой, которая менее всего подпадает под определение «не представляет опасности» с точки зрения собранной на них полицейской статистикой. Последняя включает в себя постоянные обыски и задержания, зачастую из-за мелких нарушений (препятствование проезду средств, переход в неположенном месте, подозрительные сборища и т.д. и т.п.) В силу этого, большинство скептиков считает, что эта мера, основанная на закрытых алгоритмах, использующих не вполне достоверные данные, послужит тому, что из тюрем будут выходить их белые обитатели.


Уверенности скептикам не добавляет чуть ли не единодушная поддержка этой инициативы со стороны обеих партий в обоих палатах Конгресса. Дошло до того, что во время одного из своих последних выступлений, Пол Райан заявил, что лично внесет закон о реформе системы криминальной юстиции, переменив, таким образом, своё предыдущее мнение о её необходимости.


Насколько обоснованны опасения скептиков, кроме части касающейся проблем использования доступа общественности к алгоритмам и данным прогностического софта, можно будет узнать довольно скоро.


Впервые опубликовано здесь



Комментариев нет:

Отправить комментарий