Ученые научили искусственный интеллект предсказывать преступления на неделю вперед

В США ученые ищут способ предсказывать преступления с помощью, как вы уже догадались, искусственного интеллекта (ИИ). Но есть одна проблема: существует множество исследований, которые показывают, что использование искусственного интеллекта для прогнозирования преступлений приводит к неизменно «расистским» результатам. Прогнозы, понятное дело, в основном, обещают, что преступят закон «не белые» граждане.

Например, одну модель прогнозирования преступлений с помощью искусственного интеллекта, которую в 2016 году опробовал Департамент полиции Чикаго, пытались избавить от «расистских предубеждений», но эффект получился обратным. ИИ использовал модель для предсказания того, кто может быть наиболее подвержен риску стать участником перестрелки, и в список попали 56% чернокожих мужчин города в возрасте 20-29 лет.

Но общество, пытающееся выглядеть внешне толерантным, в лице ученых не сдается. И все еще пытается использовать этот инструмент, чтобы выяснить, когда и где может произойти преступление. И на этот раз, по словам ученых, все вышло «по-другому».

Исследователи из Чикагского университета использовали модель искусственного интеллекта для анализа исторических данных о преступности с 2014 по 2016 год, чтобы предсказать уровень преступности в городе на предстоящей неделе. В основе системы лежит обученная нейросеть, которая изучает закономерности в совершении преступлений, их местоположении и времени. Это делается на базе открытых данных о насильственных и имущественных преступлениях. Модель предсказала вероятность преступлений по всему городу на неделю вперед с точностью почти 90%; аналогичный уровень успеха был достигнут и в семи других крупных городах США.

Это исследование, результаты которого были опубликованы в журнале Nature Human Behavior, позволило не только предсказать преступность, но и изучить реакцию на преступления со стороны правоохранительных органов.

Соавтор исследования профессор Джеймс Эванс сказал Science Daily, что ИИ позволяет «задавать новые вопросы и по-новому оценивать действия полиции». Ишану Чаттопадхьяй, доцент Чикагского университета, рассказал Business Insider, что их модель показала, что преступления в районах с более высоким уровнем дохода приводят к большему количеству арестов, чем правонарушения в местах проживания более бедных жителей, что говорит о некоторой предвзятости в реакции полиции на преступность.

Кстати, это было известно примерно минимум лет 50 и без всякого искусственного интеллекта. И не только в США. В любом обществе более обеспеченные районы лучше контролируются полицией, чем какие-нибудь трущобы или депрессивные кварталы.

«Такие прогнозы позволяют нам изучать возмущения в структуре преступности, которые предполагают, что реакция на рост преступности предвзято зависит от социально-экономического статуса района, оттягивая политические ресурсы из социально экономически неблагополучных районов, что было продемонстрировано в восьми крупных городах США», — говорится в докладе.

Чаттопадхьяй рассказал Science Daily, что исследование показало: когда «вы напрягаете систему, она требует больше ресурсов для ареста большего количества людей в ответ на преступление в богатом районе и оттягивает ресурсы полиции из районов с более низким социально-экономическим статусом».

Чаттопадхьяй также рассказал New Scientist, что, хотя данные, используемые его моделью, могут быть необъективными, исследователи постарались уменьшить этот эффект, не указывая подозреваемых, а определяя только места преступлений.

Но все же есть некоторые опасения по поводу расизма в этих исследованиях ИИ, пишет Mashable.

Лоуренс Шерман из Кембриджского центра доказательств полиции рассказал New Scientist, что из-за того, как регистрируются преступления — либо потому, что люди звонят в полицию, либо потому, что полиция ищет преступления, — вся система данных подвержена предвзятости. «Это может отражать намеренную дискриминацию со стороны полиции в определенных районах», — сказал он изданию.

При этом Чаттопадхьяй сказал в интервью Business Insider, что модель не будут использовать для увеличения количества полиции в районе будущего преступления. Это может изменить условия моделирования, а значит предыдущая модель окажется неверной.

«В идеале, если вы можете предсказать или упредить преступление, единственная реакция — не посылать больше полицейских или наводнять конкретный район правоохранительными органами», — сказал Чаттопадхьяй изданию. «Если вы можете упредить преступление, есть множество других вещей, которые мы могли бы сделать, чтобы предотвратить такие вещи, чтобы никто не попал в тюрьму, и это помогает всем жителям. То есть нужно действовать стратегически, а не тактически».