Полиция в небольшом английском городе Дарем будет использовать искусственный интеллект, который поможет сотрудникам определить, нужно ли оставлять подозреваемых под стражей или его можно отпустить под залог. Система классифицирует подозреваемых по степени риска совершения противоправных деяний. Система разрабатывалась в течение пяти лет.
Данные для инструмента оценки риска причинения вреда (HART) были подготовлены полицией Дарема в период между 2008 и 2012 годами. Затем в течение 2013 года система была протестирована, а затем еще два года проводился анализ результатов.
Прогнозы о том, что подозреваемый вряд ли будет нарушать закон в дальнейшем оказался точным в 98% случаев, а прогнозы о высоком риске были точными в 88% случаев. Профессор Лоуренс Шерман из Кембриджского университета, который принимал участие в разработке HART, предположил, что этот инструмент может быть использован в различных случаях — например, при принятии решения о задержании подозреваемого; об освобождении его под залог или об избрании меры пресечения.
Результаты прошлых исследований не раз указывали на то, что ИИ часто перенимает предрассудки своих создателей, в том числе и расистские, а потому бывает не объективен. Именно из-за этих рисков профессор Кэри Кольянезе из Пенсильванского университета, изучавшая алгоритмические решения, сказала, что HART следует использовать только для консультации, а решение должен принимать человек.
