Производитель технологических решений для полиции и армии американская компания Axon опубликовала первый доклад по изучению этических последствий продукции с использованием искусственного интеллекта. В состав этического совета, который составил рекомендации, вошли представители правоохранительных органов, гражданские активисты, политики, учёные и IT-специалисты.
Доклад содержит шесть основных выводов. В первом пункте авторы указали, что имеющиеся технологии распознавания лиц нельзя назвать надёжными для массового использования в камерах наблюдения. Система пока не отличает людей по расовым, гендерным и возрастным признакам. Также составители доклада обратили внимание на погрешности технологии распознавания людей на улице, которые возможны как при поиске пропавшего человека, так и при выявлении хулиганов во время уличных беспорядков. Система требует доработки во избежание неправомерных действий. Например, безосновательного задержания человека полицией.
С развитием технологий распознавания лиц встаёт вопрос об их потенциальном злоупотреблении со стороны клиентов. Совет по этике высказался против разработки оборудования, которое пользователь может перенастроить. О необходимости регулирования использования систем распознавания лиц говорят не только представители компании, но и правозащитники, ведь бесконтрольное наблюдение за гражданами можно также рассматривать как вторжение в частную жизнь.
Авторы доклада пишут о необходимости совместного участия госструктур и общества в принятии решений по массовому внедрению технологий распознавания лиц. Оправданность таких решений должна быть подтверждена не только в теории, но и на практике. Прежде чем вводить систему в эксплуатацию, также необходимо проанализировать эффективность работы полиции с учётом технических ограничений и правовой базы. Авторы доклада настаивают на том, что использование технологии распознавания лиц должно быть прозрачно и подотчётно.
