Axon, крупнейший производитель полицейских нательных камер в США, объявил, что не будет добавлять функцию распознавания лиц в видеорегистраторы для правоохранительных органов до тех пор, пока не будут решены этические проблемы
«Мы думаем, что сейчас не следует монетизировать эту технологию до тех пор, пока не будут решены этические вопросы», — рассказал Forbes генеральный директор Axon Рик Смит.
«Проблемы точности и предвзятости, которые существуют сегодня, в будущем, вероятно, будут решены, и это породит новые препятствия, — говорит Смит. — Как только технология будет усовершенствована, нам придется работать с этическими ограничениями».
Смит говорит, что использование технологии полицией сейчас таит опасность массовой слежки за гражданами. Пока же Axon использует распознавание лиц при обработке записей с нательных камер для решения более простых задач.
«Предположим, случилась перестрелка с участием полиции и общественность требует опубликовать видеозапись, тогда полиции придется скрывать лица. В некоторых случаях нужно скрыть только часть лиц, но оставить все остальные, и в такой ситуации вам нужно, чтобы программа могла отличить «те самые лица».
Смит говорит, что такое использование технологии распознавания лиц в работе полиции может способствовать увеличению прозрачности правоохранительной системы, однако эта технология пока еще на стадии разработки.
Axon (ранее был известен под названием Taser International — по названию своего первого электрошокера) тесно работает со своим советом по этике, который сотрудничает с представителями правозащитных организаций, включая Американский союз защиты гражданских свобод (ACLU), говорит Смит. Принятое решение основывается на 42-страничном отчете Совета по этике искусственного интеллекта и полицейских технологий Axon, который компания создала в прошлом году.
ACLU одобрил решение Axon отложить внедрение технологии распознавания лиц в официальном заявлении, содержащем отсылки к закону о требованиях к нательным камерам, который запрещает использование функции распознавания лиц и других биометрических систем наблюдения в нательных камерах правоохранительных органов. Законопроект был принят в Калифорнии в мае и одобрен Сенатом в июне.
Смит говорит, что этот законодательный акт выглядит как шаг в правильном направлении, однако важно, чтобы и компании задумывались о последствиях использования своих технологий.
«Это [решение] не было принято из-за требований закона, — говорит Смит. — Мы понимаем, что такое саморегулирование может привести к более качественному законодательству в долгосрочной перспективе. Если бы компания начала продавать нательные камеры с распознаванием лиц просто потому, что у нас есть такая возможность, при всех существующих сегодня этических проблемах это привело бы к быстрому принятию новых законов, которые позднее оказались бы контрпродуктивными».