Microsoft требует законодательства для систем распознования лиц

Смит пишет, что, как и любая технология, распознавание лиц может приносить и пользу, и вред. Он считает, что использование подобных механизмов порождает целый ряд вопросов о защите прав человека, в том числе права на приватность и свободу самовыражения. В связи с этим президент Microsoft говорит о необходимости «продуманного правительственного регулирования» и «разработки норм допустимого использования» машинного распознавания лиц.

Смит поясняет, почему заговорил о необходимости регулирования именно сейчас. По его словам, в течение нескольких лет механизмы машинного распознавания лиц просто занимались каталогизированием фотографий и поиском соответствий в этих каталогах. Однако по мере развития компьютерного зрения, совершенствования видеокамер, накопления видеоданных онлайн и роста популярности облачных решений все изменилось. Сейчас лицо человека можно распознать в видеопотоке в реальном времени через облако, и количество мест, где при этом может находиться человек, растет. Такое положение вещей Смит считает уже слишком глубоким вмешательством в жизнь общества.

Президент Microsoft отмечает несомненную пользу, которую приносят эти технологии в поиске пропавших детей, отслеживании террористов и идентификации пользователей на персональных устройствах. Но одновременно он предупреждает, что такие механизмы могут дать правительствам возможность следить за гражданами, а крупным компаниям — мгновенно обмениваться данными о потреблении этими гражданами товаров и услуг без их согласия.

Смит обозначил ряд вопросов в сфере машинного распознавания лиц, которые должны быть отрегулированы государством. Например, можно ли данные таких систем использовать в качестве самостоятельного доказательства вины или невиновности в суде, а также следует ли ввести общественный контроль за использованием подобных технологий в целях обеспечения национальной безопасности. Кроме того, должно быть отрегулировано применение правительством машинного распознавания лиц для расового профилирования, то есть причисления граждан к категории потенциальных подозреваемых на основе их расы, национальности или религии.

Также Смит задается вопросом, следует ли установить порог необходимой точности распознавания лица для таких технологий, нужно ли обязать ритейлеров сообщать потребителям, если подобная система используется в публичном месте, должны ли компании получать предварительное согласие пользователя на распознавание его лица, а если да, то в каких местах и ситуациях это можно применить, и каким именно способом запрашивать это согласие. Президент Microsoft также предлагает обдумать, должно ли быть у пользователя право знать, какие его фотографии были собраны и хранятся в базе, и в каком правовом порядке пользователь может опротестовать результаты распознавания, если он полагает, что система допустила ошибку.

Смит предлагает Конгрессу — парламенту США — создать экспертную комиссию, куда войдут представители обеих партий и которая займется разработкой таких регулировок.