Краткое содержание:

В исследовании, проведенном учеными в Гарварде и Массачусетском технологическом институте, было обнаружено, что Китай возглавляет мир в экспорте технологии распознавания лица. У китайских компаний есть 201 экспортные сделки, связанные с признанием лица, в то время как американские фирмы имеют 128 сделок. Это вызвало обеспокоенность среди экспертов, что экспорт этой технологии может позволить правительствам выполнять больше наблюдения, потенциально нарушая права человека граждан. В отчете также подчеркивается лидерство Китая в экспорте искусственного интеллекта (ИИ), 250 из 1636 сделок, связанных с некоторой формой ИИ. США являются вторым по величине экспортером как по распознаванию лица, так и в технологии искусственного интеллекта.

Ключевые моменты:

1. Китай является мировым лидером в области экспорта технологий распознавания лица, за которой следует США.

2. Китайские компании также возглавляют экспорт искусственного интеллекта.

3. Экспорт технологии распознавания лица может привести к увеличению наблюдения и потенциальных нарушений прав человека.

4. Технология распознавания лица имеет различные практические применения.

5. Исследователи MIT-Harvard сосредоточились на технологии Smart City, где распознавание лица часто используется для видеоролика.

6. США выразили обеспокоенность по поводу того, что Китай получает преимущество в технологии ИИ.

7. Правительство США наложило ограничения на китайские технологии, включая технологию Huawei 5G.

8. Усилия по ограничению экспорта признания лица со стороны Китая могут включать в себя санкции на импорт странах.

9. США должны регулировать использование распознавания лиц и показать пример для других стран.

10. Китайские компании доминируют в технологии признания лица из -за государственных связей и финансирования.

Вопросы:

1. Как Китай сравнивается с США в экспорте технологии распознавания лица?

Китай является мировым лидером в экспорте технологии распознавания лица, с 201 экспортными сделками, в то время как в США есть 128 сделок.

2. Каковы проблемы, поднятые экспертами по поводу экспорта технологии распознавания лица?

Эксперты обеспокоены тем, что экспорт технологии распознавания лица может позволить правительствам выполнять больше наблюдения, потенциально нарушая права человека граждан.

3. Каковы некоторые практические применения технологии распознавания лица?

Технология распознавания лица может использоваться для разблокировки смартфонов, предоставления аутентификации в приложениях и выявления друзей в сообщениях в социальных сетях.

4. В чем в центре внимания исследования исследователей MIT-Harvard?

Исследователи сосредоточились на технологии Smart City, где часто используется распознавание лица, чтобы улучшить видео наблюдения.

5. Что касается США, выразившихся о Китае с точки зрения технологии искусственного интеллекта?

США выразили обеспокоенность по поводу того, что Китай получает преимущество в технологии ИИ.

6. Какие ограничения наложено правительство США на китайские технологии?

Правительство США ввело ограничения на использование технологии 5G Huawei и нацеливалось на китайские фирмы ИИ с помощью чип -эмбарго.

7. Какие меры могут быть приняты для ограничения экспорта технологии распознавания лица из Китая?

Одной из возможных мер может быть введение санкций в отношении стран, которые импортируют технологию. США могут также регулировать использование распознавания лица внутри страны и предложить альтернативы китайским технологиям за рубежом.

8. Какова проблема в том, что США являются вторым по величине экспортером технологии распознавания лица?

Существует опасение, что США, являющиеся основным экспортером технологий распознавания лица, подрывает идею о том, что американские технологии естественным образом воплощают ценности свободы и демократии.

9. Существуют ли национальные стандарты в США, ограничивающие использование признания лица?

Нет, нет никаких национальных стандартов, ограничивающих или ограничивающие использование распознавания лиц в США, хотя некоторые города имеют ограничения на его использование.

10. Как может успех в США в целях экспорта технологии распознавания лица?

.

11. Почему китайские компании приходят доминировать в технологии распознавания лица?

Одной из причин является их связи с государственными организациями, которые обеспечивают большое количество фотографий и значительное финансирование для разработки технологии.

12. Какова была позиция Конгресса США по ограничению технологии распознавания лиц?

Перспективы конгресса США, согласных с значимыми ограничениями для технологий распознавания лиц, невелики.

. В чем беспокойство относительно ценностей, воплощенных в американских технологиях?

Существует опасение, что американская технология, несмотря на то, что является основным экспортером технологий распознавания лица, не обязательно воплощать ценности свободы и демократии.

14. Каковы обвинения против американских компаний, такие как ClearView AI?

Группы Гражданских свобод утверждают, что ClearView AI и аналогичные американские компании вторгаются.

15. Что было предложено как лучший способ для США противостоять успеху Китая в экспорте признания лица?

Регулирование использования распознавания лиц внутри страны и предложение альтернативных технологий для китайского экспорта было предложено в качестве лучших способов для США для противодействия Китаю успеха.

Признание лица и за его пределами: журналисты Ventures в штате наблюдения Китая в Китае

(Обратите внимание: Таиланд находится в процессе введения закона о защите данных, который обеспечит четкое согласие при использовании конфиденциальных данных (включая биометрические данные), но текущие задержки делают это неясным в настоящее время).

Китай – мир’Самый большой дилер по признанию лица

. Вторым по величине экспортером является США.

Сохранить историю

Сохранить историю

. Строительство высокотехнологичного мегаполиса еще не началось, но если оно будет продолжаться, оно может включать программное обеспечение для распознавания лица, которое может использовать общедоступные камеры для идентификации пропавших лиц или отслеживания преступников в толпе-способности уже стандартны во многих китайских городах.

Проект входит в число тех, кто делает Китай мировым лидером в экспорте признания лица, согласно исследованию, проведенному учеными в Гарварде и Массачусетском технологическом институте, опубликованном на прошлой неделе The Brookings Institution, выдающимся аналитическим центром.

. Китай также имеет лидерство в ИИ, как правило, 250 из 1636 экспортных сделок с участием некоторой формы ИИ до 136 стран импорта. Вторым по величине экспортером были США, с 215 сделками с ИИ.

В докладе утверждается, что эти экспорты могут позволить другим правительствам выполнять больше наблюдения, потенциально наносит ущерб гражданам’ . “,” говорит Мартин Бераджа, экономист из Массачусетского технологического института, вовлеченный в исследование, чья работа сосредоточена на взаимосвязи между новыми технологиями, такими как ИИ, государственная политика и макроэкономика.

Технология распознавания лица имеет многочисленные практические приложения, в том числе разблокировка смартфонов, предоставление аутентификации в приложениях и поиск друзей в сообщениях в социальных сетях. Исследователи MIT-Harvard сосредоточились на сделках, связанных с так называемыми технологиями Smart City, где часто развертывается распознавание лица для улучшения видеонаблюдения. В исследовании использовалась информация о глобальных проектах наблюдения за фондом Carnegie для международного мира и данных, соскребных из китайских компаний искусственного интеллекта.

В последние годы законодатели и президенты США выразили обеспокоенность тем, что Китай набирает преимущество над США в технологии искусственного интеллекта. Отчет, по -видимому, дает убедительные доказательства одной области, где этот сдвиг уже произошел.

Самый популярный

Google не делает’Не нужно, чтобы вы купили его складной телефон

Бун Эшворт

Легенда о Зельде: слезы королевства Это эволюция

Уилл Бедингфилд

Ты’

Стивен Леви

13 лучших электрических велосипедов для любой поездки

“Он поддерживает случай, почему мы должны устанавливать параметры вокруг этого типа технологий,” говорит Александра Сеймур, сотрудник Центра новой американской безопасности, которая изучает политические последствия ИИ.

Растет двухпартийный интерес к США к ограничению китайских технологий по всему миру. При президенте Трампе правительство США наложило правила, предназначенные для ограничения использования Huawei’Технология S 5G в США и в других местах и ​​нацелена на Китай’S AI фирмы с чип -эмбарго. Администрация Байдена взимала более широкую блокаду чипов, которая предотвращает доступ к китайским компаниям, получающим доходные чипы или технологию производства полупроводников, и установила санкции на китайских провайдеров распознавания лица, используемых для мониторинга мусульман Уйгура.

Ищите нашу базу данных искусственного интеллекта и открыть истории по сектору, технологии, компании и многое другое.

Дальнейшие усилия по ограничению экспорта признания лица со стороны Китая, возможно, могут принять форму санкций в отношении стран, которые импортируют технологию, говорит Сеймур. Но она добавляет, что США также должны показать пример для остального мира с точки зрения регулирования использования признания лиц.

’Второй по величине экспортер технологических рисков для распознавания лица подрывает эту идею – подготовлена ​​правительством США – которые, естественно, воплощают в себя ценности свободы и демократии.

Использование распознавания лица растет среди полицейских управлений США, и, хотя некоторые города накладывают ограничения на использование технологии, национальных стандартов не ограничивает или ограничивая ее использование. Некоторые американские компании, такие как ClearView AI, разработали и экспортируют инструменты распознавания лиц, которые могут соединить изображение камеры наблюдения человека с их онлайн -личностями, что, как утверждают группы гражданских свобод, Invade Citizen’S Конфиденциальность без юридического оправдания.

’Успех в экспорте распознавания лица может состоять в том, чтобы регулировать его использование дома, а затем предложить альтернативы китайской технологии за рубежом. “Разговор о ценностях поможет сформировать некоторые ограничения, которые необходимо установить на эти технологии,” она говорит. Но перспективы конгресса США соглашаются на значимые ограничения на технологии, выглядят стройными.

Китайские компании стали доминировать в технологии признания лица отчасти из -за связей с государственными организациями, которые могут предоставить огромное количество фотографий, а также значительное финансирование для этой технологии’S разработка. В статье, опубликованной в ноябре 2021 года, Beraja и его соавторы утверждали, что инновации в развитии AI распознавания лица могут процветать в автократии из -за тесного согласования между технологиями и государственными целями.

Контроль распространения неприятного использования распознавания лица может быть затруднено, потому что та же технология может иметь гораздо более доброкачественное использование.

И Дэвид Ян, один из бераджи’Соавторы S и экономист Гарвардского университета говорит, что недавние движения США по содержанию китайских технологий больше сосредоточены на предотвращении развития новых возможностей, а не ограничивая передачу существующих. “Китай уже разработал комплексный набор технологий AI наблюдения, который он может продать,” он говорит. “Недавние ограничения ничего не делают, чтобы изменить это.”

Сеймур Центра новой американской безопасности говорит, что другие новые области ИИ также могут быть разработаны в новые мощные инструменты наблюдения.

Распознавание лица было одним из первых практических применений для ИИ появиться после значительно улучшенных алгоритмов обработки изображений с использованием искусственных нейронных сетей, возникших в начале 2010 -х годов. Она предполагает, что крупные языковые модели, которые вызвали волнение вокруг умных разговорных инструментов, таких как CHATGPT, могут следовать аналогично.

Признание лица и за его пределами: журналисты Ventures внутри Китайского «государства наблюдения»

Камеры безопасности и технология распознавания лиц в Китае растут. В 2018 году, Люди ежедневно, Медиа-мундштук правящей коммунистической партии Китая, заявил на английском языке в Твиттере, что система распознавания лица страны способна сканировать лица 1 Китая 1.4 миллиарда граждан всего за одну секунду.

Немецкий журналист Кай Стриттматтер говорит на мандаринском языке и изучает Китай более 30 лет. Он говорит, что неясно, способно ли китайское правительство использовать программное обеспечение для распознавания лиц, так как оно утверждает. Но он добавляет на определенном уровне, достоверность претензии не важна.

«Это даже не имеет значения, правда это или нет, пока люди в это верят», – говорит он. “Коммунистическая партия делает со всей этой технологией высокотехнологичного наблюдения, что они пытаются усваивать контроль. . Как только вы считаете, что это правда, как будто вам больше не нужны полицейские на углу, потому что вы становитесь вашим собственным полицейским.”

Новая книга Strittmatter, Мы были гармонизированы: жизнь в китайском государстве наблюдения, Изучает роль наблюдения в авторитарном государстве Китая. Он предупреждает, что президент Китая Си Цзиньпин, который пришел к власти в 2012 году, принял идеологическую жесткость, неизвестную со времен Мао Цзэдонга.

«Большинство людей, с которыми я разговаривал, даже члены партии и люди внутри партийных учреждений, они думали, что, возможно, Си Цзиньпин начнется с реформ больше в либеральном виде», – говорит Стриттмэттер. “Все были полностью удивлены тем, как это получилось. . Это действительно новый вид режима и утверждение, которого мы раньше не видели.”

Strittmatter говорит, что китайское государство накопило удивительное количество данных о своих гражданах, которые он использует для наказания людей даже за незначительные отклонения от ожидаемых норм.

Параллели

Признание лица в Китае является крупным бизнесом, поскольку местные органы власти повышают надзор

“Люди иногда спрашивают меня:« Нужно ли мы бояться Китая?” Strittmatter говорит. “Мой ответ действительно, в конце концов, нам не нужно бояться Китая. Что нам нужно бояться – если нам нужно что -то бояться – на самом деле мы сами. Это наш фатализм, наша отставка. Нам нужно встать, и нам нужно бороться за наши ценности и за нашу систему, потому что я верю, что это все еще лучшее, что у нас есть.”

Основные моменты интервью

О том, что Китай стал лидером в области искусственного интеллекта и сбора данных

С одной стороны, у вас есть парень [xi], который вносит репрессию в масштабе, который мы не видели со времен Мао Цзэдуна. .

Это одна из замечательных вещей, верно? Я имею в виду, что эти технологические пророки сказали нам в течение стольких лет и десятилетий, что каждый вид новых технологий на самом деле будет служить причину свободы и подрывает и подрывает авторитарное правило. Ну, китайцы, они уже показали нам . Более 20 лет, что они не только не боятся этих новых технологий, но и напротив, они полюбили их. .

Коммунистическая партия не считает эти новые технологии как опасность для их правления. Напротив, они обнаружили или думают, что на самом деле эти новые технологии дают им новые инструменты, которые совершенствуют их правило.

Коммунистическая партия не считает эти новые технологии как опасность для их правления. Напротив, они обнаружили или думают, что на самом деле эти новые технологии дают им новые инструменты, которые усовершенствуют их правило, и это сделает их правление кризисными, и теперь это то же самое с искусственным интеллектом и большими данными.

О том, как широко распространенное использование приложения WeChat позволяет китайскому государству контролировать граждан

На каждом китайском мобильном телефоне есть это приложение, которое называется WeChat. . Это началось как обычная программа чата, такую ​​как WhatsApp, но очень скоро она превратилась в своего рода китайский Facebook. Тогда это стало китайским Uber. Вы можете получить кредит, вы можете подать заявку на кредит в свой банк с ним. Вы можете использовать его в качестве идентификатора. Вы можете подать документы о разводе через это приложение в местный суд, и вы можете выполнить все свои финансовые операции через это приложение. И это работает с штрих -кодами. И они уже давно используют эти штрих -коды.

Никто в Китае не использует кредитные карты. . Все делают все со своими мобильными телефонами. И поэтому вы дойдете до того, что даже уличные нищие используют их, и они скажут вам: «Это так удобно.”Но в то же время это также удивительно удобно для государственной безопасности. И каждая из ваших транзакций на самом деле окажется на одном из серверов.

О том, как китайские граждане чувствуют присутствие государства через WeChat

Süddeutsche Zeitung, . Lasse Bech Martinussen/HarperCollins скрыть подпись

Переключатель заголовки

Lasse Bech Martinussen/HarperCollins

Süddeutsche Zeitung, одна из крупнейших газет в Германии.

Lasse Bech Martinussen/HarperCollins

Китайские граждане, они привыкли к этому, они чувствуют присутствие государства, они чувствовали присутствие государства на всю свою жизнь. Вы понимаете, что иногда, когда некоторые из ваших текстов подвергаются цензуре, внезапно слова или предложения отсутствуют . И они никогда не достигают другой вечеринки, или вы на самом деле не получаете часть разговора, которую вам отправляют ваши друзья. Это похоже на то, что много китайского опыта. .

Технологии

Китай перехватывает тексты WeChat от u.С. И за границей, говорят исследователи

У меня были некоторые друзья [которые интересовались политикой], и я видел, как двое из них были арестованы из -за их записей о WeChat, потому что они на самом деле были на WeChat, согласились с другими людьми, с друзьями, чтобы пойти в поэзию, где поэт в Пекине должен был читать некоторые стихи, поддерживающие студенты в Гонконге в борьбе за демократию. И они никогда не добрались до чтения поэзии. Они были арестованы по дороге. И это было явно из -за их разговоров о WeChat.

На системе точек граждане есть в городе Ронгенг, в котором они получают очки за добрые дела и получают составы за нечестные поступки

. Каждый гражданин Ронгченга начинается с балла 1000 баллов. . Вы можете получить больше очков, делая действительно хорошие вещи для общества, и вы можете упасть. . Если у вас более 1050 баллов, вы можете быть гражданином AAA, а затем вы станете гражданином АА, если вы упадете ниже, а C и D. Если вы гражданин D, вы на самом деле нечестны, и у вас меньше 599 очков. .

Они говорят, что хотят создать честного гражданина, заслуживающего доверия гражданина, и они хотят наказать прокаты доверия. Так, например, вы можете заработать очки, если вы пожертвуете кровь или костном мозг или если вы даете уроки детям соседа, которые им нужны для школы. Я отправился в район, где одна женщина получила пять очков, потому что она фактически предоставила одну из своих подвальных комнат для местного хора, который пел революционные песни. .

GitHub стал убежищем для цензурных интернет -пользователей Китая

В то же время, вы наказаны за то, что вы не должны делать, и вы можете быть наказаны за Jaywalking. Вы можете быть наказаны за загрузку пиратских вещей. Вы можете быть наказаны за то, что она позволила своей собаке [какашка] на газоне перед окрестностями, за все эти виды вещей. Многие из этих вещей были бы на самом деле действия, что мы также считаем, что они не являются хорошими действиями и, возможно, достойны наказания. Но, конечно, тогда это идет намного дальше, и это также становится политическим. И вы также можете наказать, потому что вы подвергаете опасности социальную гармонию в Интернете, например,.

При потенциальных последствиях, если ваш счет падает слишком низко в точечной системе

На самом деле мы должны сказать, что они представляют систему шаг за шагом. . Но одна вещь уже общенациональная, и это система черных списков. Если у вас в черном списке, потому что ваш социальный кредит снижен, то на самом деле вы уже санкционированы. Например, вам больше не разрешено взять самолет. Вы больше не можете купить билеты на самолет. . Вам больше не разрешено, например, в дорогих отелях. Вашим детям больше не разрешается ходить в дорогие хорошие школы и тому подобное. И это то, что уже происходит. Это одна часть уже активной системы. В 2018 году из -за системы было запрещено провести более 17 миллионов человек.

О том, как города будут реализовать публичный позор

У вас есть эти рекламные системы и камеры и камеры искусственного интеллекта, когда вы Jaywalk, все еще, пока вы еще находитесь в середине дороги, ваше лицо появляется на огромном рекламном щите для всех, чтобы увидеть.

В Шэньчжэне, например, на юге или в Шеньяне, на северо -востоке у вас есть эти рекламные системы и камеры и камеры искусственного интеллекта, когда вы Jaywalk, все еще пока вы находитесь в середине дороги, ваше лицо появляется на огромном рекламном щите для всех. . . Но все дело в том, «мы знаем, кто ты. Это ты, и ты на самом деле причиняешь боль обществу прямо сейчас.”Так общественный стыд – это большая часть этого.

На общественное мнение об этих системах

В Китае новый вызов для защиты конфиденциальности данных

Один урок, который я усвоил, это то, что пропаганда работает, цензура. Это действительно работает. И люди на самом деле верят многим вещам, которые они слышат, потому что у них нет никакой другой информации. Кроме того, потому что нет публичных дебатов по многим из этих вещей. Нет традиций общественных дебатов о конфиденциальности, защите данных и подобных вещах, и аргументы правительства в основном дважды: один . удобство. Это делает вашу жизнь такой удобной. И второе – . это делает нашу жизнь безопаснее. Это особенно то, что они используют для распознавания лиц и камер, и мы фактически делаем вашу жизнь безопасной и безопасной. И вы можете пройти через город, вы можете оставить свою сумочку сейчас в автобусе и в поезде метро, ​​и никто не осмелится взять ее, и они правы, вероятно,. .

Сэм Бригер и Сет Келли продюсировали и отредактировали это интервью для трансляции. Бриджит Бентц и Молли Сиви-Неспер адаптировали его для Интернета.

Китай теперь позволяет гражданам отказаться от признания частного лица. Делает вашу страну?

Это’не секрет, что Китай’S Использование технологии распознавания лиц (FRT) является наиболее инвазивным в мире. В нашем недавнем анализе того, как 100 стран используют FRT, Китай получил наихудший балл с наиболее распространенным использованием этой технологии.

Но в недавнем изюминке Китай’S Верховный суд предоставил гражданам право отказаться от использования от частных предприятий, включая банки, отели и ночные клубы. “не мог’,” гарантирует, что информированное, согласие с выбором получено от частных предприятий, которые хотят использовать FRT.

Это делает это знаковым случаем, Размещение в Китае и плечах выше, как Соединенные Штаты, Великобритания, Канада и Австралия, когда дело доходит до защиты граждан’ .

Это не только выдающийся случай, потому что он исходит из страны, которая’S, известный игнорированием граждан’ Конфиденциальность, но он помещает Китай в элитную (и невероятно небольшую) группу стран, в которых есть конкретные решения/законодательные акты, связанные с использованием FRT для частных предприятий. В то время как FRT растет по экспоненциальным темпам, многие страны не в состоянии не отставать от этого законодательства. Таким образом, даже несмотря на то, что определенная защита конфиденциальности может быть предоставлена ​​через таких, как GDPR, отсутствие конкретного и явного законодательства о использовании распознавания лица означает, что есть пробелы и лазейки, которые можно использовать.

’Новое решение выступает против других стран, мы изучили 25 лучших стран (в соответствии с ВВП), чтобы увидеть, что, если таковые имеются, законодательство/судебные решения есть.

(Обратите внимание: Таиланд находится в процессе введения закона о защите данных, который обеспечит четкое согласие при использовании конфиденциальных данных (включая биометрические данные), но текущие задержки делают это неясным в настоящее время).

Китай – лишь одна из шести стран, которая управляет FRT в частном бизнесе

Из 25 стран, которые мы рассмотрели, только шесть стран имеют явные законы/постановления о использовании FRT в частных условиях. Это Китай, Бразилия, Испания, Нидерланды, Швеция и Бельгия. Бельгия категорически запрещает использование FRT, в то время как Испания сильно ограничивает свое использование (в целом она не имеет правовой основы, кроме как в экстремальных обстоятельствах, E.г. . Остальное правило о том, что явное согласие требуется (информированное, согласие с выбором). Но в Швеции’Случай, это требуется только в том случае, если технология используется для идентификации людей. Если он используется анонимизированным образом (в нем используется случай, когда модели движения посетителей контролировались, но изображения лица хранились/проанализировались), согласие является’Т обязательно. Это делает Швецию’S Решение меньше защиты от конфиденциальности, чем другие в этой категории.

Франция и Германия также имеют некоторое руководство от своих соответствующих органов по защите данных, постановив, что информированное согласие.

В отличие от этого, семь стран не могут обеспечить адекватную защиту для граждан, когда дело доходит до FRT, не имея четких законов и не требуя согласия. Это Соединенные Штаты, Саудовская Аравия, Таиланд, Тайвань, Индонезия, Канада и Индия.

В Соединенных Штатах только несколько штатов/городов запретили FRT (включая Мэн, Массачусетс и города Миннеаполис и Сан -Франциско), но без федерального решения или рекомендаций по его использованию, это оставляет каждое государство свободным для управления на FRT по своему желанию. В Канаде в настоящее время можно собирать и делиться изображениями лица в целях идентификации без согласия. Закон о конфиденциальности также не включает или определяет лицевую и биометрическую информацию.

Некоторые другие страны попадают между двумя крайностями, отмеченными выше, с общим законодательством/руководством по защите данных, которые могут помочь ограничить использование FRT в частных условиях. Например, законы и рекомендации ЕС могут вступить в силу в Швейцарии, Германии, Польше и Италии, обеспечивая информированное согласие, согласие. Но поскольку местное законодательство не может интерпретировать/обеспечивать соблюдение этих действий, в этих областях не хватает ясности.

Еще шесть стран требуется информированное, отказанное согласие, что означает, что знак, демонстрирующий использование FRT, например, в магазине, может быть достаточно, может быть достаточным. Это относится в Мексике, Японии, Турции, Южной Корее, Австралии и Великобритании.

Например, в Австралии сеть магазинов магазинов, 7-Eleven, запустила распознавание лица во всех 700 своих магазинах, чтобы подтвердить рейтинги в своем приложении. Знак, который гласит: “Сайт находится под постоянным видеороликом. Вступив в магазин, вы соглашаетесь с камерами распознавания лиц, захватывая и хранение вашего изображения” был признан достаточно адекватным магазином’S адвокаты. Но в Великобритании, казалось бы, более инвазивное использование технологии было реализовано в супермаркете кооператива. . Система, FaceWatch, сканирует покупателей’ лицом к базе данных подозреваемых, представляющих интерес. Если кто -то есть “признан” . Компания заявила, что существуют четкие признаки, чтобы соблюдать соответствующее законодательство.

Как предприятия получают информированное согласие?

Приведенные выше примеры, скорее всего, считаются самым простым и ясным способом получить людей’. Знак у входа в дверь предупреждает посетителей используемой технологии и, если они вступают в знания о том, что FRT на месте, они дают свое согласие.

Тем не менее, это проинформировано, согласие отказа (посетитель ISN’T, явно давая свое согласие с помощью подписанного документа, переданного им на планшете, прежде чем они войдут в магазин), и поставляется с большим количеством проблем с конфиденциальностью.

Во -первых, знаки могут быть в ясном взгляде на людей, въезжающих в магазин, но добавьте толпу, занятую улицу, люди спешат выполнять поручения, и может ли гарантироваться, что каждый посетитель видел или остановился, чтобы прочитать знак? Нет.

Во -вторых, технология может быть установлена ​​на входах в магазин. Так что, если клиент подходит к магазину, замечает знак, не’T согласие и уходит, их имидж, возможно, уже был запечатлен.

В -третьих, магазин не’T даю клиентам вариант. Если они хотят использовать магазин, они должны согласиться. “свободно” “явно” Учитывая элемент, который требуют некоторые законы, когда дело доходит до согласия.

Комплексные процессы должны пройти через согласие, возможно, поэтому в странах с строгими информированными требованиями согласия есть несколько примеров. Необходимость заставить всех клиентов подписать форму согласия для входа в магазин будет трудоемким, дорогим и, возможно, отключенным. И это’S до них’В.Е. даже обратился к тому, что произойдет, если посетитель отказался от своего согласия (как бы они удалили свое изображение из камер, сохраняя при этом изображения тех, кто’я согласен?).

Но в странах с более расслабленными законами и где согласие отказа считается достаточно адекватным, FRT в общественных местах, и особенно в супермаркетах, по-видимому, растет с тревожной скоростью.

По сути, по закону требуя информированного согласия, страны, страны строго ограничивают использование FRT в частных условиях, в то же время значительно поддерживая граждан’ Защита конфиденциальности. И тот факт, что Китай сейчас находится на переднем крае этих защит, должен быть явным признаком для всех других стран, использующих FRT’Т такими мерами они должны действовать – быстрая.

Методология

Используя 25 лучших стран в соответствии с ВВП, мы искали соответствующее законодательство и решения, связанные с использованием технологии распознавания лиц в частных условиях. . Это не было описано в этом исследовании.

Кроме того, многие страны имеют положения в своем законодательстве, которые дают правительствам и правоохранительным органам право использовать FRT в случаях общественной безопасности и других подобных обстоятельств. В этих типах случаев государственные учреждения могут быть в состоянии отменить требования к конфиденциальности в частных предприятиях, если они могут доказать, что это в интересах общественной безопасности. .

Для получения полного списка источников и законодательства, пожалуйста, посетите здесь.

Исследователь данных: Ребекка Муди

Что в этой статье?

• Китай – лишь одна из шести стран, которая управляет FRT в частном бизнесе
• ?
• Методология

Общественные дебаты по технологиям распознавания лиц в Китае

Китай’. Большая часть внимания была сосредоточена на применении этих технологий в государственных системах безопасности и.

Тристан Г. Браун, Александр Статман и Селин Суй

Опубликовано 10 августа 2021 года

последний выпущен

2 года назад

Показать детали

Абстрактный

’S Ascent на мировой сцене в области искусственного интеллекта (ИИ) и распознавания лиц широко известно в стипендии и средствах массовой информации Западного языка. Большая часть внимания была сосредоточена на применении этих технологий в системах государственной безопасности и их геополитических последствиях. Здесь мы стремимся изучить частное и внутреннее использование признания лиц. Какая динамика информирует популярные дебаты об использовании и приложениях этих технологий в Китае и как они вписываются в более глобальную картину? Мы представляем серию случаев за последние три года, когда программное обеспечение для распознавания лиц привлекло внимание средств массовой информации в юридических, коммерческих и образовательных условиях. Признание того, что Китай слишком велик и разнообразен, потому что в игре только одна динамика, мы предлагаем, чтобы, хотя дебаты о признании лиц действительно стали более распространенными, все еще существует широкая общественная поддержка для использования, которые обещают повысить безопасность или удобство. Состояние было избирательно восприимчиво к ограниченной критике, но обычно сохраняет свою активную роль в формировании контуров общественного обсуждения.

Ключевые слова: Признание лица, китайское право, социальные сети

. Коричневый
История факультета, Массачусетский технологический институт

Александр Статмен
Юридическая школа, Калифорнийский университет, Лос -Анджелес

Селин Суй
Кафедра истории науки, медицины и технологий, Университет Джона Хопкинса

• Знакомство с студентами с разнообразием способов, которыми распознавание лиц обсуждается в глобальном контексте, особенно вокруг обсуждений “выгодный” и “вредный” Использование технологий.
• Привлечение Китая в разговор о технологиях и этике для студентов, чтобы они понимали, что’S в целом схож между Китаем’’S разные.
• Поощрение студентов рассматривать напряженность между этикой и законом посредством случая технологии распознавания лиц.
• Заставлять студентов думать об обстоятельствах, при которых публика отмечает и озвучивает озабоченность против определенных технологий, а также о рисках и вознаграждениях участия в дебатах, окружающих их.
• Позволяя студентам критически изучить роль, которую правительства могут сыграть в формировании повествований о этических последствиях развертывания новых технологий как государственными, так и частными субъектами.

Введение

В январе 2021 года результаты опроса о распознавании лиц появились на новостном сайте китайского языка Beijing News. Опрос показал, что из 1515 анонимных респондентов в анкету более 87 процентов выступили против использования технологии распознавания лиц для платежей в коммерческих условиях, таких как торговые центры и розничные улицы, ссылаясь в качестве основной причины их недостатка в частных компаниях, которые поставляли Алгоритмы распознавания лица и признание лиц. Англоязычные статьи, охватывающие опрос’S Результаты вскоре последовали, с одним названием “Распознавание лица используется в Китае для всего, от коллекции отказа от диспенсаторов туалетных рулонов, а его граждане все больше встревожены, показывают, что обследование показывает.” 1 Аналогичный опрос 2019 года, охватывающий 6 152 респондента, показало, что приблизительно 80 процентов респондентов были обеспокоены защитой личных данных в отношении распознавания лица. Результаты этого опроса также были зарегистрированы в англоязычных средах и с аналогичными выводами (например: “Обследование Китая показывает высокую обеспокоенность по поводу злоупотребления распознаванием лица”). 2

Читатель, следуя по СМИ на английском языке, может разумно предположить, что результаты этих мелких исследований свидетельствуют о растущей заботе в Китае по поводу “Государство наблюдения.” . Наша цель состоит в том, чтобы определить случаи публичных дебатов о признании лиц в Китае и предложить некоторые предварительные наблюдения о контекстах, в которых оно происходит, и о том, как государство реагирует. Мы также стремимся разместить эти анализы в более широком глобальном контексте, чтобы помочь осветить то, что есть, а что не соответствует китайскому делу.

Технологии распознавания лица в Китае были приняты не только государственными учреждениями, но и широким спектром частных предприятий. . . С другой стороны, проблемы с большей вероятностью возникают, когда коммерческие компании развернуты в отношении признания лиц таким образом, чтобы они воспринимались непосредственно у отдельных лиц’ повседневная жизнь, не сэкономив им время и не увеличивая их безопасность. Действительно, один комментатор назвал корпоративный сбор биометрических данных в Китае “бесплатно для всех.” 4 Важное предостережение получено из -за предвзятости источника: дебаты, которым разрешено оставаться в Интернете, могут соответствовать центральному правительству’. Тем не менее, этот факт сам по себе является значительным, потому что он показывает, как государство контролирует повествование о технологиях распознавания лиц, позволяя ограничить протест и инакомыслие.

В Китае, как и в других странах, различные правовые стандарты применяются к государственному и частному использованию признания лиц. . По сравнению с Соединенными Штатами существует относительно более слабая система законов о конфиденциальности, защищающая граждан от полицейских расследований и уголовно -процессуальных законов, регулирующих действия правоохранительных органов. 5 Полиция обязана сохранить личную информацию, включая биометрическую информацию, конфиденциальную, но ограничения на то, как они собирают или используют ее внутри. . Тем не менее, роль частных организаций совпадает с государством по -разному. Их использование технологии распознавания лиц, как правило, принимается больше всего, когда оно вносит свой вклад в два государственных приоритета, широко распространенные как законные: повышенная безопасность и общее удобство.

Центральной темой внутренних китайских СМИ является общественная безопасность на местном уровне. С частыми сообщениями о массовых расстрелах в Соединенных Штатах, политической суматохе в других местах и ​​глобальном распространении Covid-19, не редко встречается мнение, что Китай “самая безопасная страна в мире.” ’Официальная статистика преступности, можно с уверенностью сказать, что это сосредоточено на “общественная безопасность” стал особенно важной частью национального повествования под руководством Си Цзиньпина. Широко распространенное развертывание технологий распознавания лиц органами общественной безопасности в стране фактически связано с официальными директивами по повышению общественной безопасности.

Развертывание технологий распознавания лиц также было сформулировано и понято как улучшение удобства пользователей, особенно в случае безналичных платежей, которые сегодня повсеместно распространены в Китае. . В Соединенных Штатах после террористических атак 11 сентября увеличение меры безопасности часто приводило к неудобствам для пассажиров, путешествующих в аэропортах или посещении крупных мест. Что -то подобное существует в Китае, где контрольно -пропускные пункты безопасности распространены в системах метро и систем поездов. Поскольку технология распознавания лиц может сделать проверку безопасности как быстрее, так и более тщательными, эти правительственные использование технологии распознавания лиц иногда упоминаются как растущая безопасность и удобство в то же время, что является мощной повествовательной дугой, чтобы способствовать поддержке его принятия.

Развитие и регулирование распознавания лиц в Китае и за его пределами

Разработка технологий распознавания лиц в Китае следовала по пути от ранних пионеров, посредством государственной поддержки новых прорывов, до полного национального развертывания. В 1980 -х и 1990 -х годах многие из нынешних лидеров в отрасли, такие как Tang Siao’OU 汤晓鸥, который получил докторскую степень от MIT в 1996 году, закончила свои степени за границу, прежде чем вернуться, чтобы заложить основу для улучшения существующих моделей, а затем технологические прорывы. 7 Еще в 1989 году Министерство государственной безопасности поручило Su Guangda 苏光大, профессору электротехники Университета Цинхуа, предпринять исследовательский проект под названием The “Комбинированная система компьютерного портрета.” После многих лет академического труда, SU’Интегрированная система распознавания лица была протестирована на национальном уровне в 2005 году, с первой базой данных лица, содержащей более десяти миллионов лиц, завершенных на Олимпийских играх Пекина 2008 года. 8

2014 год ознаменовал значительные достижения в области технологий распознавания лиц во всем мире. В марте того же года Facebook объявил, что его алгоритм Deepface, который впервые интегрировал глубокое обучение с проверкой лица для выявления людей в цифровых изображениях, достиг показателя рекордов 97.35 процентов на маркированных лицах в диком этапе. 9 в том же году, Тан Сяо’OU 汤晓鸥 возглавлял исследовательскую группу в китайском университете Гонконга, чтобы превзойти Facebook’S запись с точностью 98.52 процента, отметив первый раз, когда искусственный интеллект (ИИ) превзошел производительность на уровне человека. 10 В октябре 2014 года TANG монетизировал алгоритмы, основанные Sensetime, который стал миром’Самая ценная компания искусственного интеллекта в конце 2010 -х годов. 11

. По всей стране появилась сложная картина с крупными частными капитальными инвестициями в стартапы искусственного интеллекта, развитие технической инфраструктуры, которая поддерживает сбор массовых данных, широкое использование распознавания лица в общественном и коммерческом секторах, и, как известно, государственное развертывание технологии для мониторинга и полицейских этнических групп. В 2016 году Чэнь Квангуо 国 国 был назначен секретарем коммунистической партии автономного региона Синьцзяна Уйгура из его предыдущего поста в Тибете. “Синьцзян -профессиональное образование и учебные центры” В регионе, а также широко распространенное развертывание технологий распознавания лиц в полицию в этом районе. 12 Это использование обычно сгруппируется в государственные отчеты с обсуждениями общественной безопасности. Полная степень неизвестна как для общественности, так и для академических наблюдателей.

Несмотря на то, что в Китае в Китае еще нет закона, в котором конкретно регулируется использование признания лиц, в Китайском законодательстве было приведено множество существующих законов, в том числе гражданский кодекс 2020 года и Закон о кибербезопасности 2017’ данные лица. . Текущий юридический обычай может стать более явным в 2021 году, если недавно предложенное закон, Закон о защите личной информации (PIPL), который касается коммерческого использования технологий признания лиц, принят. 13

Этот предложенный закон будет иметь два важных последствия. Во -первых, это ограничило бы использование сбора данных по распознаванию лиц в коммерческих общественных площадках до обстоятельств, в которых это отвечает интересам “общественная безопасность” как определено государством. Во -вторых, потребовалось бы, чтобы вывеска была установлена, чтобы понять, что такая коллекция происходит, и предотвратить дальнейшее распределение информации без явного согласия. 14 Но есть важные предостережения в каждом положении: границы государственной безопасности являются аморфными, а общественное согласие на такие меры исторически не было трудно достичь. Дополнительный раздел даже накладывает некоторые ограничения на органы государства, которые “не может превышать объем или степень, необходимая для выполнения их установленных законодательных обязанностей и обязанностей”- хотя следует помнить, что определение такого объема и степени остается государством’. 15 В целом, предложенный закон облегчит государству принять личное использование этой технологии, при этом обращаясь к общественности’S опасения по поводу определенных злоупотреблений личных данных. 16

Китай’Использование распознавания лиц – это не просто китайская история. Американские компании участвовали в этических дебатах о Китае’Использование признания лица, когда они пытаются ориентироваться. В 2019 году четыре американских исследователя написали издателю Wiley, чтобы отозвать научную статью, содержащую алгоритмы, которые использовались для отслеживания членов этнической группы Uyghur в Китае. 17 MIT, в частности, подвергается тщательному тщательному тщательному тщательному тщательному тщательному тщательному тщательному тщательству с помощью компаний ИИ, такими как Sensetime и Iflytek, которые якобы развернули такие технологии против этнических меньшинств в Китае. 18 таких случаев доминировали в освещении в западных СМИ Китая’S развертывание распознавания лица; Излишне говорить, что охват в Китае было другим. В то время как западные сообщения в значительной степени подвергают сомнению частные технологические компании, сотрудничающие с китайским государством в целях наблюдения, внутренняя дискуссия Китая часто требует увеличения государственного надзора над частными компаниями. Наша цель состоит не в том, чтобы опровергать, какой акцент является юридически или этически желательным, а скорее познакомить аудиторию с разнообразием способов обсуждения этой технологии в глобальных контекстах.

Одним из предположений, распространенных для сообщений средств массовой информации в западных странах, является то, что Китай’S развертывание распознавания лица уникально является антиутопическим. Тем не менее, юридические и нормативные проблемы, с которыми сталкивается Китай, а также неоднозначности, окружающие их, находятся в абстракте, не отличающихся от Соединенных Штатов или Европы. Например, в Соединенных Штатах некоторые штаты делают незаконным для частных предприятий использовать человека’. Европейский Союз и Европейский экономический район’S Общие правила защиты данных (GDPR), по действительности с мая 2018 года, защищает личные биометрические данные для граждан ЕС как в Европе, так и за рубежом и предотвращает передачу их данных в третью страну. “переход” (не идентифицируемые лично) данные и то, как они распространяются на академические исследования. 19

Основные различия между случаями Китая и США касаются их соответствующих конституционных рамок и, связанных с условиями публичных дебатов,. В Соединенных Штатах законопроект о правах выпекает правовой защиты лица от государства в Конституцию. Общественные дебаты часто отражают эту реальность, как видно из недавних политических споров по поводу паспортов вакцины. Дебаты в Соединенных Штатах также затронули важную проблему расы, особенно в связи с алгоритмической несправедливостью в технологиях распознавания лиц. 20 Это измерение, как правило, отсутствовало во внутренних дискуссиях в Китае, несмотря на использование технологий для групп меньшинств, несмотря на. Кроме того, суды США в некоторой степени независимы от политической системы, что не относится к Китаю. ’Развертывание признания лиц, особенно в контексте общественной безопасности, относительно не было ограничено публичным обсуждением. .

В последние годы в Китае было несколько основных инцидентов, связанных с признанием лиц, которые вызвали значительную внутреннюю дискуссию. Мы продемонстрировали четыре таких случая. Каждый из этих случаев широко обсуждался в государственных средствах массовой информации или в социальных сетях, основанных на государстве, которые являются основными местами для граждан Китая, чтобы получить доступ к новостям и анализу. Таким образом, каждый случай представляет собой противоречие, которое центральное правительство готово поддерживать, если не одобряет. . . Что эти использование и дискуссии в целом предполагают, что некоторые очевидные скептики признания лиц могут фактически выступать за больший контроль и регулирование центрального правительства – не меньше. Это объясняет, почему определенные дискуссии о технологии распознавания лиц воспринимаются серьезно, а чаще всего не решаются правительством.

Примерный исследователь: парк дикой природы

В 2019 году профессор права в Политехническом университете Чжэцзян, Го -Бинг, подал в суд на парк дикой природы Ханчжоу, частный бизнес, расположенный в провинции Чжэцзян, за предположительно нарушение страны’S Закон о защите потребителей, собирая посетителей’ Индивидуальные данные посредством распознавания лица. В прошлые годы профессор Го использовал отпечатки пальцев, чтобы войти в парк’Помещения, но в октябре 2019 года он узнал, что гостям стало обязательным регистрировать, используя организацию’S Система распознавания лица. То есть предприятие перешло в систему распознавания лиц, чтобы записать посетителей, входящих в парк. Следуя широко сообщенному принятию Го’Случай по людям Фуян’Суд в Ханчжоу, суд постановил, что парк должен был вернуть его членский взнос и удалить все данные на лице, включая его первоначальную фотографию – от информационной системы журнала их посетителей. 21 Дополнительное постановление на Го’С деле, опубликованное тем же судом, приказал зоопарку дальнейшее удаление GUO’данные отпечатков пальцев, которые ранее были собраны с его согласия. 22

Господство’Случай S был идентифицирован китайскими внутренними СМИ как “Первый суд, связанный с использованием признания лица в Китае.” 23 Ожидалось, что дело будет зависеть от стандартов личной информационной безопасности, что связано с вопросом о том, действовал ли парк в соответствии с тремя принципами “законность, достоверность и необходимость” Для частной коллекции персональных данных от потребителей. Однако в своем окончательном решении суд в значительной степени обошел эти более широкие вопросы, сосредоточившись на договорных обязательствах и согласии пользователя. Суд просто приказал парку удалить полученную информацию, которая была собрана, в принципе, что парк’S переход от идентификации отпечатков пальцев к распознаванию лиц, который не принял, перевозил существующий договор о обслуживании, представленном его ежегодной членством в парке. 24 Регламентации не запрещали парку собирать данные на лице, хотя парк, по-видимому, перешел на добровольную систему отказа. Суд также отрицал Го’Существенное утверждение о том, что сбор информации о лице без его разрешения представлял собой нарушение трех принципов. Стоит подчеркнуть ограниченные последствия этого единственного случая, в котором не учитывались условия, при которых технология распознавания лиц может быть развернута частными предприятиями. То, что указывало на то, что при определенных обстоятельствах частные стороны должны получить согласие, прежде чем собирать данные распознавания лица.

А “Первый случай распознавания лица” в Китае привлекло значительное внимание китайскому интернету. Это внимание само по себе является значительным, поскольку мы можем предположить из его оставшихся в Интернете, что государство разрешило определенную степень дебатов по этому вопросу, таким образом поднимая внутреннюю общественность’S понимание государства’Наблюдение за защитой данных и согласием пользователя. Вышеупомянутые опросы выявили конкретные общественные опасения по поводу потенциального отсутствия надлежащих договорных процедур при сборе данных лицевых данных частными предприятиями. 25 В этом случае государство, представленное судами, сыграло роль социального защитника, обеспечивая степень защиты потребителей, а затем поощрял более широкий разговор об этом. Хотя юридические эксперты выразили оговорки на юридическое воздействие этого решения, с политической точки зрения была широко распространена поддержка суда’Решение среди гражданских комментаторов, как видно из следующих комментариев на веб -сайте китайских социальных сетей Weibo. (См. Рисунок 1.Таким образом, представляется, что граждане могут быть менее обеспокоены установлением общих юридических условий, при которых могут происходить деятельность по распознаванию лиц. 26

Пример второй: мониторинг студентов

В 2019 году Китайский фармацевтический университет, государственное учреждение высшего образования, расположенное в провинции Цзянсу, в некоторых классных комнатах развернуло систему распознавания лиц, чтобы контролировать посещаемость студентов и успеваемость в классе. Это было довольно обширно и мощно, даже мог обнаружить студентов, дремующих в классе. Последовал местный откат, когда ученики школьного сообщества и другие онлайн -комментаторы выражали скептицизм по поводу предложения. Несмотря на этот откат, университет оставался твердым. Пресс -секретарь оправдал свои планы с неопределенной ссылкой на государственную безопасность, утверждая, что университет представлял собой общественное пространство, в котором было оправдано комплексное наблюдение. ’Действие было ограничено, хотя в равновесии он, похоже, немного больше, с партией, использующей технологию распознавания лиц. Министерство образования в Пекине в конечном итоге отреагировало обещание развернуть такой план с осторожностью, и на момент написания работы система все еще развернулась. 28

Онлайн -откат против меры показал, что оппозиция была особенно сильной для использования распознавания лиц в обстановке в классе. Эти камеры вышли за рамки простого выявления студентов. Они были предназначены скорее как дисциплинарный инструмент для мониторинга поведения студентов, таких как посещаемость класса и эмоции, такие как уровни внимания. Некоторые студенты приравнивали наличие передовых технологий наблюдения в классах к образовательным тюрьмам. Другие комментаторы поставили под сомнение необходимость мониторинга студентов университетов, которые уже продемонстрировали самодисциплина за годы подготовки к Китаю’строгий вступительный экзамен в колледже, Гаокао. Некоторые критиковали идею приоритетов технологий наблюдения за обновлениями в классе. Никто, однако, не выразил широкую критику технологий распознавания лиц как таковых.

Фактически, университет уже имел историю использования программного обеспечения для распознавания лиц, которое было не только неопроверженным, но даже широко популярным. Начиная с 2019 года, системы распознавания лиц были установлены на основных входах, общежитиях и библиотеках для облегченного доступа и безопасности кампуса. Эти меры были получены довольно позитивно студентами, некоторые из которых были облегчены, что забывание их карт доступа в их комнатах в общежитии больше не было причиной беспокойства. Пешеходные транспортные потоки были заметно улучшены. . Новое предложение в фармацевтическом университете Китая было, однако, было уникальным для установки камер в некоторых классных комнатах для мониторинга поведения студентов, и это была конкретная проблема, которая привела к неудовлетворенности студентов и онлайн. 29 (см. Рисунок 2.)

Китайский фармацевтический университет’S Использование распознавания лиц как в классе, так и снаружи, оно затрагивает ряд ключевых тем в центре дискуссий в стране сегодня. Это раскрывает общее принятие и поддержку мер, которые понимаются для повышения безопасности и облегчают удобство. В то же время, это раскрывает степень подозрений в использовании, которые выходят за рамки этих функций. Использование камер в классных комнатах потенциально представило мониторинг студентов’ Индивидуальное поведение, затрагивая нерв в студенческом сообществе, который продолжает обсуждаться в Интернете сегодня. Тем не менее, сторонники тоже ответили, защищая использование распознавания лиц в классах как возможность отслеживать студентов’ обучение. Продолжающееся обсуждение правильных ограничений технологии распознавания лиц, таким образом, продолжается, позволяя разнообразным голосам выражать свои мнения в довольно жестком наборе параметров.

. Нет сомнений в том, что его развертывание в классе может изменить то, чему преподатели учат, и студенты готовы сказать. Действительно, один из популярных комментариев в этом посте действительно касался очень чувствительного понятия “права человека,” подразумевая, что студенты’ Права на конфиденциальность были нарушены путем развертывания технологии. Тот факт, что комментарий не был удален государственными цензорами, также предполагает готовность поддерживать некоторую особенно жесткую критику в конкретном контексте образовательных условий, где государственный контроль уже является твердым и где инвестиции в статус -кво в более широком.

Чтобы мы не создали впечатление, что сбор данных о лице студентов был уникальным для Китая, было несколько случаев сбора больших данных и в американских университетах, а также. Как и в Китае, университеты – с большим количеством учащихся, которые снова и снова появляются в снимках с камеры – заманчивые места для добычи данных лица и экспериментировать с новыми технологиями. . Ученые из Стэнфордского университета и Университета Вашингтона участвовали в актах добычи данных вне кампуса и опубликовали информацию без явного согласия. Хотя большая часть этих данных была удалена в 2019 году после внимания национальных средств массовой информации, академические документы продолжали ссылаться на данные, полученные из коллекций изображений. . В 2020 году студенты Университета Майами обвинили школу’S Администрация использования распознавания лиц для выявления протестующих студентов в стандартных кадрах – обвинение, которое администрация опровергла. 31

Мы могли бы также указать, что между Соединенными Штатами и Китаем существуют различия с точки зрения того, кто озвучил недовольство до сих пор. В случае фармацевтического университета Китай озабоченность из сети онлайн и некоторых самих студентов. В американском контексте, где высшее образование разделено между государственными и частными учреждениями, до сих пор оттенок в значительной степени поступает от журналистов, активистов и ученых, которые обеспокоены общим использованием и расширением этой технологии. На сегодняшний день, Университет Южной Калифорнии, частное учреждение, является одним из немногих высших учебных заведений в стране, который открыто допущен к институциональному использованию технологий распознавания лиц в своих системах безопасности в кампусе. После запуска в 2020 году система вызвала некоторую горячую дискуссию в кампусе. . .

Триц -исследования третий: безопасность метро

В 2019 году муниципальное правительство Пекина объявило о планах развертывания технологий распознавания лиц на проверке вступления в безопасность на станциях метро по всему городу, представленные как способ повысить удобство пользователей путем сокращения строк на контрольно -пропускных пунктах безопасности. Новый протокол будет использовать распознавание лиц для выявления известных пассажиров и разделить их на группы на основе их социального кредитного рейтинга, требующих различных уровней проверки безопасности. Это предложение было публично против Лао Донгиана, профессора права в Университете Цинхуа, который призвал к более формальной правовой базе для реализации технологий распознавания лиц и сбора личных данных как правительственными, так и частными предприятиями. В широко распространенном эссе Лао сформулировали свой аргумент в следующих терминах:

Признание лица включает в себя сбор биологических данных, которые важны для отдельных лиц, и соответствующие организации или учреждения должны доказать законность этой практики перед сбором..

人 脸 涉及 对 个人 重要 的 生物学 数据 的 收集 ， 相关 或 机构 在 收集 之前 ， 必须 证明 这 做法 的 合法性 合法性 合法性 是 采取 标准 标准 而 将 分为 三六九 三六九 据 不同 不同 的 据 的 不同 据 的 据 据 的 据 的上 的 原则 ， 也 涉嫌 侵犯 公民 的 人身 自由 不 侵犯 的 基本 权利。。

Профессор Лао выступил против технологии распознавания лиц в рамках более широкой критики, казалось бы, бесконечного увеличения инвестиций в государственную безопасность и меры по предотвращению преступности. . Очевидно, правительство считает, что повышение удобства для отдельных лиц станет лучшим способом продвижения меры. 34

Следует отметить, что существует широкое недопонимание Китая’с “Система социальных кредитов” в западной прессе. Не существует единого кредитного рейтинга или общенациональной интегрированной кредитной системы. Вместо этого различные метрики на основе частных пунктов и системы местного самоуправления существуют по всей стране. ’Целью является в конечном итоге связать успешные частные пилотные программы в национальной системе, которые в идеале будут функционировать как своего рода двойной полицейский рекорд и кредитный рейтинг. 35 Как задумано в конкретном контексте Метро Пекина, пассажиры с чистыми записями будут подаваться на пробный пропуск онлайн и представить информацию о распознавании лица. План просто позволил бы быструю трассу в линии безопасности метро для людей, у которых нет истории приносить незаконные предметы на поезда. Поскольку большинство гонщиков попадают в эту категорию, любой “Хороший социальный кредит” Запись, по сути, послужит для того, чтобы держать своего держателя от черного списка гонщиков с историей проблем, которых можно отменить для повышенных чеков. Результат заключается в том, что, хотя система распознавания лиц, несмотря на то, что он обрамлен как способ вознаграждения, система распознавания лиц фактически будет функционировать, чтобы наказать людей с плохим социальным кредитом.

Следуя ее эссе о системе метро Пекина, профессор Лао снова вошел в центр внимания общественности год спустя, когда она распространила посты из группового чата своего жилого сообщества, выступив против компании по управлению недвижимостью’Решение о том, чтобы развернуть технологию распознавания лиц в системе контроля доступа для входов в жилые здания. В обсуждениях с местным сообществом профессор Лао применил стандарты личной информационной безопасности. Этот акт в конечном итоге привел менеджеров предоставить жителям выбор, чтобы выбрать систему распознавания лиц. . 36 (см. Рисунок 3.)

Лаос’Стоя в качестве профессора права в Университете Цинхуа, который, по -видимому, ранжируется как Китай’Лучший институт высшего образования – предоставила ей особую платформу для публикации и распространения ее неудовлетворенности признанием лиц. Из всех случаев, представленных здесь, профессор Лао’S в некотором смысле самая необычная, поскольку она напрямую напала на использование признания лица муниципальным правительством. Мы понимаем ее обстоятельства как уникальные, поскольку она является влиятельным человеком в выдающемся государственном учреждении высшего образования, которое сформулировало ее критику местной системы как поддержку государства, ссылаясь на Конституцию и существующее право. В то же время ее критика системы метро не оказала явного влияния с точки зрения фактической политики. Этот результат дополнительно подтверждает как степень, в которой государство остается твердым в собственном использовании распознавания лиц, так и степень, в которой ее эссе считалось невозможным.

Хотя профессор Лао в конечном итоге не успел в оспаривании плана системы метро, ​​предпринятой государством, ей удалось изменить свое жилое сообщество’с “частный” Использование технологии в гораздо меньшем масштабе. Для этого успеха скромное количество пользователей Weibo отпраздновала ее усилия. 37 Но мы должны подчеркнуть, что использование распознавания лиц в закрытых жилых комплексах, возможно, является одним из самых распространенных и широко популярных коммерческих использования технологий в Китае сегодня. В конце концов, легитимность общественного использования была снова подтверждена, и частное использование не было запрещено-только ограничено, чтобы требовать определенной степени ввода и принятия от отдельных лиц.

Четвертый пример: телевизионная экспозиция

А “315 Вечерняя вечеринка” Это телевизионное мероприятие, спонсируемое Центральным телевидением Китая и китайским правительством, которое проводится ежегодно 15 марта, дата, обозначенная Международной НПО потребителями как Всемирный день прав потребителей. А “315” Традиция была начата в 1991 году, чтобы привлечь внимание к деловой практике, которая наносит вред потребителям’ интересы. Во время мероприятия 2021 года главной проблемой стала бессмысленная коллекция информации о лице со стороны предприятий в розничных местах. Более двадцати внутренних и международных брендов, работающих в Китае, в том числе Kohler, Max Mara и сертифицированное BMW, было обнаружено, что они тайно установили камеры распознавания лица и собрали их клиентов’ Данные в розничных магазинах по всему Китаю. Колер, американская компания по сантехнике, была первой, которая была названа и стыдно на вечерней вечеринке. Анонимные репортеры в Китае узнали от одного из его директоров по продажам, что камеры распознавания лиц использовались, чтобы помочь компании отслеживать отдельных клиентов’S посещение истории в разных розничных магазинах.

Exposé CCTV подчеркнуло ограничения, изложенные в некомпульсных стандартах личной информационной безопасности, классифицируя данные лица как “личная конфиденциальная информация,” Сбор которого требует предмета’S согласие заранее. 39 Как мы видели ранее, многие коммерческие предприятия в Китае в настоящее время используют признание лиц без получения такого согласия в нарушение руководящих принципов. Таким образом, вечерняя вечеринка послужила возможностью для правительства зарегистрировать народную недовольство продолжающейся практикой наряду с поддержкой политики против нее. Конкретное упомянутое регулирование было обновлено в октябре 2020 года, и телевизионное мероприятие было обнаружено в качестве лидера к вероятному принятию более конкретных и обязательных законов о признании лиц в 2021 году. В более широком смысле, это событие можно понимать как официальный сигнал о том, что частные предприятия должны быть готовы к включению повышенной защиты данных и соглашений пользователей в их использование признания лиц, как это уже предусмотрено или рекомендуется официальным государственным руководством. (См. Рисунок 4.)

Из всех случаев, представленных в этом исследовании, этот конкретный инцидент получил наибольшее внимание в Интернете, с 19 512 “нравится” Для лучшего комментария Weibo: “Такая технология – может’T мы используем это для решения торговли женщинами и детьми?” Этот комментарий стоит рассмотреть на мгновение. Он прекрасно понимает, как общественное подозрение в частном, коммерческом применении технологий распознавания лиц совпадает с и даже, по -видимому, способствует поддержке государства “безопасность” Использование. Как упоминалось ранее, “315 Вечерняя вечеринка” это спонсируемое государством, и публичное стыд громких коммерческих предприятий нарисовало большую и энергичную аудиторию. Хотя один комментарий не может быть принят в качестве убедительного доказательства широких тенденций, мы могли бы рассмотреть возможность того, что государство играет роль в формировании условий дебатов посредством тщательно курированного и устойчивого диалога с популярным мнением. Государство, по -видимому, направляет внимание на частные, коммерческие злоупотребления технологией, в то же время узаконивая свое собственное относительно неконтрольное использование. Этот цикл обратной связи в конечном итоге работает для поддержки действий государства, согласовывая его с популярным мнением против частных плохих субъектов, которые не следуют соответствующим процедурам.

Тем не менее, стоит отметить, что Facebook, IBM, Google, Microsoft, Amazon и Facefirst были предъявлены в суд в американских судах за их сбор и анализ данных на лице. 40 Многие из этих компаний активно борются с этими судебными процессами, и пока нет никаких доказательств того, что финансовое бремя этого судебного разбирательства значительно изменило их поведение, хотя в будущем это могло бы в будущем с дополнительным регулированием. “315 Вечерняя вечеринка” Чтобы вызвать ряд выдающихся иностранных фирм, работающих в стране. Это не означает, что обвинения против этих компаний были ложными; По всей вероятности, они были точными. Ссуд на IBM в Соединенных Штатах и ​​управление телевизионной историей на BMW в Китае может на самом деле иметь аналогичную функцию, а именно, публичные компании с целью нарисовать более широкую аудиторию’Внимание к проблемам конфиденциальности и изменение корпоративного поведения.

Выводы

Следует подчеркнуть, что эти четыре случая не представляют собой полное представление о китайской общественности’S Взгляд на технологии распознавания лиц. Подобно количественному использованию анонимных исследований с небольшими партиями, наш качественный подход просто стремится обеспечить снимок сложного и постоянно меняющегося ландшафта. Методологические проблемы остаются, особенно из -за ограничений в публичной записи. У нас нет никаких признаков особого опыта уйгуров с технологией распознавания лиц, например, и мы в значительной степени полагались на пользователей Интернета для страны, где около трехсот миллионов или более людей по -прежнему не хватает регулярного доступа – хотя это число быстро уменьшается. 41, чтобы быть ясным, даже пост “понравилось” Почти сорок тысяч раз представляет собой небольшое каплю в ведре для страны 1.4 миллиарда граждан. Кроме того, ситуация постоянно меняется. Анекдово, что несколько коллег, работающих в китайских научных кругах и промышленности, предположили нам, что общественная поддержка использования распознавания лиц для ряда применений могла увеличиться после пандемии Covid-19 Covid-19.

Мы также должны подчеркнуть, что все четыре случая, представленные выше, произошли в городских условиях, и более 80 процентов респондентов в одном из вышеупомянутых исследований были выпускники колледжа. Необходимы дополнительные исследования в классе. Например, хотя технологии распознавания лиц были развернуты на китайских фабриках для замены карт доступа и документирования рабочих часов, было мало обсуждения того, как развертывание технологий распознавания лиц на фабриках может нарушать работников’ Права. .

’S прием этих технологий оптом. Хотя границы того, что именно составляет “публичный” Пространство обсуждается и согласовано с учетом конкретного случая, в стране существует четкая нормативно-правовая разница между использованием технологий распознавания лиц в соответствии с государством, которые в основном не обсуждаются на онлайн-форумах, и коммерческим использованием предприятиями, такими как Alibaba или жилищные комплексы, которые являются. . 43 Существуют дальнейшие регуляторные различия между большими “частный” Предприятия, которые необходимы для создания тесных связей с государственным аппаратом и небольшими частными предприятиями, такими как парк дикой природы или автосалон, которые работают на местном уровне. И в промежутках между некоторыми организациями, такими как компания по управлению жилищным строительством и местные отделения государственного органа не всегда совершенно ясны.

Без опроса фактического разрыва между “Частный и вечеринка” В Китае мы просто утверждаем, что общественное восприятие разницы между ними важно для понимания арены игры. Во время обсуждения государства’S Использование распознавания лиц как в целом ограничено, так и широко принятым, существуют активные дебаты относительно воспринимаемого использования технологии в частном секторе, и именно в этом направлении государство пытается направить общественность и энергию. Таким образом, общественное недовольство сафари -парком’S ИСПОЛЬЗОВАНИЕ Данных по лице не может перевести в полицейское бюро’S Использование аналогичных данных. Благодаря широко распространенному принятию технологий распознавания лиц в коммерческом секторе, центральное правительство, вероятно, многое узнало о том, что работает и что это делает’т в глазах общественности. Может быть, многие люди, которые принимают технологию распознавания лиц в некоторых контекстах, предпочли бы повысить государственный надзор за его коммерческим использованием, особенно когда оно происходит без людей’ знание или согласие. Похоже, что когда граждане отталкиваются против конкретного коммерческого предприятия’Использование распознавания лиц, предприятие обычно требуется для предоставления опции или -терации в пользовательском соглашении. “315 Вечерняя вечеринка” и предложено в заявлениях в проекте Закона о защите личной информации 2021 года. Насколько практичными или значимыми эти соглашения о согласии пользователя будут на практике, является еще одним вопросом.

Поразительно отметить – даже в нашей узкой подмножестве дел – роли юридического сообщества и особенно профессоров права, в озвучении проблем по поводу технологий признания лиц. Профессора Го Бинг и Лао Доннньян были одними из наиболее выдающихся деятелей в отношении озабоченности по поводу сбора, защиты и хранения данных в Китае в Китае. Тем не менее. Такая тактика может отражать политику возможного в Китае сегодня. ’Законы и правовая система, чем средний гражданин, и, следовательно, могут протестовать против определенных развертываний технологий посредством ссылки на соответствующие законы, создавая себя на стороне государства и предоставляя им определенную степень политического покрытия. Но с повышенным надзором за университетскими академиками во время Си Цзиньпин’Срок пребывания, ученые права, возможно, должны быть более осторожными, чем когда -либо, чтобы не превышать дискурсивные границы, приемлемые для партии.

Действительно, центральное правительство под Си’Направление S не уклонялось от мер, которые подчеркивают правовую систему и продолжают длительную тенденцию к рутинизации судебных разбирательств, и кажется вероятным, что технология распознавания лиц скоро будет принята более формально во внимание. 44 Закон поддерживает высокий уровень социально-политического престижа в Китае, и не совсем точно сказать, что закон просто существует как нисходящий инструмент контроля-хотя он также используется таким образом. Примечательно, что большинство противников конкретных применений технологий распознавания лиц, упомянутых здесь. Но учитывая многолетнюю историю развития технологий распознавания лиц в Китае, относительное отсутствие твердых и четких правил, регулирующих частные применения технологии до 2020 года, поражается. Эта лакуна, вероятно, намеренная. Признание лица представляет собой быстро меняющуюся ландшафт – как технологически, так и в Суде общественного мнения – и государство формирует новые законы, поскольку он учится больше.

В некотором смысле ситуация в Китае не отличается от тех, кто в Европе и Северной Америке. Комплексные юридические нормы для получения и использования данных на лице остаются в значительной степени работающей в этих регионах. Необвитанная коллекция данных лица исследователями произошла как в Китае, так и на Западе, и частные компании были названы и опозорены за их использование технологии в нарушение личной конфиденциальности по всем направлениям. Тот факт, что предлагаемые и принятые законы в Китае и в других местах в настоящее время стремятся обеспечить получение согласия до того, как данные прохождения лицевой промышленности становятся еще более признанием того, что в Китае, в Европе и Соединенных Штатах сбор без согласия, вероятно, уже происходит. Хотя объем дебатов может отличаться между странами, всеобъемлющие проблемы с регулированием, с которыми сталкиваются эти страны, аналогичны отчасти потому, что все они реагируют на одну и ту же быстро развивающуюся ситуацию на местах.

Призыв закона как китайским государством, так и популярными комментаторами важен по другой причине. Несмотря на то, что мы часто рассматриваем закон как инструмент для кодификации существующих этических норм, закон также может быть использован для того, чтобы вывести нелегкие этические вопросы из сфера обсуждения. Успешные случаи, представленные против технологии распознавания лиц’. Тем не менее, среди широкой общественности некоторые онлайн -комментарии действительно касались более широких этических аспектов, таких как права человека, и еще неизвестно, является ли государство’с “стратегия” В избирательном разрешении ограниченных дебатов может иметь неприятные последствия или зажечь более высокий спрос на гражданские свободы с течением времени. 45

Мы завершаем два широких вывода. С одной стороны, мы не должны видеть китайское государство’. С другой стороны, поскольку государство представляет себя непревзойденным этическим субъектом для внутренней общественности, первичное пространство для обсуждения лежит в областях и приложениях, которые еще не регулируются им. Эта динамика создает интригующий вопрос: поскольку государство принимает более явный контроль над частными компаниями, участвующими в сборе и сохранении биометрических данных, где будут направлены проблемы общественности, если и когда возникнут будущие проблемы?

Обсуждение вопросов

• ? Какие политические стимулы играют в Китае и в других местах?
• ?
• Кто должен быть социальными субъектами и политическими властями, чтобы провести различие между полезным и вредным использованием технологий распознавания лиц?
• Если бы вы разработали новые применения технологий распознавания лиц, как вы могли бы учитывать как юридические нормы, так и этические соображения? Как вы думаете, как эти соображения находятся в напряженности как в Соединенных Штатах, так и в Китае?
• Как социальные сети можно использовать в исследованиях общественного приема технологий? ’S заботы о технологии? Как они могут также сбиться с нас?
• При любых обстоятельствах не могли бы вы принять камеры в классе? ? Не могли бы вы принять распознавание лица в университетском городке, если его предложили повысить вашу безопасность?
• Если бы вы знали, что ваш университетский кампус использует признание лица, это повлияет на ваше решение присоединиться к протесту в кампусе против администрации университета?
• ? Можете ли вы даже ответить на этот вопрос? Если вы знаете, не могли бы вы попросить это обратно? Как бы вы это сделали?
• Какие группы людей в американском обществе были на переднем крае определения рисков технологии распознавания лиц? Они работают в правительстве? Работают ли они в технологических компаниях? Они пишут для СМИ? До того, как вы взяли этот класс, вы слышали о таких рисках?

Благодарности

Это тематическое исследование произошло в рамках проекта бакалавриата MIT 2020–2021 гг, “Китайские суждения онлайн.” Мы хотели бы поблагодарить Дэвида Кайзера, Эммы Тенг, Дэвида Голдстона, Дэвида Кларка, Яшэна Хуанга, Джереми Даум, Натана Хилла, Зейи Ян, Юань Ян, Венфэй Чжоу, Нила Сюй, Генри Сюй и Тианю Фанг за их щедро. Все ошибки – наши.

Библиография