Китайский «большой брат» учится читать мысли

Есть предположение, что в Китае создана система искусственного интеллекта (ИИ), которая может оценивать лояльность членов Коммунистической партии. По словам Диди Танг, репортера британского издания Times в Пекине, система была разработана исследователями Всестороннего национального научного центра в Хэфэе. Она может анализировать «выражение лица и мозговые волны» членов Коммунистической партии, чтобы определить, насколько они восприимчивы к «управлению мыслями».

Танг говорит, что технология была подробно описана в статье, которая была выложена в интернет 1 июля и вскоре после этого удалена. В статье говорилось: «С одной стороны, это позволит судить о том, как члены партии восприняли послания КПК и политическое образование. С другой стороны, он будет предоставлять реальные данные для партийного обучения, чтобы его можно было улучшить и обогатить».

Технология ИИ укрепит «уверенность и решимость» членов Коммунистической партии «быть благодарными партии, слушать партию и следовать за партией».

В статье говорилось, что Хэфэйский комплексный национальный научный центр предложил 43 членам Коммунистической партии, входящим в фокус-группу, протестировать технологию. На видео, опубликованном вместе со статьей, которое также удалено, показано, как исследователь заходит в особую будку, садится перед экраном и просматривает статьи, пропагандирующие политику и достижения партии. «Внутри помещения установлены камеры, считывающие выражение лица испытуемого», — пишет Times.

Неясно, находится ли технология считывания мозговых волн внутри этой будки и как вся система (если это лишь будка) будет развернута для наблюдения за миллионами членов Коммунистической партии в стране.

Считывание мозговых волн людей не является новинкой для Китая — еще в 2018 году газета South China Morning Post сообщила, что технология сканирования мозга использовалась на рабочих завода в Ханчжоу. Для этого применялись шлемы для считывания эмоций работников, а алгоритмы искусственного интеллекта определяли эмоциональные всплески, способные свидетельствовать о наличии депрессии, тревоги или злости.

Правящая Коммунистическая партия Китая, возглавляемая Си Цзиньпином, как говорится в статье, считает, что «контролируемое мышление и политическое образование» необходимы для верности партии. У партии уже есть приложение «индоктринации» для своих членов под названием «Xuexi Qiangguo» или «Учись, чтобы сделать Китай сильным».

Приложение заставляет 96,77 миллионов членов партии зарабатывать баллы, читая статьи, просматривая видео и отвечая на вопросы викторины о героях коммунистической эпохи. Оно также отслеживает количество времени, которое пользователи тратят на просмотр вдохновляющих цитат Си Цзиньпина и коротких видеороликов о его выступлениях и путешествиях. Пользователи могут обменивать свои баллы на подарки, такие как пирожные и планшеты, сообщало агентство AFP.

Правительство Китая щедро внедряет способы виртуального контроля за обществом и отдельными людьми — от камер слежения с функцией распознавания лиц до приложений, используемых полицией для получения личной информации со смартфонов на контрольно-пропускных пунктах. Страна известна тем, что отслеживает своих граждан с помощью новейших технологий — в частности, системы социального рейтинга, напоминающей эпизод из сериала «Черное зеркало», для восстановления морали и составления черных списков «неблагонадежных» граждан.

В прошлом году стало известно, что Китай также разработал нейросеть-прокурора, которая может обвинять людей в преступлениях с точностью более 97 процентов. Эта система, которая была «обучена» на 17 тысячах реальных дел в период с 2015 по 2020 год, способна определять и выдвигать обвинения по восьми наиболее распространенным преступлениям в Шанхае. Это преступления, называемые в Китае «провоцирующими неприятности», — мошенничество с кредитными картами, преступления в сфере азартных игр, опасное вождение, кража, обычное мошенничество, умышленное причинение вреда здоровью и препятствование исполнению служебных обязанностей.

Известна история мужчины, который был наказан китайской системой социальных оценок. По его словам, «это хуже, чем попасть в тюрьму». Его зовут Дэвид Конг, и он рассказал South China Morning Post в 2019 году, что ему запретили ездить на скоростном поезде, потому что власти официально объявили его «неплательщиком». Его отнесли к еще 3,6 млн «дискредитированных лиц», получивших плохой рейтинг в основном за отказ платить по долгам, и лишили права тратить деньги на «предметы роскоши», включая аренду квартиры, путешествие на самолете или скоростном поезде.

«У тюремного заключения есть срок, а здесь непонятно, когда это кончится», — сказал Конг в интервью South China Morning Post. Нахождение в списке означает, что до тех пор, пока вы не сможете полностью погасить свои долги, ваше имя всегда будет там. Конг был объявлен «дискредитировавшим себя человеком» в 2015 году после того, как его книгоиздательский бизнес потерпел крах. Он заявил, что взял в долг 1,6 миллиона юаней (180 000 фунтов стерлингов) и не смог его вернуть.

Система социального кредита оценивает граждан на основе их повседневного поведения, учитывая множество факторов — от кредитной истории до активности в социальных сетях. С лозунгом «однажды дискредитированный, везде ограниченный» она обещает наказывать «ненадежных» граждан всеми возможными способами.