Kos • социальный рейтинг глазами китаянки

Как изменится экономика и общество с введением китайской системы рейтингов

Можно сказать, что система Sesame Credit — это геймифицированная версия коммунистических методов шпионажа, сдобренная большими данными. Правительство заводит досье на каждого гражданина, который совершил какое-либо преступление политического или личного характера. Это досье ведется всю жизнь, люди доносят на своих друзей и даже родственников, из-за чего в Китае растет уровень недоверия. Похожий эффект произведут и цифровые досье. У людей появится причина говорить своим знакомым и родственникам: «Не надо это публиковать. Я не хочу, чтобы ты испортил рейтинг себе и мне».

Наверняка появятся черные рынки репутации, на которых будут продаваться обходные методы улучшения своего рейтинга. Вы же можете купить лайки в Facebook и подписчиков в Twitter — таким же образом, люди будут платить, чтобы менять рейтинг. Да и будет ли у системы надежная защита? Если нет, то хакеры (включая спонсируемых государством) смогут изменить или украсть из нее информацию.

Изображение: Kevin Hong

Новая система отражает смену парадигм. Вместо того чтобы улучшить стабильность с помощью жестких мер и страха, правительство делает так, чтобы повиновение воспринималось как игра. Это метод управления массами под прикрытием системы начисления наград. Повиновение в игровой форме.

В октябре 2015 году издание BBC обратилось к прохожим на улицах Пекина, чтобы узнать, что они думают о системе рейтинга Sesame Credit. Большинство граждан говорили о ее положительных сторонах. И правда, кто рискнет открыто критиковать систему? Стоит вам это сделать, как ваш рейтинг полетит вниз. Пугает тот факт, что лишь немногие из опрошенных понимали, что низкий рейтинг может навредить им в будущем. И еще меньше человек вообще знали о том, что их действия кто-то оценивает.

На данный момент Sesame Credit не наказывает напрямую «ненадежных» граждан — в конце концов, лучше привязать людей с помощью наград за хорошее поведение. Но главный управляющий Sesame Credit Ху Тао предупредила, что система устроена так, что «ненадежные лица не смогут арендовать автомобиль, взять кредит и даже найти работу». Она сообщила, что Sesame Credit попросила Китайское бюро образования прислать список учеников, которые списывали на государственных экзаменах, чтобы те потом поплатились за свою выходку в будущем.

Фото: Getty

В 2020 году, когда система рейтинга станет обязательной, наказания могут значительно ужесточиться. 25 сентября 2016 года Государственный совет Китая обновил документ под названием «Механизмы предупреждения и наказания людей, склонных к нарушению доверия». «Если лицо нарушило доверие в одной области, ограничения налагаются на него во всех», — гласит поправка.

К примеру, у людей с низким рейтингом будет медленнее работать интернет, они не смогут посещать некоторые рестораны, клубы и прочие заведения. Им запретят свободно выезжать за границу. Рейтинг будет влиять на возможность взять что-либо в аренду, получить кредит и даже социальные льготы. Граждане с низким рейтингом не смогут устроиться на определенные должности, например, в государственных органах, СМИ или юриспруденции, где надежность, разумеется, является обязательным критерием. Если у вас низкий рейтинг, то вы не сможете получить образование в частных учебных заведениях или отдать туда своих детей.

И все эти наказания — не выдумка. Как написано в официальном документе, система социального рейтинга «позволит надежным гражданам свободно гулять под солнцем, ненадежные же едва ли смогут сделать шаг».

Основы системы

Базы данных управляются китайскими специалистами по экономическому планированию, Национальной комиссией развития и реформ (NDRC), Народным банком Китая (PBOC) и судебной системой страны.

Большая часть данных собирается из традиционных источников – финансовые, уголовные и правительственные записи, а также из существующих данных из ЗАГСов. Правительство Китая экспериментирует со сбором данных с помощью видеонаблюдения и передачи данных в реальном времени, например, данные мониторинга выбросов с заводов, хотя они не считаются первичными источниками.

Понятие социального кредитного рейтинга обычно вызывает гнев среди западных комментаторов, многие из которых рассматривают эту идею как оруэлловскую: авторитарное правительство, использующее большой объем данных и массовую слежку для подавления социальных свобод.

В Китае уже действует система «социального кредитного рейтинга» для физических лиц и предусмотрены мелкие наказания за некоторые проступки, такие как невыполнение долгов. Предотвращение посадки на поезда безнадежных должников – один из распространенных примеров. Но социальный кредит более бюрократизирован и технологически менее продвинут, чем представляют себе те, кто не сталкивался с ним.

Система социального рейтинга в Китае

Несмотря на явные различия в составлении рейтинга, по всем регионам были введены некоторые общие правила. Если человек угрожает благополучию большого числа своих сограждан, то его рейтинг снижается. К таким неблаговидным поступкам относят курение в самолете, задержку отправления поезда. Положительными считаются граждане, которые активно участвуют в культурно-массовых и политических мероприятиях. Эти принципы сложились в ходе проведения эксперимента в разных странах.

Система социального рейтинга распространяется и на юридических лиц. Для каждой компании ведется система учета. Российские авиакомпании считаются надежными, а американские нет. Причиной тому служит поддержка США идеи о том, что Тайвань и Гонконг – это отдельные страны.

Изначально ожидалось, что рейтинг начнет применяться по всей стране уже с 2020 года. Но к концу года был сформирован список проблем, мешающих реализации данного проекта. Всего было обозначено шесть проблем:

Сильная разрозненность по провинциям из-за отсутствия унифицированной системы.
Отсутствие стандартов, позволяющих раскрывать личную информацию.
Отсутствие критериев, по которым поведение гражданина будет рассматриваться как правонарушение.
Противоречия между законодательством и работой рейтинга.
Отсутствие механизма восстановления репутации, если при учете была совершена ошибка.
Сложности обеспечения информационной безопасности и защиты личных данных.

В целом в Китае нет единого мнения о том, когда система социального рейтинга распространится по всей стране. Правительство умышленно пошло на этот шаг, чтобы избежать формализма и внедрить механизм естественным путем, без ограничения свободы граждан.

А что у нас?

Улыбнитесь, вас снимает не очень скрытая камера

Далеко ли нам до Китая? С одной стороны да, он серьезно ушел вперед, но в ряде материалов сети сообщается, что московские силовики задействовали систему «Умный город» для поиска и задержания протестующих уже после акций протеста. Это косвенно говорит о том, что московские власти готовы использовать 200 тыс. камер видеонаблюдения, расставленных по всему городу не только для фиксации ДТП и хулиганов.

Система распознавания лиц крутится на базе отечественного ПО, разработанного компанией NTechLab. Во время пандемии московские власти с помощью этого софта отслеживали нарушителей режима самоизоляции. Вышел из дома выбросить мусор – тебя засекли по камерам – изволь заплатить штраф. Как говорится, без обид. Вещь оказалась работоспособной и мэрия Москвы выделила еще 2,7 миллиарда рублей на оснащение видеокамерами вагонов метро и наземного транспорта.

На 4 группы нас еще не поделили, но по крайней мере сделали градацию на тех, кто привился и не привился. И провели тестирование – зайти в метро или кафе без QR-кода некоторое время назад было нельзя.

А вот блокировка нежелательных сайтов уже стала нормой. Критерии нежелательности сайтов весьма широки. К примеру, несколько лет назад под раздачу попал портал специалистов LinkedIn. Сейчас “приземляют” и другие популярные ресурсы. Это, конечно, не китайский файрволл, но тенденция прослеживается.

Также напомню о запрете на выезд за границу: если ваш долг превышает 30 тыс. рублей, то на таможне вас тормознут. Для многих это оборачивается неприятным сюрпризом. Свобода передвижения есть, но в пределах собственного государства.

Обратимся к концепции “Умного города 2030” и прочтем слова Собянина: “Можно уже сегодня говорить не об отдельных услугах, а о создании комплексной программы «Умный город», которая охватывала бы все стороны нашей жизни”. В концепции упоминаются имена известных предсказателей будущего, о футурологах, например, о Рэе Курцвейле, но забывают назвать имя Джорджа Оруэлла.

А что Вы думаете о китайской модели оценки социального рейтинга и о наших реалиях?

P.S. Необходимо заметить, что на сегодняшний день не существует единого рейтинга для каждого человека. Скорее, существует ряд различных рейтингов, которые имеют правительственные ведомства, а также отдельные муниципальные и провинциальные органы власти. Тем не менее, благодаря централизации платформам в Китае растет степень согласованности рейтингов. Это особенно касается корпоративных социальных рейтингов и черных списков.

_{Дата-центр ITSOFT – размещение и аренда серверов и стоек в двух ЦОДах в Москве; colocation GPU-ферм и ASIC-майнеров, аренда GPU-серверов. Лицензии связи, SSL-сертификаты. Администрирование серверов и поддержка сайтов. UPTIME за последние годы составляет 100%.}

Побуждение к азарту

Так что властям предстоит решить еще много проблем, перед тем, как система социального рейтинга заработает на полную силу. Кстати, она не такая уж и непривычная для китайцев. Рейтинг благонадежности уже давно применяется в бизнесе. Все китайские и иностранные компании имеют свой статус. К примеру наш «Аэрофлот» обладает довольно высоким рейтингом и считается благонадежным. А американские авиакомпании наоборот, нет. Все дело в том, что при продаже билетов в Тайвань и Гонконг, американцы выделяют их как отдельные страны. А коли так – получайте жирный минус.

Как же реагируют сами китайцы на такое бесцеремонное вмешательство в их жизнь со стороны государства? Как ни странно, абсолютно спокойно. Немного досаждают разные стандарты благонадежности в различных провинциях, а так все отлично. Набор баллов напоминает прохождение компьютерной игры – включается азарт и желание взять больше рейтинга, чтобы проскочить на следующий «уровень» и открыть для себя новые бонусы. Ты далек от игр и тебя не прельщают бонусы? Ну тогда получай «санкции». Наверняка они тебя замотивируют поднимать рейтинг и получать новые «уровни» в игре под названием жизнь.

Перспективы развития системы социального рейтинга в Китае

Отношение к данной системе оценки граждан остается неоднозначным. Интеллигенция страны пытается проанализировать, насколько социальный рейтинг отвечает реалиям Китая. Не менее важным остается вопрос о том, нарушает ли эта система права человека. Часть исследователей полагает, что права нарушаются, так как слежка будет установлена за каждым человеком, каждый шаг будет полностью контролироваться. Другие полагают, что таким способом можно повлиять на благонадежность граждан и на соблюдение законов, установленных в стране.

Стоит отметить, что в азиатских странах обществе главенствует над индивидуальностью, поэтому такой подход нельзя назвать новым. Мир давно достиг того уровня, в котором система слежки стала повседневной реальностью. Например, в западных странах сбор данных о каждом гражданине позволяет формировать представление об уровне их здоровья, и на основе полученных данных предоставлять льготы. Но китайская система рассматривается мировым сообществом как вредная и ограничивающая свободу личности.

Проект Китая еще раз обнажил проблему обеспечения защиты данных и тайны личной жизни. Вопрос этики так же выходит на первый план. Мировое сообщество находится на этапе оптимизации и формирования систем наблюдения, обеспечивающих защиту информации от злоумышленников.

Китайское правительство еще в 2016 году опубликовало список ограничений для тех лиц, чей рейтинг остается невысоким. Им будет запрещено работать в государственных учреждениях, пользоваться социальным обеспечением. На таможне они столкнуться с тщательным досмотром. Эти люди не смогут занимать высокие должности в фармацевтической и пищевой промышленности. Они не получат спального места в поезде и могут столкнуться с отказом в приобретении авиабилетов. Гостиницы имеют право отказать в предоставлении номеров повышенной комфортности. Дети неблагонадежных граждан не смогут обучаться в частных школах.

Таким образом, система социального рейтинга в Китае натолкнулась на волну критики и проблем. Однако, она рассматривается как жизнеспособная, дающая возможность оптимизировать социальные и правовые аспекты жизни общества.

Что такое доска позора

Поощрения или штрафы по рейтингу будут относиться к ограничению в правах или, напротив, их расширению, потерь по финансам или доходу. К примеру, для граждан или организаций, которые теряют в личном бальном рейтинге, может назначаться следующее:

запрещены поездки по Китаю или за рубеж;
запрещено поступать в хорошие учебные заведения (причем страдать могут дети, когда их отец и мать обладают низким рейтингом);
понижены перспективы устройства на работу;
повышено внимание с государственной стороны;
позор публично посредством помещения гражданина, организации или госведомства на «веб-досках позора» (ЧС).

Тому, кто попал в «красный список», будут, к примеру, по системе предоставляться следующие льготные поощрения:

зачисления в хорошие учебные заведения в приоритете (малышей и подростков чьи мать и отец обладатели положительного рейтинга);
легкий доступ к кредитным займам;
аренда велотранспорта или авто без депозитного взноса;
посещение фитнес-залов бесплатно;
льготы на проезд в городском транспорте;
приоритет на обслуживание в медучреждениях.

Также в качестве льготы могут предоставляться разные льготы по платежам в бюджет или доступ к государственным контрактам.

https://youtube.com/watch?v=W9zcc8F8-Mo

Прогресс в системе социального кредитования Китая

На данный момент система все еще находится в стадии разработки и относительно фрагментирована, когда речь идет об обмене информацией между различными базами данных.

Согласно данным Народного банка Китая (НБК), центрального банка страны, к концу 2019 года система социального кредитования уже охватила 1,02 миллиарда физических лиц и 28,34 миллиона компаний и организаций. Многие из них уже получили рейтинги, а некоторые — даже попал в черный список.

В июле 2019 года NDRC заявила, что 2,56 миллиона человек были лишены возможности совершать полеты, 90000 человек не могли пользоваться услугами высокоскоростной железной дороги, а 300000 человек были признаны китайскими судами ненадежными.

Сотни компаний и местных органов власти были названы и осуждены за различные правонарушения: несвоевременная оплата работникам и подрядчикам или незаконный сбор средств.

Однако некоторые иностранные фирмы становятся свидетелями роста затрат на соблюдение требований к раскрытию данных. В отчете Палаты Европейского Союза в Китае говорится, что, хотя базы данных содержат большой объем данных, система все еще далека от полного внедрения.

В отчете говорится, что выполнение механизмов санкций и обмен данными между различными частями системы все еще не завершены, но Китай работает над их модернизацией.

Система социального кредита(данные финансовых учреждений)

Система анализирует кредитоспособность граждан и компаний за счет алгоритмической модели анализа информации, получаемой в режиме реального времени. Существует следующая система балльной оценки от 350 до 950 баллов, складывающаяся из таких параметров, как:

данные о наличии и обслуживании кредитов;
поведенческие особенности клиента при совершении коммерческих сделок;
имущество, активы и личная информация по клиенту;
поведение и предпочтения клиента,
социальное поведение и социальный статус клиента.

При такой цифровой диктатуре, где отсутствует конфиденциальность информации, интересно узнать, как ССР оценивают сами граждане КНР.

По данным исследования в статье China’s «social credit systems and public opinion: Explaining high levels of approval», состоятельные, образованные, а также пожилые граждане с энтузиазмом одобряют введенную рейтинговую систему.

На первый взгляд кажется нелогичным, что богатые и образованные граждане могут поддерживать ССР, которая потенциально может влиять на экономическую, политическую и социальную свободу и возможности граждан. Высокая степень одобрения объясняется тем, что более образованные городские жители разбираются в технологиях и более открыты для технологических изменений и ССР с их точки зрения рассматривается как технологический прогресс).

Так наиболее образованные и состоятельные граждане, особенно в городских районах, имеют доступ к большому количеству преимуществ от ССР и охотно ими пользуются. Они якобы видят ССР не как инструмент наблюдения, а как инструмент для улучшения качества жизни и заполнение институциональных и нормативных пробелов, ведущие к более честному и законопослушному поведению в обществе. Так же в Китае многие граждане не имеют доступа к кредитным картам и-за традиционных банковских учреждений и не могут оценить финансовый рейтинг. Положительная оценка связана и с прозрачными методами, использующимися для определения рейтинга социального кредита.

Конечно, общественное мнение может измениться, когда ССР выйдет из пилотного режима и станет более осязаемой с набором дополнительных карательных инструментов. Некоторые граждане уже обеспокоены тем, что социальный рейтинг не может влиять на чиновников. (Здесь, стоит упомянуть эксперимент, проведенный в одном из китайских городов, в финансовом государственном учреждении. Когда был использован алгоритм, который следил за доходами чиновников, по итогу, большое количество чиновников были убраны со своих должностей, но суд не смог привести наказание в их сторону из-за того, что алгоритм мог только выявлять нездоровое повышение доходов чиновников, но не выявлять откуда пришли денежные средства).

Хороший имидж ССР формируют и государственные СМИ, которые рисуют утопическое общество с честными, законопослушными и покорными гражданами. Но помимо этого рейтинговая система — это удобный инструмент для борьбы с инакомыслием и создание образа, мышления «удобного гражданина», который не сможет пойти против государственной машины всеобщего наблюдения за всем и вся.

Система социального кредита

4 группы граждан

На четыре рассчитайсь!

В итоге всех граждан Китая поделили на четыре ~~касты~~ группы: А, B, C и D. Есть и дополнительные градации, например ААА, или А+ (один к одному, как в банковской системе). Всё что А+ и выше означает, что ты молодец. Если твой индекс 900 – ты в группе B. Менее 850 – категория С (не путать с водительскими правами). Ну, а в группе D допустим с 600 баллами, тебе крайне не весело. С тобой и разговаривать никто не захочет, в прямом смысле – перед звонком на твой номер оператор сделает звонящему предупреждение, что он хочет поговорить с абонентом с низким социальным рейтингом. (Помните крылатую фразу про девушек с пониженной социальной ответственностью?). Ну, и соответственно вашему собеседнику, если только он не передумает с вами говорить, спишут социальные баллы. Не знаю, повысят ли вам баллы за разговор со священником, но не исключаю и такой вариант.

Пожалуй нет ни одной сферы человеческой деятельности, которая бы не была под контролем. Big data, ИИ, мониторинг всего и вся дают возможность властям управлять социумом. Любое взаимодействие с окружающим миром может повышать или снижать ваш рейтинг: покурили (или не дай бог напились) – заплатите пару баллов. Собираете мусор раздельно – получите их обратно. Зашли на “не правильный” сайт – снова минус и беги быстрее в магазин, покупай сборник произведений Конфуция. Причем начни читать книгу рядом в парке – камеры заметят тебя и откатишь статус на дефолтные настройки.

Не хватает баллов для поступления в университет (ЕГЭ тут не причем) – заплатишь кровью за поступление, в прямом смысле: придется стать донором, говорят до 200 баллов таким способом можно “намайнить”. Либо участвовать в программах поддержки правительства, здесь можно пополнить кошелек “социальными биткоинами”. Как вы догадываетесь, фантазии у властей по дрессировке граждан безграничны.

Сведений о купле/продаже социальных баллов пока не поступало. Значит нет в стране коррупции

Что дальше?

Неужели в будущем у каждого будет свой онлайн-бренд, чьи данные можно будет раскопать? Определенно, все к тому и идет. Наступает эпоха, когда действия человека будут оцениваться по параметрам вне его контроля, где вынесенный вердикт нельзя отменить. Забудьте о праве на забвение или удаление, больше нельзя будет сослаться на то, что вы были молодыми и глупыми.

Возможно, сейчас уже слишком поздно, и наступление новой эры не остановить. Но пока у нас еще есть выбор и права, которыми можно воспользоваться. Нам нужно сделать так, чтобы оценивать можно было самих оценщиков, пишет Wired. В книге «Неизбежное» писатель Кевин Келли описал будущее, где надзиратели и наблюдаемые могут свободно следить друг за другом. «Сейчас нам предстоит выбрать — либо слежка будет секретной и односторонней, либо взаимной и открытой», — пишет Келли.

В рядах самого правительства (тех, кто контролирует систему) должно появиться доверие. Нам нужны надежные механизмы, которые гарантируют, что рейтинг и данные используются честно и с разрешения граждан, утверждают в Wired. Чтобы люди доверяли системе, нужно чтобы в ней было поменьше неизвестного. А значит, следует сделать алгоритмы более прозрачными. Некоторые не согласны раскрывать их работу, потому что в таком случае хакерам будет проще взломать систему. Но все же если жизнь граждан зависит от рейтинга, они обязаны хоть немного понимать, как он работает.

В Китае некоторые граждане, например, работающие в госорганах, скорее всего, будут существовать вне системы. Как отреагирует общественность, если такие люди совершат дурной поступок, но их рейтинг останется неизменным?

Пока неизвестно, какие последствия принесет за собой культура постоянного наблюдения. Что произойдет, когда все эти системы для оценки социальных, моральных и финансовых критериев населения целой страны вступит в силу? Насколько пострадает конфиденциальность и свобода слова (с которой и так есть проблемы в Китае)? Кто будет определять, в каком направлении развивать систему? Совсем скоро нам предстоит задуматься обо всех этих вопросах. Сегодня подобное происходит в Китае, а завтра — рядом с вами. И главные вопросы о будущем касаются не технологий и экономики, они касаются этики.

Если мы закроем глаза на проблему, система проверки надежности превратится в систему травли. Жизнь превратится в бесконечную гонку за популярностью и самым высоким рейтингом.

Материалы по теме:

Есть ли преимущества системы рейтинга?

Несмотря на возможные угрозы, миллионы людей уже записались на тестовую версию государственной системы наблюдения. Причины этого могут быть довольно мрачными, например, боязнь репрессий. Однако кого-то привлекают награды и «специальные привилегии», которые получают граждане, доказавшие свою «надежность» в Sesame Credit.

Если ваш рейтинг в системе достигает 600, вы можете взять кредит на 5 тысяч юаней (около 43 тысяч рублей), который можно потратить на покупки в магазине Alibaba. Начиная с рейтинга в 650 баллов можно брать в аренду автомобиль без залога. Граждане с таким рейтингом также получают быструю регистрацию в отелях и VIP-регистрацию в Международном аэропорту Пекина. Если ваш рейтинг более 666 баллов, вы можете взять кредит на 50 тысяч юаней (433 тысячи рублей) в Ant Financial Services. Заработали более 700 — можно оформить поездку в Сингапур без сопроводительных документов (например, приглашения от работодателя). При рейтинге в 750 баллов у вас ускоряется получение шенгенской визы.

Высокий рейтинг уже стал символом статуса — буквально через несколько месяцев после запуска системы своим рейтингом похвастались почти 100 тысяч пользователей Weibo (китайский аналог Twitter). Рейтинг человека в Sesame может повлиять даже на шансы пойти на свидание или заключить брак, ведь чем он выше, тем заметнее становится ваш профиль в приложении для знакомств Baihe.

Sesame Credit дает рекомендации о том, как можно улучшить свой рейтинг, и предупреждает, что дружба с человеком, у которого низкий рейтинг, может негативно сказаться на вашем. Вполне возможно, что в будущем появится множество консультантов по вопросам поднятия рейтинга и специалистов по репутации, которые будут помогать людям набрать рейтинг или выбраться из черного списка ненадежных людей.