Книга посвящена изучению различных правовых аспектов внедрения новейших технологий сбора, передачи, анализа и оценки данных в сферу публичного управления. В центре внимания исследования – своеобразный проект построения Системы социального кредита, развивающийся в настоящее время в КНР. Данный проект рассмотрен как частный случай более общей тенденции к использованию репутационных (биографических) данных и методов вероятностных вычислений для целей регулирования и контроля поведения граждан и деятельности организаций. Проанализированы принципиальные изменения, происходящие в государственном управлении под влиянием алгоритмического профилирования и ранжирования (в т. ч. рейтингования) субъектов. Рассмотрены вероятные направления воздействия цифровизации и датафикации публичного управления на современную модель конституционализма, процедуры осуществления контрольно-надзорных мероприятий, механизм юридической ответственности, систему социального регулирования. Выявлены наличные предпосылки и условия внедрения проектов, подобных китайской Системе социального кредита, в России; представлена прогнозная модель перехода к социально-кредитному управлению в нашей стране.
The book is devoted to the study of various legal aspects of introducing the latest technologies for collecting, sharing, analysing and evaluating data in the field of public administration. The focus of the research is a peculiar project of building the Social Credit System, which is currently being developed in the People’s Republic of China. This project is considered as a special case of a more general trend towards the use of reputational (biographical) data and methods of probabilistic calculations for the purposes of regulating and controlling the behaviour of citizens and the activities of organisations. The fundamental changes taking place in public administration under the influence of algorithmic profiling and ranking (including rating) of subjects are analysed. The probable directions of the impact of digitalisation and datafication of public administration on the modern model of constitutionalism, procedures for the implementation of control and supervisory activities, the mechanism of legal liability, and the system of social regulation are considered. The existing prerequisites and conditions for the implementation of projects similar to the Chinese Social Credit System in Russia have been identified; a predictive model of the transition to the social credit governance in the Russian Federation is presented.
ЗАГРУЗИТЬ ПОЛНЫЙ ТЕКСТ / DOWNLOAD FULL TEXT >>>
Executive summary in English is below ↓
ОСНОВНЫЕ ПОЛОЖЕНИЯ ИССЛЕДОВАНИЯ
- Система социального кредита» (или «система социального доверия») – наименование масштабного управленческого проекта, инициированного в Китайской Народной Республике в начале 2000-х годов и развивающегося по сей день. Изначально проект предполагал создание системы кредитной оценки участников товарных и финансовых рынков и должен был стать китайским аналогом американской системы финансового скоринга FICO, однако впоследствии был переориентирован на функции социального контроля и обеспечение общественной стабильности путем повышения предсказуемости поведения членов общества.
- Система строится по модульному принципу, включая в себя систему идентификации граждан и организаций (так называемую «единую систему социально-кредитных кодов»), черные и красные списки для недобросовестных и образцово законопослушных лиц, платформы межведомственного обмена информацией о подлежащих контролю лицах, а также экспериментальные (муниципальные и частные корпоративные) проекты начисления социального рейтинга. Одной из характерных особенностей китайской ССК является реализация в ее рамках политики объединенных поощрений и наказаний, предполагающей согласованное применение к лицу определенных дисциплинарных мер одновременно несколькими ведомствами.
- Основным модусом функционирования ССК является работа с репутационной (биографической) информацией о физических, юридических и должностных лицах, выступающих в качестве объектов регуляторной, контрольно-надзорной и разрешительной деятельности государства. Институты, средства, процедуры и техники работы с данными о соответствующих лицах (физических, юридических, должностных) и их деятельности, обмена этими данными, принятия на основе этих данных тех или иных мер реагирования – в совокупности и есть то, что составляет Систему социального кредита. Обобщенно их можно именовать термином «социально-кредитные механизмы».
- Основной принцип функционирования социально-кредитных механизмов: прошлые поступки и определенные характеристики лица детерминируют отношение к нему со стороны органов государства в будущем; определенные социальные блага (например, публичные услуги или возможность посещения тех или иных общественных мест) предоставляются в обмен на следование ожидаемому поведению, исполнение соответствующих обязанностей.
- Значение социально-кредитных механизмов вырастает вместе с развитием цифровых технологий извлечения, хранения, обмена и интеллектуального анализа больших массивов данных. Лишь благодаря этим технологиям социально-кредитные механизмы становятся по-настоящему возможными.
- Основными этапами внедрения социально-кредитных механизмов в сферу публичного управления выступают: создание системы идентификации управляемых лиц, осуществление цифрового профилирования (т. е. аккумулирование определенных значимых данных о лице в его персональном личном досье или файле в соответствующей базе данных), ранжирование управляемых лиц (в том числе в соответствии с политикой оценки рисков), а также выстраивание системы допусков и ограничений, предполагающей доступ к соответствующим благам, общественным пространствам и рынкам под условием соответствия установленным заранее критериям.
- Рассмотренная с точки зрения функций составляющих ее механизмов, ССК предстает не в качестве уникального в своем роде, специфически китайского проекта (хотя, несомненно, отражает определенную культурную специфику КНР), а в качестве широкой модели развития публичного управления, связанной с повышенным вниманием к использованию вероятностных вычислений и анализу репутационных данных. Отдельные социально-кредитные механизмы, в различных их сочетаниях, могут быть обнаружены далеко за пределами Китая, в том числе в современной России.
- Внедрение социально-кредитных механизмов в сферу публичного управления постепенно ведет к трансформации отдельных управленческих и правовых процедур (в том числе процедур осуществления контрольно-надзорной и разрешительной деятельности, процедур вынесения правоприменительных актов), ключевых правовых понятий и институтов (в том числе понятий правонарушения и наказания), современного конституционализма и системы социального нормативного регулирования.
- Одним из важных последствий перехода к социально-кредитному управлению может стать замена гражданского общества как общества равноправных индивидов ранжированным иерархическим обществом, возможность реализации правомочий в котором определяется не столько законодательно закрепленными правами, сколько содержанием официальных баз данных (информацией цифровых профилей). Переход к социально-кредитным инструментам управления ведет в конечном итоге к формированию разрыва между формально закрепленными правами и фактической способностью их реализовывать, между правосубъектностью индивида и реализацией правосубъектности в конкретных правовых отношениях.
- Социально-кредитное управление, опирающееся на цифровые платформы и базы данных, внешне предстает перед нами как управление обезличенное, нейтральное. Гражданин реже сталкивается с чиновником, а общается с государством все чаще через специальные электронные интерфейсы. Перспективой перехода к такому, датафицированному (т. е. основанному на данных), управлению может стать фактическая невозможность для граждан доносить свои требования до носителей власти. Датафикация публичного управления делает непонятной, к кому требования граждан должны быть обращены, кого винить в провалах и неудачах государственной политики. Какая-либо связь между правящими и управляемыми пропадает, а остается лишь кажущийся объективным посредник. Отправление публичной власти становится анонимным. Учитывая, что принцип работы социально-кредитных механизмов предполагает предоставление социальных благ в обмен на ожидаемое поведение, а граждане теряют статус равных по отношению друг к другу, можно предположить, что внедрение социально-кредитных инструментов датафицированного управления может оказаться для правящих элит удобным средством увековечивания своей власти. Рано или поздно развитие публичного управления в данном направлении может вылиться в демонтаж правового государства и утрату народом своей учредительной власти.
- Социально-кредитные механизмы рассматривают индивидов и организации не как субъектов права, а, скорее, как объекты контроля, объединяемые в подвижные (т. е. перманентно переопределяемые в рамках оценки рисков) множества. Индивид еще остается субъектом частноправовых отношений, потребителем либо поставщиком товаров и услуг, однако в области публичного права его статус фактически сводится к статусу управляемой единицы, объекта.
- Внедрение социально-кредитных механизмов, т. е. основанных на работе с данными инструментов управления и контроля, серьезным образом меняет привычный подход к регулированию поведения и деятельности субъектов. Если прежде основным способом регулирования являлось нормативное предписывание определенных моделей поведения, которое осуществлялось преимущественно посредством нормотворческой деятельности, сегодня центр тяжести в регулировании планомерно смещается к созданию фактических условий (системы допусков и ограничений), в которые должно быть заранее вписано поведение субъектов.
- Надстраиваясь над нормами законодательства, системы регулирования на основе репутационных данных способны создавать регуляторные эффекты за рамками отношений, охватываемых правом. Нормы позитивного права теряют прямое действие, а реализация закрепленных в них правомочий ставится в зависимость от дополнительных условий. Распространение систем, основанных на анализе репутационных данных, ведет к постепенному вытеснению механизма правового регулирования комплаенсом. Формируется принципиально новая, синкретическая система социальной регуляции, основанная на праве и этике, но в действительности подменяющая собой и то, и другое.
- К настоящему времени в России созданы базовые условия для внедрения и развития социально-кредитных механизмов: системы идентификации граждан, проекты социально-кредитной оценки отдельных категорий населения (государственных служащих, иностранных трудовых мигрантов), система социального ранжирования юридических лиц и индивидуальных предпринимателей – клиентов кредитных организаций, и т. п. Большинство из таких, функционирующих уже социально-кредитных механизмов, как правило, не принято связывать с теми практиками, которые являются частью Системы социального кредита в КНР. Наиболее сложные социально-кредитные механизмы (социальное ранжирование, рейтингование индивидов) в нашей стране еще только ждут своего часа: на сегодняшний день их внедрению препятствуют не столько законодательные ограничения, сколько особенности российского общественного правосознания и российской правовой культуры.
EXECUTIVE SUMMARY
Roman Z. Rouvinsky, «Legal aspects of the introduction of a social credit system to the modern public administration»
- The Social Credit System (hereinafter – SCS) is the name of a large-scale public administration project initiated in the People’s Republic of China in the early 2000s and being developed to this day. Initially, the project involved the creation of a credit reporting system for participants in commodity and financial markets and was supposed to become the Chinese analogue of the American FICO credit scoring system, but was subsequently reoriented to the functions of social control and ensuring social stability by increasing the predictability of the behaviour of society members.
- The SCS is built on a modular basis and consists of a system for identifying individuals and organisations (the so-called “unified social-credit codes system”), blacklists and redlists for trust-breaking and particularly trustworthy persons, interdepartmental information sharing platforms, and pilot (municipal and private corporate) projects of social scoring. One of the characteristic features of the Chinese SCS is that in its framework the policy of joint rewards and punishments, which presupposes the coordinated enforcement of disciplinary measures to a person simultaneously by a number of state agencies, is realised.
- The main mode of functioning of the SCS is to work with reputational (biographical) information on individuals, entities and officials acting as objects of regulatory, control, supervisory and licensing activities. Institutes, means, procedures, and techniques for working with data on relevant persons and their activities, sharing these data, taking certain response measures based on these data–when put together, this is precisely what constitutes the Social Credit System. In general, they can be denoted by the term “social credit mechanisms”.
- The main principle of social credit mechanisms’ functioning is that past deeds and certain characteristics of a person determine the attitude to them on the part of state agencies in the future. Certain social goods (e.g., public services, or the capability of visiting public places) are provided in exchange for following the expected behaviour, fulfilling the corresponding duties.
- The significance of social credit mechanisms arises along with the development of digital technologies of extraction, storing, and intellectual analysis of big data. Only because of these technologies social credit mechanisms become really possible.
- The main phases of the introduction of social credit mechanisms to the field or public administration are: (1) the creation of a system for identifying controlled persons; (2) digital profiling (i.e., the accumulation of certain significant data about a person in their personal file located in a relevant database); (3) social ranking of controlled persons (including the following to a risk assessment policy); (4) the building of a system of permits and restrictions, which presupposes granting access to certain social goods, public spaces and markets on condition of compliance to certain criteria and requirements.
- Considered from the point of view of the functions of its constituent mechanisms, the SSC appears not as a unique, specifically Chinese project (although, undoubtedly, it reflects a certain cultural specificity of the PRC), but as a broad model for the development of public administration, associated with increased attention to the use probabilistic calculations and reputation data analysis. Separate social credit mechanisms, in their various combinations, can be found far beyond the borders of China, including in modern Russia.
- The introduction of social credit mechanisms to the field of public administration gradually leads to the transformation of certain administrative and legal procedures (including the procedures of supervisory and licensing activities, procedures of adjudgement), key juristic concepts and institutes (including the concepts of offence and punishment), modern constitutionalism, and the system of social normative regulation.
- One of the important aftermaths of transition to the social credit governance may be the replacement of civil society as a society of individuals enjoying equal rights by a graduated hierarchical society, the possibility of exercising powers in which is determined not so much by legally enshrined rights, but by the content of official databases (information of digital profiles). The transition to the tools of social credit governance ultimately leads to the formation of a gap between formally enshrined rights and the actual ability to exercise them, between the legal personality of an individual and the realisation of legal personality in specific legal relations.
- The social credit governance, rested upon digital platforms and databases, outwardly appears to us as impersonal, neutral and unbiased. In one’s everyday life, an ordinary individual less and less often meets with a state official, and more often communicates with the state through special electronic interfaces. The prospect of a transition to such datafied (i.e., data-driven) governance may be the virtual impossibility for citizens to convey their demands to those in power. The datafication of public administration makes it unclear to whom the demands of citizens should be addressed, who is to be blamed for the failures of public policy. Any connection between the ruling and the ruled disappears, and only a seemingly objective mediator remains. The exercise of public authority becomes anonymous. Considering that the principle of operation of social credit mechanisms involves the provision of social benefits in exchange for expected behavior, and citizens lose their status as equals in relation to each other, it can be assumed that the introduction of social credit instruments of datafied governance may turn out to be a convenient means for the ruling elites to perpetuate their authorities. Sooner or later, the development of public administration in this direction may result in the dismantling of the rule of law and the loss of the people of their constituent power.
- Social credit mechanisms consider individuals and organisations not as subjects of law, but rather as objects of control, united in mobile and permeable (i.e., permanently redefined within the framework of risk assessment) sets. An individual still remains a subject of private law relations, a consumer or a supplier of goods and services, however, in the field of public law, their status is actually reduced to the status of a managed unit.
- The introduction of social credit mechanisms (i.e., data-based management and control tools) seriously changes the usual approach to regulating the behaviour and activities of subjects. If before the main method of regulation was the normative prescribing of certain models of behaviour, which was carried out mainly through rule-making activities, today the centre of gravity in regulation is systematically shifting to the creation of actual conditions (systems of permits and restrictions), in which the behaviour of subjects must be inscribed in advance.
- Superstructuring on the norms of legislation, regulatory systems based on reputational data are able to create regulatory effects beyond the scope of relations covered by law. The norms of positive law lose their direct effect, and the implementation of the powers enshrined in them becomes dependent on additional conditions. The spread of systems based on the analysis of reputational data leads to the gradual replacement of the mechanism of legal regulation by compliance. A fundamentally new, syncretic system of social regulation is being formed, based on law and ethics, but, in reality, replacing both.
- To date, the Russian Federation has created the basic conditions for the introduction and development of social credit mechanisms: systems for identifying citizens, projects for social and credit assessment of certain categories of the population (civil servants, foreign labour migrants), a system of social ranking of legal entities and individual businessmen – clients of credit organisations, etc. Most of these already functioning social credit mechanisms are not usually associated with those practices that are part of the Social Credit System in the PRC. The most complicated social credit mechanisms (social ranking, rating of individuals) in Russia are still waiting in the wings: today their implementation is hindered not so much by legislative restrictions as by the peculiarities of Russian mass legal consciousness and Russian legal culture.