from 01.01.2020 until now
Vladivostok State University of Economics and Service (Department of theory and history of Russian and foreign law, Head of the department)
from 01.01.2013 to 01.01.2020
Moskva, Moscow, Russian Federation
Ussuriysk, Vladivostok, Russian Federation
Moscow, Russian Federation
VAC 12.00.10 Международное право; Европейское право
VAC 12.00.12 Криминалистика; судебно-экспертная деятельность; оперативно-розыскная деятельность
VAC 12.00.14 Административное право; административный процесс
UDK 34 Право. Юридические науки
GRNTI 10.07 Теория государства и права
BBK 67 Право. Юридические науки
BBK 60 Общественные науки в целом
The article analyzes the key problems of modern digital and socio-cultural transformation of the political and legal organization of modern society, discusses the impact of biological threats and risks on the dynamics of public-power relations. The article presents an analysis of key approaches to designing the future development of the state, law, and society, and the concept of “projective future” is analyzed by the authors as a fundamental “driver” of political, legal, and socio-economic transformation, which acts as an attractor that triggers certain development trajectories-social, biological, digital, cultural, political, and legal phenomena.
government, state, artificial intelligence, society, law, digital technologies, evolution, economy
Работа выполнена при финансовой поддержке Гранта Президента РФ № НШ-2668-2020.6 «Национально-культурные и цифровые тренды социально-экономического и политико-правового развития Российской Федерации в XXI веке».
То, что было создано, создается и сейчас
Джон Ло
Современная политико-правовая реальность стремительно меняется. Устойчивые институционально-структурные основания и ставшие традиционными формы публично-властного управления качественно эволюционируют. Кардинальные сдвиги наблюдаются и в самых консервативных социальных институциях: разрушаются ценностно-нормативные системы и «пересобираются» духовно-нравственные стандарты; трансформируются устойчивые социальные статусы (социальных, политических, правовых, экономических субъектов) и т.д. Изменения касаются всех сфер социальной мыследеятельности, где-то их интенсивность весьма велика, в иных сферах данные изменения только начинают случаться. Если перефразировать Дж. Урри: будущее неминуемо наступает, но распределяется по современности неравномерно. Причем эти последние наступают до того, как они будут адекватно осознаны и интерпретированы [42, с. 12].
I.
«Проективное будущее». Всё устремлено в инновационный проект — будущее. Оно («проективное будущее») становится главным маркером в интерпретации прошлого, ключевым ориентиром в эволюции функционирующих сегодня социальных (правовой, политической, экономической, культурной и т.д.) систем [35]. Отметим здесь, что речь идет главным образом не о специфическом типе восприятия времени и пространства, известного как прогресс, где прошлое и настоящее лишь подготовка, «черновой вариант» будущего, которое выступит более качественным, лучшим, совершенным этапом сегодняшнего развития.
Конечно, прогресс как доминирующий тип мыследеятельности (регресс и циклические типы сегодня, очевидно, оттеснены на периферию мирового мейнстрима) вплетен в это движение к будущему. Однако современный прогресс, назовем его условно «проективное будущее»[1], не наполнен позитивными коннотациями, а, напротив, содержит целый спектр опасений, рисков, угроз. От прогресса осталась общая логика линейного движения вперед, только в отличие от прогресса это движение не к более совершенному, а к рискогенному. Само будущее в разнообразных моделях и проектах связано с негативными ожиданиями и всевозможными кризисами. В этом проектировании будущего задействованы, конечно, и другие типы мыследеятельности — регресс и циклизм (перманентизм), усиливая эти негативные коннотации. Под воздействием «проективного будущего» радикальные трансформации переживают все три упомянутых типа мыследеятельности [2; 3; 20].
Одна из ключевых проблем «проективного будущего» заключается в том, что рискогенность и негативность, которые присутствуют в нем, «вкладываются» в систему принятия сегодняшних решений, в проектирование различных социальных институтов, нормативных комплексов (Г. Дж. Берман отмечал в свое время, что данные комплексы выражают идеи, ценности и опыт, гармонизированные и ориентированные на формирование определенного образа правопорядка [11]). Другими словами, последние ориентируют и моделируют определенный образ будущего и конструируют соответствующую адекватную этому будущему институциональную, нормативную, ценностную организацию общества.
Всё это обусловливает и ряд опасных тенденций. Во-первых, прогнозирование рискогенности и нестабильности социального развития, негативных последствий прогрессисткой эволюции общественных систем логично обусловливает распространение постгуманитарных форм контроля, авторитарных режимов публично-властных отношений и жестких ограничительных сценариев. Очевидно, что последнее ведет к кардинальной трансформации политико-правовой и социально-экономической форм организации, изменению пределов и практик функционирования публично-властного управления и т.д. Ведь любые формы и сценарии «предвосхищения будущего оказывают большое влияние на природу любого общества, особенно в вопросах структуры и течения властных отношений», поскольку ключевой ресурс власти, особенно в современную эпоху, — это «способность определять, как именно будет выглядеть будущее, выбирая из множества возможных вариантов» [42, с. 33].
Во-вторых, «проективное будущее», а не прошлый опыт, культурные доминанты, традиционные ценности выступают сегодня «драйвером» эволюционных изменений и качественных трансформаций в общественной системе. Постгуманитарные тенденции (нивелирование культурных ценностей и нравственных стандартов; смена гуманистического измерения на приоритет устойчивости и стабильности развития сложных социально-технических и цифровых систем) в трансформации современных обществ привело и к интенсивному развитию универсальных и абстрактных ценностно-нормативных систем, «очищенных» от этнокультурного и духовно-нравственного содержания. Пустые и универсальные формы более пригодны для «проективного будущего», не нужно переживать о сопротивляемости социокультурного материала[2]. Так, из политико-правовой и социально-экономической организации на протяжении десятилетий «вымывались» этнические и этнокультурные формы идентичности, идейно-концептуальные основания порядка, гуманистические и духовно-нравственные стандарты публичного и частного взаимодействия, которые структурировали и направляли развитие политико-правового пространства, обеспечивали его воспроизводство и стабильность.
Сегодня доминируют абстрактные идейно-смысловые платформы, которые предлагают миру новые глобальные и универсальные формы идентификации и гражданского мировоззрения. Последние структурируются не на основе этнических, национальных, религиозных, идеологических и других доминант, а на «общемировой гражданственности» (У. Альтерматт [1]) и универсальной «конституционно-правовой идентичности» (Ю. Хабермас [45]). В начале третьего тысячелетия активно продвигается дискурс общей цифровой и технологической «платформы существования» (Н. Срничек [41]), которая производит и обеспечивает любые социальные потребности, интересы, традиционный и новый опыт жизнедеятельности [21; 33; 38]. Всё это должно привести к «сборке» новой общности, более устойчивой и стабильной, в рамках которой многие уникальности, этнокультурные и ментальные отклонения не являются основанием для рискогенности (У. Бек [9; 10]), поскольку именно «причуды человеческой свободы действий могут производить негативные эффекты» для проектируемого будущего [15, с. 253].
Последнее в рамках государственно-правовой практики обусловило активное развитие дискурса нестабильности и неуправляемости сложноорганизованных систем. Так, в экономической, политической, юридической и иных сферах жизнедеятельности доминирующими стали теории нестабильности, рискогенность, ситуативности, а в публичном управлении начали преобладать управленческие технологии, базирующиеся на конвенциональном и иррациональном выборах. Снизить данную нестабильность и негативные ожидания от будущего и призваны инновационные цифровые технологии и, прежде всего, системы искусственного интеллекта.
Говоря обобщенно, внедрение данных технологий протекало в три этапа. Первая волна внедрения последних связана с рутинизацией, цифровые и роботизированные технологии разрабатывались и внедрялись для замены однотипного, рутинного ручного, производственного, офисного и другого труда. Затем начали разрабатываться экспертные и аналитические цифровые системы, обеспечивающие сбор колоссального объема информации, ее обработку и использование для принятия управленческих решений. Данный этап был связан с разработкой автономных систем и цифровых алгоритмов, обеспечивающих совещательные функции. В этот период в воображении рисовались картины «смешанных команд» — человеческих и автоматизированных, которые работают над достижением принципиально новых целей, но «поставленных исключительно людьми, входящими в эту команду» [15, с. 249].
Третья волна, которую человечество переживает в настоящий момент, связана с передачей машинам и сложным алгоритмам распорядительных (исполнительных) функций, точнее — при выполнении сложных задач, при обработке различных данных, моделировании различных сценариев и расчете возможных траекторий реагирования автоматизированные алгоритмы и системы искусственного интеллекта незаметно перешли грань между чисто экспертным, совещательным режимом функционирования к реализации распорядительных функций[3]. По прогнозам многих аналитиков и экспертов в сфере развития системы искусственного интеллекта новая эпоха в развитии человечества начнется, когда произойдет процесс «самоорганизации машин» (машинного филума), когда все вышеназванные функции, выполняемые различными цифровыми технологиями, интегрируются в одну автономную систему.
В целом позиция по отношению к процессам развития сквозных цифровых (дизруптивных) технологий (понятие собирательное, отражающее целый спектр инновационных цифровых технологий — систем искусственного интеллекта, автономных цифровых алгоритмов, роботизированных технологий, цифровых форм виртуальной дополненной реальности и т.д.) в современной научной литературе и в экспертном сообществе достаточно неоднозначная. Здесь существуют различные регистры мыследеятельности, в каждом из которых предлагается свой вариант проективного будущего. Рассмотрим их более содержательно.
II.
Основные регистры современной мыследеятельности в проектировании будущего. Обращаясь к современной трансформации социальной организации, можно выделить условно четыре основных регистра мыследеятельности, в рамках которых представляются теоретико-методологические разработки, соответствующие последним категориально-понятийный аппарат, специфические подходы к моделированию и прогнозированию будущего человеческого развития. В качестве таких основных регистров можно выделить: 1) институционально-технологический регистр; 2) конфликтологический регистр; 3) регистр цифровой эволюции; 4) прагматический регистр.
- Институционально-технологический регистр, в рамках которого представлены две основные теоретико-методологические ориентации: технологическая и инструментальная. В первом случае речь идет о так называемых технологических протезах, концептуальные основы которых заложили З. Фрейд и его последователи (А. Бретон, В. Вундт, Э. Фром, К.-Г. Юнг и др). В рамках данного направления обосновывается, что на каждом этапе эволюции человек создает всё новые и более совершенные технологии, которые становятся продолжением человеческого, улучшая его телесность, моторику, сенсорные способности и проч.[4] Данный подход весьма авторитетен и сегодня, в его рамках современная четвертая промышленная революция интерпретируется в качестве нового витка совершенствования «цифровых протезов» человека, которые представят ему принципиально новые возможности, улучшат или существенно усилят его биологические возможности, социальные навыки и проч. [14; 27; 44; 50].
Инструментальный подход весьма близок к предшествующим теоретико-методологическим установкам. Он трактует современные изменения в общественно-политической, социально-экономической и правовой жизнедеятельности в качестве очередного этапа совершенствования человеческих инструментов, продолжающих и(или) функционально его (человека) замещающих. При этом допускается автономность данных технологий на уровне совещательном, вспомогательном, обеспечивающем, т.е. функционирующем в инструментальном режиме[5]. В то же время за человеком остается «фундаментальное право» на принятие решений и реализацию распорядительных функций [34].
Особый акцент на инструментальную природу развития современных сквозных цифровых технологий делают представители юридической науки. К наиболее часто обсуждаемым вопросам в этой связи можно отнести защиту интеллектуальных прав, сохранность персональных данных, способы автоматизации правотворчества и правоприменения, модернизацию способов публичного управления и воздействия, способы защиты цифровой публичной инфраструктуры и др. [24; 30; 46; 47]. В условиях возрастающих амбиций государства в сфере контроля виртуального пространства особое внимание приобретают вопросы, касающиеся обеспечения неприкосновенности частной виртуальной жизни граждан, тайны переписки, телефонных переговоров, свободы слова в интернете и др. [22; 25].
- В рамках конфликтологического регистра проблематизируются формы и режим совместного функционирования людей и цифровых актантов, действующих и влияющих на людей и их организацию цифровых технологий, автономных роботизированных систем, искусственного интеллекта и т.д. Главная проблематика здесь — это противостояние человеческого и искусственного интеллекта. В основном это целый спектр конфликтов между человеческой и цифровой реальностью, который анализируется в четырех ключевых направлениях:
- это, с одной стороны, противостояние человеческих агентов, их социальных интересов и потребностей в свободной циркуляции информации, с другой — необходимых ресурсов для машинного обучения и эволюции последних в более сложные алгоритмические единства [36]. Тем не менее проектируемое будущее здесь выглядит вполне оптимистично, при сохранении своей изначальной природы (естественной/социальной и искусственной/цифровой) первые и вторые создадут единую среду обитания, совместный «режим реальности», где произойдет переплетение цифрового и социального. Данное переплетение породит новый качественный формат жизнедеятельности — «иномир», т.е. «изготовит иномир и запустит его вместе с первозданным миром, пока не заработает единая система реальности, основанная на двойной движущейся силе» [6, с. 97];
- подчинение сквозных цифровых технологий, в частности систем искусственного интеллекта, человеку. При этом обосновывается, что противостояние людей и «машин» возможно урегулировать путем создания соответствующей доктринально-правовой и нормативно-правовой основы, а также целой системы этических и иных деонтологических кодексов, кодирующих процессы разработки, внедрения и эксплуатации автономных цифровых технологий, роботизированных систем и проч. [39]. Все новые цифровые сущности и технологии должны «вступить» на службу человечеству для решения накопившихся проблем и противоречий, что откроет новый путь к социально-экономическому, политическому, правовому, культурному и другому развитию [12; 26; 29]. Цифровые технологии и роботизированные системы рассматриваются здесь в качестве новой технологической революции (четвертая технологическая революция [48; 53]) и принципиально новой формы в организации человеческих сообществ [17]. Другими словами, распространение и развитие последних дает шанс человечеству выжить в условиях жестко ограниченных ресурсов (осуществляя эксплуатацию «новых цифровых орудий производства»: в отраслях высоких технологий (HighTech) в промышленности, высокотехнологичных финансовых услуг (FinTech), высокотехнологичного образования (EdTech), высокотехнологичного сельского хозяйства (Agriculture 4.0), электронной торговли (e-commerce) [53]), а также знаменует кардинальный сдвиг в организации человеческой жизнедеятельности по аналогии с «неолитической революцией» (когда человечество выжило путем смены своей организации и формы жизнедеятельности);
- данное противостояние закончится, по-видимому, проигрышем человечества. Машины и технологии развиваются настолько быстро, что появляется угроза существованию самого человека как биологического вида. Появление новых роботизированных технологий и систем искусственного интеллекта приведет к тому, что «в долгосрочной эволюционной перспективе люди и всё, о чем они когда-то думали, станут всего лишь примитивной переходной формой, предшествующей более глубокому мышлению новой машиноориентированной культуры, простирающейся в отдаленное будущее» [13]. Соответственно, в конкурентной борьбе человечество проиграет в силу слабости и примитивности естественного интеллекта перед возможностями систем искусственного интеллекта. Это новый виток эволюционного развития, при котором человечество и его организация уступают место более совершенной техно-цифровой цивилизации: «Когда машины разовьют способность чувствовать, а они это сделают, то начнут по-дарвински конкурировать с нами за доступ к ресурсам, выживание и возможность к воспроизводству» [13], т.е. создание искусственным интеллектом нового искусственного интеллекта не только в формате воспроизводства, но и в режиме расширенного воспроизводства, на более высоком уровне[6];
- это проективное будущее, в рамках которого противостояние человека и цифро-роботизированного завершается присоединением первого к системе искусственного интеллекта посредством оцифровки его сознания и «вгрузки» в искусственную цифровую среду. Единственным позитивным для человечества сценарием развития в противостоянии машинной/цифровой и человеческой культуры является именно полное «погружение» человеческого сознания в разумную цифровую среду. Как правило, здесь анализируются и проектируются два сценария будущего. Каждый из сценариев обосновывает то, что человек преодолеет биологические и институциональные (существующие культурные нормы, ценностные иерархии, этические запреты и проч.) рамки и полностью перейдет в «цифровой иномир».
В рамках первого сценария предполагается появление цифровых субъектов и цифровых копий, которые станут новым вызовом для упорядочивания и нормирования системы, что приведет естественным образом к созданию принципиально новых нормативных систем (наподобие правовой системы в традиционной общественной организации). Например, Дж. Чёрч, специалист в генетике Гарвардской школы медицины, по этому поводу отмечает, что «если я скопирую свой мозг (или тело), получит ли он право голосовать или его следует считать дубликатом? Примем к сведению, что даже точные дубликаты личности с первых секунд существования начинают отличаться от оригинала, а, кроме того, копия может содержать преднамеренно внесенные несоответствия» [13]. В рамках второго сценария эта проблема полностью устраняется, поскольку создание новой цифровой реальности предполагает преодоление не только биологического, но и всего социально-культурного и, прежде всего, понятия индивидуальной личности. Так, бывший президент королевского научного сообщества Мартин Рис предполагает «более оптимистичный сценарий: люди превзойдут биологию и сольются с компьютерами, быть может, отдавая свои личности для создания общего сознания» [13].
3. Регистр цифровой эволюции. Данное направление в ряде проектируемых положений близко к предшествующим подходам, тем не менее отличительной чертой является акцентуация внимания не на проблематике противостояния машинной и человеческой культур (подавляющее большинство представителей данного регистра мысли убеждены, что проблема противостояния — это надуманная проблема, навеянная фантастическими романами и кинематографом), а на механизмах эволюционного развития и конвергенции последних. В рамках данной группы исследований обосновывается, что цифровая трансформация общественных отношений ведет к принципиально новому социальному укладу и режиму функционирования политических, экономических, правовых и других социальных институтов.
Данная траектория развития сквозных цифровых технологий ведет к новой форме технологической организации — «связке» процессов социальной самоорганизации и «машинного филума» (термин Ж. Делеза и Ф. Гваттари, применяемый для отражения процессов самоорганизации и саморазвития различных систем не только биологических и социальных, но и технологических [19]). При этом произойдет конвергенция человеческого и искусственного интеллекта, биологических и цифровых алгоритмов. Главным двигателем эволюции станет не противостояние цифрового и социального, а их конвергенция, которая в конечном итоге создаст новые субъекты мировой истории (роботов, цифровые личности, искусственный интеллект и т.п.), кардинально новый мир и систему отношений. Ключевым субъектом этой новой истории станет, например, Homo Deus как новый виток эволюции, т.е. новая сущность, возникшая в «конвергенционном сплаве» различных технологий (генная инженерия, биотехнологии, цифровизация и алгоритмизация Homo Sapiens [49]).
4. Прагматический регистр в проектировании будущего обосновывает, что сквозные цифровые технологии и инновационные формы в организации общественного взаимодействия кардинально меняют (пока не равномерно в разных сферах жизнедеятельности общества) политический, правовой, экономический ландшафт организации общества, «вводят» новую дифференциацию и разграничение людей, связанных не столько с социокультурными статусами, материальными или символическими ресурсами, а с доступом к информационным ресурсам, инновационным технологиям, к «точкам» информационного обмена и т.д. В этом плане традиционные социокультурные основы и формы идентификации, биологические (естественные) и социально-политические (искусственные) дифференциации сменяются трудно прогнозируемыми цифровыми факторами и доминантами.
В то же время представители данного регистра мысли доказывают, что все эти технологии и инновационные формы полностью не стирают и не разрушают социокультурные формы организации стабильности и социокультурной целостности, устойчивые традиции, духовно-нравственные стандарты и требования. Напротив, исследователи пытаются проанализировать процессы адаптации социокультурных оснований общества и новых цифровых форм эволюции общественных систем [40]. Так, например, показывается, что социокультурные формы, с одной стороны, активно востребованы в процессе структурирования и идентификации онлайн-сообществ, виртуального мира и взаимодействия в дополненной реальности, с другой — «переводя в цифру» часть традиционных форм общественно-политического взаимодействия, цифровые системы и алгоритмы (в процессе машинного обучения), кроме «цифровых траекторий развития», получают также и оцифрованную социокультурную специфику эволюции конкретных общественных отношений.
Поэтому в рамках данного регистра отстаивается положение о том, что в современном обществе наблюдается конвергенция социокультурных и цифровых форм, практик и способов взаимодействия, а сквозные технологии (Интернет вещей, виртуальная и дополненная реальность) не «вытесняют» и не «замещают» социокультурные образы, представления, символы, устойчивые формы и практики, а, напротив, переплетаются с ними, в результате и первые, и вторые адаптируются и используют ресурсы друг друга [5].
В рамках перспектив развития систем искусственного интеллекта представители данного направления отмечают, что само это понятие используется некорректно, в качестве абстрактной научной метафоры, уводящей мыследеятельность человека от ключевых характеристик этих систем. Это, в свою очередь, искажает и формулируемые прогнозы. С позиции последних речь нужно вести не об искусственном, а о спроектированном интеллекте[7], который на первом по крайней мере этапе будет полностью проектироваться человеком. А это значит, что здесь на первый план выходят технические и этические стандарты, регламентирующие разработку, внедрение и эксплуатацию данных систем. Это решающий этап, когда социальное и цифровое могут быть гармонизированы и адаптированы к друг другу.
Одной из ключевых проблематик в данном направлении, помимо рассмотренных выше, являются вопросы кардинальной трансформации публично-властных отношений в обществе. В целой серии исследований проблематизируются понятие власти в XXI в. и специфика публично-властных отношений в цифровую эпоху [7; 8]. Прежде всего кардинальные изменения связываются с тем, что реальные центры власти и принятия управленческих решений «уходят» с публичной авансцены и сосредотачиваются в «темных» секторах, «скрытых» и недоступных для контроля в пространствах. Например, сегодня «лучший способ получить ответ на вопрос о контроле в мире, полном умных машин, — понять ценности тех, кто фактически создает эти системы» [13].
При этом аргументируется, что в государственно-правовой организации общества формируются новые режимы осуществления власти, где реальные центры принятия решений концентрируется «за обществом», «вне» сложившейся и действующей системы публично-властных отношений. Данные центры власти функционируют в скрытом и неподконтрольном режиме, размещаются в «тени» традиционной публично-властной организации, представляют собой сеть взаимодействия различных акторов, которые финансируют, разрабатывают цифровые коды, программы, алгоритмы, а также тех, кто обеспечивает процесс их внедрения в жизнедеятельность общества, обеспечивает эксплуатацию автономных алгоритмических технологий и комплексов [55; 58]. Другими словами, властные отношения не только опосредуются и регламентируются сложной инфраструктурой, которая скрыта от социального контроля, общественного влияния, но и реально находятся за разворачивающимися социально-экономическими, политико-правовыми и иными социально значимыми процессами в обществе. При этом восприятие и оценка политических событий и процессов тончайшим образом формируется информацией, «представляемой нам по совсем не случайным причинам, которая, однако, не раскрывает лежащий за ней интерес» [15, с. 240].
III.
«Проективное будущее» как аттрактор. Итак, как отмечалось выше, «проективное будущее» является ключевым в повестке дня, выступает основополагающим «драйвером» политико-правовой и социально-экономической трансформации, особой матрицей (конечно, в зависимости от того или иного регистра мысли) в оценке протекающих событий и процессов. В этом качестве «проектируемое будущее» становится аттрактором (от лат. стягивать, притягивать), служащим не конкретной причиной или фактором, а некоторой динамичной областью, притягивающей разновекторные траектории развития социальных, биологических, цифровых, культурных, политических, правовых феноменов. Считаем данный термин[8] вполне адекватным для описания сложных и неоднородных процессов, протекающих в современном обществе, а также для представления связи и взаимовлияния разнообразных траекторий развития, по логике не связанных, но пересекающихся в данной области.
Такая исследовательская оптика позволяет увидеть «движущиеся силы множества (не структурированные и не подчиненные социальной иерархии или действующему институциональному порядку — авт.) классических систем (биологических, социальных, физических, цифровых — авт.), которые притягивались к минимальной точке пространства возможностей — аттрактору, определяющему их долгосрочные тенденции развития. В биологических и социальных науках <…> мы до сих пор не имеем подходящих формальных инструментов для изучения структуры гораздо более ложных пространств возможностей» [18, с. 41]. Одним из таких инструментов может стать рассмотрение определенного пространства возможностей (аттрактора), которое стягивает разнообразные траектории развития сложных систем (например, биологической, цифровой, социальной) и обусловливает их временную «сцепку» и совместные тенденции. Иными словами, аттрактор формирует область возможностей, которую заранее невозможно спрогнозировать путем рассмотрения отдельных устойчивых траекторий конкретных систем.
Применительно к современной ситуации можно с уверенностью сказать, что сегодня проблема не в том, что мир меняют новые технологии или новые биологические вызовы (например, Covid-19), но и в том, что изменяется сама общественно-политическая и социально-правовая мыследеятельность, которая порождает и развивает данные технологии, а также общественная практика, которая формирует определенные условия трансформации форм социальной жизни (например, в период пандемии).
Другими словами, нельзя однозначно сказать, что цифровые технологии выступают главной причиной трансформации политико-правовой реальности, что именно они — «главный виновник» смены парадигм и разрушитель устойчивых традиционных форм организации. Это будет весьма односторонне. Нужно посмотреть иначе — комплексно, ведь и новый тип политико-правового мышления формирует сами возможности для появления и специфического направления развития сквозных цифровых технологий. Точно так же не только биологические угрозы порождают особую траекторию функционирования политико-правового режима, но и особый тип общественной мыследеятельности обусловливает сценарий и динамику развития последнего в период пандемии. В этом плане представляется более адекватной теоретико-методологическая стратегия исследования, которая исходит из «равнозначимости» и взаимодействии социального, биологического и цифрового. Именно их совместная связка и действие определяют будущие тенденции развития последних.
Первое, что предстает перед нами, когда мы начинаем исследовать влияние этой «равнозначимости» социального, биологического, цифрового, это то, что сегодня можно с уверенностью говорить: эпоха антропоцентризма «свертывается» как основополагающая повестка дня в развитии политических, правовых, социально-культурных систем. Человеческая активность сегодня соседствует с активностью и траекториями цифрового развития, а также сценариями или стратегиями биологических элементов/актантов[9] (примечательно, что в период пандемии стратегия развития самого вируса Covid-19 является ключевой для определения общественно-политических стратегий развития, а также для траекторий развития и внедрения цифровых технологий в общественную жизнедеятельность).
В этом плане достаточно важно рассмотреть взаимодействие различных систем и их взаимовлияние, увидеть то, как они резонируют и усиливают друг друга, действуют на изменение траекторий каждого из элементов, не образуя, однако, некоторого системного целого. Конечно, следует учитывать, с одной стороны, уникальность и специфичность действия каждого из факторов, например, влияние скорости распространения вируса на процесс выработки, принятия, легитимации социально и политически важных управленческих решений, динамики изменения самих политических решений, скорости развития противоречий в публично-властных отношениях, общественно-политической коммуникации и т.д. С другой стороны, необходимо иметь в виду развитие «эмерджентных эффектов» от их взаимодействия. Важным представляется взаимодействие и взаимовлияние цифровых форм, биологических факторов и социокультурных доминант, а также их совокупное воздействие (онтологически уникальное сочетание) на формирование общественно-политических событий.
При этом, как отмечалось выше, данные тенденции следует рассматривать в форме особых ассамбляжей, которые не образуют устойчивых системных или сетевых связей, но складываются в онтологически специфические группы разнородных элементов, друг друга усиливающих, совместно инициирующие определенные события в общественной жизнедеятельности и существенно влияющие на динамику разнообразных процессов (экономических, политических, правовых). Так, период пандемии, показывает, что в каждом обществе при действии универсальных форм противодействия угрозе формируются специфические общественно-политические режимы (виталистские режимы) функционирования основных политических и государственных институций, специфика которых усиливается цифровыми технологиями и социокультурными доминантами. Или в стратегию борьбы с вирусом встраиваются цифровые технологии и этнокультурная специфика политико-правовой коммуникации, характерная для определенного общества.
VI.
Ключевые тренды современного общественного развития. Если системно посмотреть на ключевые проблематики современности, которые обсуждаются в публичном пространстве, на решение которых направляются значительные ресурсы и управленческая активность государственных органов и различных институтов гражданского общества (политических партий и движений, общественных организаций, профессиональных ассоциаций, органов муниципальной власти и т.д.), то становится очевидным, что в настоящее время политико-правовой и социально-экономический процессы в обществе изменяются качественно и количественно. В чем эти принципиальные изменения?
Во-первых, в политическом пространстве современного общества кроме действующих, традиционных акторов (политические субъекты, субъекты права) появились и инновационные акторы (цифровые актанты, цифровые личности, автономные роботизированные алгоритмы и технологии), которые выступают не только цифровыми агрегаторами (т.е. посредством которых в настоящее время организуется и реализуется большая часть публичных отношений, разворачивается целое разнообразие общественного взаимодействия, функционируют современные системы политической коммуникации), но и являются значимыми, активными элементами (цифровыми и виртуальными актантами), поскольку действуют согласно своим цифровым стратегиям и траекториям машинного обучения.
При этом во многих сферах последние реализуют не только совещательные/экспертные функции, но и функционал распорядительного характера (например, в сфере обеспечения общественного порядка цифровые алгоритмы не только маркируют традиционные политические субъекты, выставляя им индексы криминогенности или социальный рейтинг благонадежности, но и представляют список адекватных мер реагирования и действия властных структур или самостоятельно принимают решения — блокирование доступа, изменение представляемого списка правомочий, возможных вариантов действия и проч.).
Здесь важно зафиксировать, что новые актанты активно оказывают воздействие (иногда даже существенно сильнее) не только на мыследеятельность традиционных политических субъектов, на характер взаимодействия и направления развития публично-властных отношений в системе личность — общество — государство, но и, что более важно, на выработку стратегий как в публичной, так и в индивидуальной (частной) сферах. Сегодня любой прогноз, любая стратегия будет неадекватна, если в них кроме поведенческих и иных социальных факторов не закладывается моделирование развития цифровых форм и технологий. Говоря иначе, современное общественно-политическое прогнозирование и публично-правовое управление уже не закладывают только «социальное» в качестве основополагающего элемента и доминирующего тренда. Традиционные социальные формы организации, социально-политические технологии управления, социальные тенденции развития являются значимыми, но не единственными факторами в динамике современных обществ.
Во-вторых, период пандемии, развернувшийся в глобальном пространстве, сформировал (или, скорее, акцентировал внимание) совершенно иную реальность развития общества, политики, властных отношений (ранее обсуждаемую, но на периферии научных изысканий), а именно особый виталистский режим функционирования политической системы. Виталистский режим представляет собой такой период, при котором доминирующим фактором и основополагающей проблематикой выступают не только общественные или групповые интересы, но также факторы биологического характера, где вопросы противодействия «вирусным стратегиям», природные риски и экологические угрозы становятся ключевыми в политической повестке дня, оттесняя иные проблематики — социально-экономические, культурные и проч.
При этом в современной политической и правовой теориях только разрабатываются исследовательские стратегии, в которых признается как определяющее влияние нечеловеческих элементов, так и «власть материального» в политико-правовом пространстве. Методологические интуиции современных философско-политических и социологических подходов ориентированы на попытку «втянуть» в исследовательское поле и описать роль и значение биологических, природных, материальных факторов в динамике и характере государственно-правовой организации и отношений. Преимущественно это осуществляется через представление особых сборок, ассамбляжей, т.е. группы разнородных и разносущностных элементов, взаимодействующих и взаимовлияющих, но не объединенных одной системой или сетью отношений и правил.
Здесь доказывается, например, что вирус может выступать в качестве квазиактора (биологического актанта) с собственной траекторией развития, которая существенно влияет на развитие публично-властных отношений, на политическую повестку дня и функционирование различных политических институтов, а политические стратегии вынуждены учитывать (или «вести переговоры» — метод, описываемый М. Каллоном [28]) стратегии развития самого вируса. Другими словами, источники действия, факторы развития политической и правовой систем или изменений конкретных политических или юридических институтов, стратегий, доктрин могут быть одновременно человеческими и нечеловеческими. Социальная организация не просто не образует отдельный регион или автономную искусственную среду жизнедеятельности человека, но и, самое главное, человек не способен полностью контролировать и управлять собственным регионом без осознания связанности и взаимодействия с другими регионами (биологическими, экологическими, цифровыми и т.д.). Однако главная проблема здесь это не только признание последнего, а разработка соответствующей и адекватной категориально-понятийной структуры и методологического арсенала, позволяющих концептуализировать это взаимодействие и взаимовлияние.
В-третьих, еще одним действующим, значимым и относительно автономным элементом в политико-правовой динамике являются ментально-культурные основания общества, которые выражаются в культурных первообразах и устойчивых представлениях, а также нормативно-ценностных ориентациях, задающие образцы общественно-политической жизнедеятельности людей и модели публично-властного взаимодействия. Данные элементы в социально-культурных исследованиях также рассматриваются в качестве активно действующих и влияющих актантов, которые вступают во взаимодействие с конкретными практиками и современными стратегиями, обусловливая формообразующие тенденции и направленности последующих социокультурных трансформаций.
С учетом вышеизложенного можно заключить, что в настоящее время востребована разработка исследовательской стратегии, которая ставит перед собой следующую задачу: проследить взаимодействие данных трех тенденций в современной политико-правовой организации, рассмотреть их в качестве «равнозначимых» и взаимовлияющих тенденций, меняющих социально-экономическую и политико-правовую реальность. Это предполагает и необходимость сформировать соответствующий исследовательский словарь, позволяющий концептуализировать и адекватно описать, с одной стороны, взаимодействие и взаимовлияние трех вышеобозначенных тенденций, с другой — происходящие в обществе радикальные изменения. В том числе предложить теоретико-методологический инструментарий исследования данных трех устойчивых тенденций современности, а в теоретико-практическом плане сформировать прогностические модели и сценарии их совместного развития.
Именно в соответствии с вышесказанным актуализируется необходимость формирования доктринально-правовых и нормативных актов, этических стандартов и нравственных требований к процессу разработки, внедрения и эксплуатации сквозных цифровых технологий в жизнедеятельность общества. В том числе необходима выработка ключевых направлений по совершенствованию юридической техники и развитию опережающего правотворчества, позволяющих адекватно кодировать принципиально новые отношения, складывающиеся под воздействием внедрения и применения сквозных цифровых технологий [46; 47]. В настоящее время жизненно необходимым для стабильного государственно-правового развития в XXI в. представляется разработка адекватных условиям и требованиям современной цифровой эпохи биологических угроз и экологических рисков целой системы деонтологических кодексов и этических стандартов, а также системы социально-правового контроля скрытых и теневых форм деятельности, связанных с разработкой, внедрением и эксплуатацией инновационных технологий, автономных алгоритмических систем и т.п.
[1] В настоящее время существует целое многообразие научных метафор, призванных разграничить прогрессистские проекты с гуманистским трендом развития общества, сложившиеся в Новое время, и протекающую трансформацию в ориентирах развития человечества в третьем тысячелетии — постгуманистическую. Так, например, Дж. Гриру полагает, что мы двигаемся в сторону новой парадигмы развития, которую он обозначает эпохой после прогресса, когда любое развитие связывается с целой системой ограничений и жесткими форматами экономии [52]. Адам Гринфилд обозначает современный период развития в качестве эпохи постгуманитарной повседневности, где основные ориентиры будущего развития и ключевые приоритеты трансформации «определяются не столько нашими потребностями, сколько потребностями систем (технических, информационных, цифровых — авт.), которые номинально служат нам, но для которых человеческое восприятие, соразмерные человеку масштабы и его желания не являются главными мерилами ценности (курсив наш — авт.)» [15, с. 249].
[2] Согласимся здесь с позицией А.Ю. Мордовцева, что национально-культурное содержание социальных систем в традиционной социально-правовой картине общественного развития выступает в качестве материала, «сопротивляющегося» различным инновациям и нововведениям. В свою очередь, теорию ментальности в контексте социогуманитарного знания можно рассматривать в качестве «сопромата», исследующего степень сопротивляемости «социокультурного материала» конкретным инновационным воздействиям и сохраняющим стабильность (упругость) правоментальной преемственности [37].
[3] Грань, или граница, между совещательным и распорядительным режимом функционирования «машин» (как собирательный образ всех современных сквозных цифровых технологий) впервые была стерта в сфере военных разработок. Так, в своем исследовании М. Деланда отмечает, что «различие между совещательными и распорядительными (исполнительными) способностями стирается в различных вариантах применения искусственного интеллекта (ИИ). Возможно, самый лучший пример исчезающего различия между чисто совещательной и распорядительной ролью компьютеров можно найти в области военных игр… Выводы, полученные из наблюдений за смоделированными Армагеддонами, устроенными боевыми роботами (компьютерные симуляции третьей мировой войны и других военных конфликтов — авт.), попали даже в стратегические доктрины и планы чрезвычайных ситуаций, можно сказать, что эти «робатизированные события» уже начали размывать границу между чисто совещательной и распорядительной ролью умных машин» [17, с. 7].
[4] Данную установку в мыследеятельности человека достаточно содержательно описал еще З. Фрейд, отмечая, что на каждом этапе эволюции человек создает всё новые и совершенные технологии, которые становятся продолжением его, улучшая его телесность, моторику, сенсорные способности и проч.: «Любым из своих орудий человек совершенствует свои органы — как моторные, так и сенсорные — или расширяет рамки их деятельности… Человек — это, так сказать, разновидность бога на протезах, весьма величественная, когда использует все свои вспомогательные органы, хотя они с ним не срослись и порой доставляют еще много хлопот» [43, с. 67].
[5] Такая инструментальная установка к цифровым технологиям характерна для доктринально-правового и нормативно-правового уровней регламентации развития общественных отношений. Это проявляется во многих стратегических документах, конвенциях, соглашениях, декларациях, модельных нормативно-правовых актах, этических стандартах и т.п. Например, в программном документе «Инициативы Франции в сфере робототехники» системы искусственного интеллекта и роботизированные технологии рассматриваются в качестве факторов промышленного и технологического прогресса, позволяющего обеспечить лидерство и преимущество страны, комфортность и полезность для человека [23]. В европейской Декларации о сотрудничестве в сфере искусственного интеллекта также вполне четко прослеживается разграничение человека и технологий, а также их инструментальное значение в общественных системах: «Обеспечить сохранение за человеком ключевой роли в процессе развития, применения и принятия решений в отношении ИИ, предотвращение действий, направленных на создание или использование вредоносных решений на основе ИИ» [16].
[6]Именно в этом аспекте ряд ученых и экспертов полагают, что необходимо разграничить, исходя из уровня воздействия на человека и последствий трансформации социальной организации, цифровые технологии (различные цифровые алгоритмы, системы блокчейна, роботизированные аппараты и т.д.) и метатехнологии, к которым относятся системы искусственного интеллекта: последние «в действительности являются метатехнологией, т.е. технологией, которая способна разрабатывать другие технологии либо совместно с людьми, либо даже автономно (что еще больше усложняет анализ вероятных последствий)» [13].
[7] Справедливо в этом плане отмечает физик-теоретик Пол Девис, что, когда мы размышляем об искусственном интеллекте, «в действительности мы имеем в виду спроектированный интеллект. В просторечии такие слова, как «искусственный» и «машина», используются как антонимы слова «естественный» и содержит намеки на металлических роботов, электронные схемы и компьютеры, которым противопоставляются живые, пульсирующие, мыслящие биологические организмы. Сама идея о том, что у металлической штуковины, начиненной проводами, могут быть права или что она вдруг не подчинится людским законам, не просто жутка — она абсурдна» [13]. Это совершенно не то направление, в котором развиваются сегодня системы спроектированного интеллекта, спроектированный разум в своей основе имеет «синтетическую биологию и органические материалы, в которых выращенные из генетически модифицированных клеток нейронные сети станут произвольно самоорганизовываться в функциональные модули» [13].
[8] Термин «аттрактор» пришел в социальные науки из классической физики и достаточно активно используется в социальной синергетике, различных философских и социологических подходах (акторно-сетевая теория, объектно-ориентрованная онтология и т.д.) для описания некоторой совокупности условий, «при которых выбор путей эволюции разных систем происходит по сходящимся траекториям и в конечном итоге как бы притягивается к одной точке. Наглядно это можно представить в виде конуса бытовой воронки, направляющего движение частиц жидкости или сыпучих тел (например, песка) к своему центру (вершине конуса — горловине воронки) независимо от первоначальных траекторий. Пространство внутри конуса воронки (аттрактора), где любая частица (система), попавшая туда, постепенно смещается в заданном направлении, называют зоной “аттрактора”» [4]. Привлечение такого понятия позволяет многим исследователям «освободиться» от смысловых коннотаций и ангажированности традиционных категорий и понятий, подчеркнуть междисциплинарный характер, а также связанность различных траекторий социальных и не социальных явлений и процессов (как в случае с акторно-сетевой теорией [31; 32]).
[9] Понятие «актант» в современных исследованиях отражает действующую силу, влияние (физическое, символическое, психологическое, эмоциональное), которые могут оказывать не только традиционные субъекты (экономические, политические, правовые), но и не человеческие (цифровые, материальные, биологические). Данное понятие весьма кстати в новой цифровой эпохе, поскольку позволяет описать влияние не человеческих сущностей (технологий, систем, алгоритмов и т.д.) на общественное взаимодействие, мыследеятельность и жизненные стратегии индивидуумов. Один из известных представителей современной виталистской теории Джейн Беннетт так высказывается по этому поводу: «Актант может быть человеком, или не человеком, или, что более вероятно, комбинацией этих двух <…> актант служит заменой тому, что в более «субъектоцентричном» словаре именуется агентом. Способность действовать теперь понимается как нечто такое, что дифференциально распределено по широкому диапазону онтологических типов» [28, с. 33]. В своей эволюции человек всегда двигался совместно с различными материальностями, изобретенными вещами, технологиями и прочим, разрывая эту связку мы не сможем адекватно описать кардинальные изменения и основополагающие траектории развития: «Люди и не люди всегда исполняли друг с другом замысловатый танец. Не было такого времени, когда человеческая агентность являлась чем-то иным, нежели складчатой сетью людей и не людей; игнорировать их смешение сегодня становится всё труднее» [28, с. 57].
1. Altermatt U. Ethnonationalism in Europe. Moscow: RSUH Publishing center, 2000, 366 p.
2. Armstrong K. Battle for God: the history of fundamentalism. Moscow: Alpina non-fiction, 2013. 502 p.
3. Armstrong K. The story of God: 4,000 years of searching in Judaism, Christianity, and Islam. 3rd ed. Moscow: Alpina non-fiction, 2011. 498 p.
4. Afanasiev V.G. The World of the living: system, evolution and management. Moscow: Politizdat, 1986. 334 p.
5. Baranov P.P., Mamychev A.Yu. Digital transformation of law and political relations: main trends and guidelines. Baltic humanitarian journal. 2020, no. 1(30), pp. 357-361.
6. Barikko A. The Game. Igra. Moscow: Kolibri, Azbuka-Atticus, 2019. 352 p.
7. Butler J. Notes on the performative theory of Assembly. Moscow: Ad Marginem Press, 2018. 248 p.
8. Butler J. Psychology of power: theory of subjectivity. St. Petersburg: Aleteia, 2018. 160 p.
9. Beck U. Power and its opponents in the era of globalization. New world-political economy. Moscow: Progress-Tradition, 2007. 459 p.
10. Beck U. Risk society: On the way to another modern. Moscow: Progress-Tradition, 2000. 383 p.
11. Berman G.J. Faith and law: reconciliation of law and religion. Moscow: Moscow school of political research, 2008. 463 p.
12. Baldwin R. The Great convergence: information technologies and the new globalization. Moscow: Delo Publishing house, Ranepa, 2018. 416 p.
13. Brockman J. What do we think about machines that think: The world's leading scientists on artificial intelligence. Moscow: Alpina-Non-fikshin, 2017. 552 p. URL: https://www.litmir.me/br/?b=592732&p=1 (accessed 30 April 2020).
14. Wundt V. Problems of psychology of peoples. Moscow: Academic project, 2010. 136 p.
15. Greenfield A. Radical technologies: the device of everyday life. Moscow: Delo Publishing house, Ranepa, 2018. 424 p.
16. Declaration on cooperation in the field of artificial intelligence. Robopravo. URL: http://robopravo.ru/initsiativy_frantsii_v_sfierie_robototiekhniki_2013_2.
17. Delanda M. War in the age of intelligent machines. Moscow: Cabinet scientist; Institute of General humanitarian research, 2014. 338 p.
18. Delanda M. New philosophy of society: Assemblage theory and social complexity. Perm: Gile Press, 2018. 170 p.
19. Deleuze Zh. Guattari F. Capitalism and schizophrenia. Book 2. A thousand plateaus. Yekaterinburg: U-Factoria; Moscow: Astrel, 2010. 892 p.
20. Dugin A.G. Postphilosophy. Three paradigms in the history of thought. Moscow: Eurasian movement, 2009. 744 p.
21. Zakaraya A. Homo Futurus. Cloud World: evolution of consciousness and technology. Moscow: AST, 2019. 368 p.
22. Zorkin V.D. Law in the digital world. Russian newspaper. 2018. May 30. URL: http://alrf.ru/news/pravo-v-tsifrovom-mire-vystuplenie-valeriya-zorkina-na-pmyuf/.
23. French Initiatives in the field of robotics. Robopravo. URL: http://robopravo.ru/initsiativy_frantsii_v_sfierie_robototiekhniki_2013 (accessed 17 February 2019).
24. Inshakova A.O. Law and information and technological transformations of public relations in the conditions of industry 4.0. Legal Concept. 2019, no. 18(4), pp. 6-17.
25. Kartsiya A.A. Digital imperative: new technologies create a new reality. IP. Copyright and related rights. 2017, no. 8, pp. 17-26.
26. Kelly K. Inevitably. 12 technological trends that determine our future. Moscow: Mann, Ivanov and Ferber, 2017. 347 p.
27. Kovalchuk M.V., Naraikin O.S., Yatsishin E.B. Technology that resembles nature: new opportunities and new challenges. Bulletin of the Russian Academy of Sciences. 2019, no. 89(5), pp. 455-465.
28. Collon M. Some elements of the sociology of translation: training of sea scallops and fishermen of the Bay of Saint-Brieuc. Logos. 2017, no. 2(117), pp. 49-94.
29. Coleman S. Can the Internet strengthen democracy? St. Petersburg, 2018. 132 p.
30. Larina E.S., Ovchinsky V.S. Artificial intelligence. Big data. Crime. Moscow: Knizhny Mir, 2018. 416 p.
31. Latour B. Reassembly of the social. Introduction to actor-network theory. Moscow: Publishing house of the Higher school of Economics, 2014. 500 p.
32. Lo J. After the method: disorder and social sciences. Moscow: Gaidar Institute Publishing house, 2015. 352 p.
33. McAfee A., Brynjolfson E. Machine, platform, crowd. Our digital future. Moscow: Mann, Ivanov and Ferber, 2019. 320 p.
34. Mamychev A.Yu., Miroshnichenko O.I. Modeling the future of law: problems and contradictions of legal policy in the field of regulatory regulation of artificial intelligence systems and robotic technologies. Legal policy and legal life. 2019, no. 2, pp. 125-133.
35. Mamychev A.Yu., Mordovtsev A.Yu., Ovchinnikov A.I. National and cultural foundations of Russian statehood and legal policy. Vladivostok: VSUES Publishing house, 2015. 241 p.
36. The world in the digital age: politics, law, economics in the XXI century: monograph. Moscow: RIOR, 2020. 216 p.
37. Mordovtsev A.Yu. Russian statehood in the mental and legal dimension. Doctoral thesis. 23.00.02. Rostov-on-the-Don, 2004. 330 p.
38. Piketty T. Capital in the XXI century. Ad Marginem Press, 2015. 592 p.
39. Robots declare their rights: doctrinal and legal bases and moral and ethical standards for the use of autonomous robotic technologies and devices: monograph. Moscow: RIOR, 2020. 349 p.
40. Sociocultural (archetypal and mental) foundations of public-power organization of society: monograph. Moscow: RIOR; INFRA-M, 2020. 187 p.
41. Srnichek N. Platform. Capitalism. Moscow: Izd. Dom Higher school of Economics, 2019. 128 p.
42. Urri G. What the future looks like. Moscow: Delo Publishing house, Ranepa, 2018. 320 p.
43. Freud Z. Discontent culture. Z. Freud Psychoanalysis. Religion. Culture. Comp. and the introduction of art. by A.M. Rutkevicha. Moscow: Renaissance, 1991. Pp. 65-134.
44. Fromm E. Flight from freedom. Moscow: AST Publishing house, 2016. 310 p.
45. Habermas Yu. Split West. Moscow: Publishing house “All the World”, 2008. 192 p.
46. Khabrieva T.Ya. Law in the conditions of digitalization. Ser. 189 “Selected lectures of the University”. St. Petersburg, 2019.
47. Khabrieva T.Ya. Law before the challenges of digital reality. Journal of Russian law. 2018, no. 9(261), pp. 5-16.
48. Schwab K. The fourth industrial revolution. Moscow: Exom Publishing house, 2019. 208 p.
49. Yuval Noah Harari. Homo Deus-a brief history of tomorrow. Moscow, 2018. 630 p.
50. Jung K.-G. Problems of the soul of our time. Moscow: Publishing house Peter, 2019. 416 p.
51. Frolova E.E., Ermakova E.P., Protopopova O.V. Consumer protection of digital financial services in Russia and abroad. Advances in Intelligent Systems and Computing. 2020, vol. 1100, pp. 76-87.
52. Greer J.M. After Progress. Cabriola Island, BC: New Society Publishers. 2015. 328 p.
53. Inshakova A., Frolova E., Rusakova E., Kovalev S. The model of distribution of human and machine labor at intellectual production in industry 4.0. Journal of Intellectual Capital. DOI: https://doi.org/10.1108/JIC-11-2019-0257. (accessed 06 May 2020).
54. Law J. Technology and Heterogeneous Engineering: The Case of Portuguese Expansion. Ed. by W.E. Bijker et al. The Social Construction of Technological System: New Directions in the Sociology and History of Technology. Cambridge, MA: MIT Press, 2012, pp. 105-127.
55. Pasquale F. The Black Box Society: The Secret Algorithms Behind Money and Information. Cambridge, MA: Harvard University Press, 2015.
56. Pergusson Y.H., Mansbach R.W. Technology and the Transformation of Global Politics. Paper prepared for the 2000 Annual Meeting of International Studies Association. Los Angeles, March, 2000.
57. Rusakova E.P., Frolova E.E., Gorbacheva A.I. Digital rights as a new object of civil rights: Issues of substantive and procedural law. Advances in Intelligent Systems and Computing. 2020, vol. 1100, pp. 665-673.
58. Salthouse T.A. When Does Age-Related Cognitive Decline Begin? Neurobiology of Aging. 2009, no. 30(4), April, pp. 507-514.