VII Петербургский международный юридический форум

Дмитрий Медведев принял участие в пленарном заседании форума на тему «Право в глобальном контексте».

Приветственное слово Министра юстиции Александра Коновалова

Выступление Дмитрия Медведева на форуме

Выступление председателя Национального совета Швейцарии Юрга Шталя

Выступление главного технического директора компании AliExpress Дунбая Го

Выступление исполнительного директора Центра технологий блокчейн Университетского колледжа Лондона Паоло Таски

Выступление глобального бизнес-консультанта по когнитивным технологиям корпорации IBM Шонны Хоффман-Чилдресс

Выступление профессора права и общества юридического факультета Университета Гриффит Джона Флауда

Заключительное слово Дмитрия Медведева

Международный юридический форум в Санкт-Петербурге учреждён в 2011 году и является крупнейшей площадкой для диалога политиков, юристов, экономистов и учёных, представляющих все основные экономические и правовые системы.

Цель форума – продвижение идей модернизации права в условиях глобальных изменений, в том числе решение задач в сфере улучшения взаимодействия правовых систем и выработки единых подходов к решению проблем развития права в современном мире, модернизации российского права с учётом лучшего опыта зарубежного нормотворчества и правоприменения, содействия развитию современной юридической науки и юридического образования в России и в мире.

Основные темы форума в этом году – регулирование современных технологий и их влияние на развитие профессии, антимонопольное регулирование, финансовая и инвестиционная политика, российско-азиатское сотрудничество, регулирование рынка культурных ценностей. Тема пленарного заседания – «Право в глобальном контексте».

Из стенограммы:

VII Петербургский международный юридический форум. Выступление Александра Коновалова

А.Коновалов: Дамы и господа! Я рад приветствовать вас на открытии пленарного заседания Петербургского международного юридического форума. В седьмой раз в Санкт-Петербурге собрались ведущие юристы всего мира, для того чтобы обсудить в открытом профессиональном диалоге самые актуальные вопросы современного права и правоприменения. Несмотря на чрезвычайное многообразие их деловых специализаций, их профессиональных интересов, тем, которые они будут обсуждать, каждый год в основе форума лежат два незыблемых элемента. Во-первых, это высочайший профессионализм спикеров и качество дискуссий. Во-вторых, это общая, генеральная миссия форума – содействовать оптимизации права и правоприменения, взаимопониманию юристов в целях всеобщего блага, благополучия, справедливости нашей цивилизации.

Тем не менее, сохраняя верность этим базовым направлениям, каждый год форум предлагает какие-то новые оттенки юридической мысли, новые темы для обсуждения. Этот год тоже не станет исключением. Сквозной темой встреч юристов на этом форуме будет взаимодействие и взаимное соотношение права и новейших технологий. Во многом этой тематикой и оправдан состав спикеров сегодняшнего пленарного заседания. Будут обсуждены как никогда широко и конкретно вопросы несостоятельности и банкротства в рамках I Международного форума по банкротству.

Как всегда, будут рассмотрены самые актуальные, новейшие аспекты правоприменения в сфере частного права, финансов, инвестиций, иных основных отраслей правоприменения, которые в наибольшей степени интересуют юристов и получателей их услуг.

Ещё одна новелла, которая вас наверняка заинтересует. Нынешний год богат на юбилеи. Один из них – это 120-летие учреждения Нобелевского комитета, который сейчас вручает самую престижную, самую известную премию за достижения в научной сфере. Юристы, как мы знаем, эту премию не получают, и мы считаем это несправедливым. Потому что, во-первых, к самому учреждению Нобелевского комитета юристы отчасти имели отношение, поскольку в основе этого проекта лежал частноправовой акт – завещание господина Нобеля. Кроме того, некоторые сферы научного познания, например математику, Нобель сознательно исключил из числа сфер, в которых поощряются научные достижения его премией. Но юриспруденция к числу таких исключённых наук не относилась – по крайней мере в пользу этого нет никаких достоверных подтверждений. Но шутки в сторону. Мы считаем, что сегодня у нас есть возможность восполнить этот пробел. И по инициативе Петербургского юридического форума, поддержанной ведущими правоведами мира, ведущими учебными и научными школами мира, учреждается премия Петербургского международного юридического форума за наиболее выдающиеся работы в сфере частного права, гражданского права, международного частного права. Помимо того, чтобы стать очень важным источником для новых подходов и технологий в практическом правоприменении, эта премия призвана напомнить всем нам о том, что право – это не только и не столько ремесло, а в значительной степени наука, идеология, философия жизни, следование которым способно сделать наш мир гораздо более гармоничным и справедливым.

Желаю вам всем успехов и плодотворных дискуссий на площадках форума.

Д.Медведев: Добрый день, уважаемые коллеги! Добрый день, дамы и господа! Я хочу сердечно поприветствовать участников и гостей форума, тех, кто прибыл в наш родной город!

Форум проводится уже в седьмой раз и является крупнейшей в мире площадкой, которая объединяет юристов различных специализаций, различных правовых систем. Сюда приезжают адвокаты, корпоративные юристы, судьи, прокуроры, нотариусы, государственные служащие, работники различных международных структур, молодые специалисты (что, наверное, особенно важно) и, конечно, опытные руководители юридических фирм.

В этом году в работе форума участвуют более 3,5 тыс. гостей из 70 стран.

Уверен, что участие в работе форума будет не только интересным, но и полезным для всех, кто присутствует сегодня в здании Главного штаба в Петербурге, а также для тех, кто смотрит наш форум в режиме трансляции в интернете – это реалии сегодняшнего дня.

Аудитория нашего форума действительно становится всё более и более глобальной, в том числе и поэтому для пленарного заседания нашего форума была выбрана тема – «Право в глобальном мире». Так же, как и перед другими специалистами, перед юристами стоит задача понять, где сегодня находится место нашей профессии в новой мировой системе координат.

Конечно, с одной стороны, мы обязаны обеспечивать верховенство права, проводить в жизнь основные правовые принципы, поддерживать доверие к закону в обществе, стабильность правовых отношений в экономике.

С другой стороны, мир между нами и вокруг нас не является статичным. Вместе с новыми знаниями приходят и новые угрозы, и значит, мы должны более адекватно реагировать на них.

Д.Медведев: «Надо уметь интерпретировать действующие нормы так, чтобы именно право оставалось главным способом разрешения конфликтов в нашем обществе на любом уровне. Право – это именно тот инструмент, который позволяет устанавливать равновесие между традицией и модернизацией в  глобальном мире».

Надо уметь интерпретировать действующие нормы так, чтобы именно право оставалось главным способом разрешения конфликтов в нашем обществе на любом уровне. Право – это именно тот инструмент, который позволяет устанавливать равновесие между традицией и модернизацией в  глобальном мире.

При этом нужно понимать, что мы живём в эпоху так называемого умного права, от которого ждут гибкости, ждут чётких формулировок. Правовые конструкции должны быть совместимы с достижениями науки и технологий, а люди должны быть защищены действующим законодательством так, чтобы можно было легко перешагивать через существующие границы для учёбы, работы, ведения бизнеса или просто для отдыха. В таких условиях любому грамотному юристу уже недостаточно быть просто хорошим, но узким специалистом в области права. Чтобы оставаться конкурентоспособным, надо разбираться и в смежных темах, поэтому в программу форума включены сессии, которые касаются не только сугубо юридических проблем, но и охватывают практически весь спектр взаимоотношений между бизнесом и государством, от синдицированного кредитования до экологии, от энергетики до онлайн-торговли. Чтобы поощрить исследователей, которые изучают современное право, частное право, было принято решение об учреждении премии в сфере гражданского и международного частного права. Сейчас об этом объявили наши коллеги. Презентацию этой премии вы тоже только что посмотрели. Со своей стороны хочу поблагодарить известных учёных-правоведов из разных стран, которые согласились войти в представительный совет экспертов этой премии. Сегодня после пленарного заседания мы ещё встретимся с ними и обсудим, как работать дальше.

Д.Медведев: «Мы живём в эпоху так называемого умного права, от которого ждут гибкости, чётких формулировок. Правовые конструкции должны быть совместимы с достижениями науки и технологий, а люди должны быть защищены действующим законодательством так, чтобы можно было легко перешагивать через существующие границы для учёбы, работы, ведения бизнеса или просто для отдыха».

Каждый день, а строго говоря, и каждую минуту мировое правовое пространство меняется, потому что оглашаются новые судебные решения, законопроекты становятся законами, разрабатываются и принимаются новые нормы. Мы узнаём об этом практически сразу и должны учитывать все эти новые данные. К этому нас обязывает и глобализация. В результате национальные правовые системы должны реагировать на постоянные внешние вызовы сразу по двум направлениям.

Первое – это воздействие высоких технологий. С приходом в юриспруденцию этих технологий изменились способы распространения правового материала, а также способы коммуникации между ведомствами, клиентами, судом. Всё шире становится область применения так называемой технологии распределённых реестров, или, как её принято именовать, блокчейн. Практически на наших глазах рождаются нормы, которые устанавливают пределы регулирования в интернете, определяют действие права в сфере облачных технологий и в социальных сетях, в электронной торговле или применении беспилотных транспортных средств. Эти вопросы на форуме будут обсуждаться в рамках блока «Смарт-общество».

Д.Медведев: «С приходом в юриспруденцию высоких технологий изменились способы распространения правового материала, а также способы коммуникации между ведомствами, клиентами, судом. Всё шире становится область применения так называемой технологии распределённых реестров, или, как её принято именовать, блокчейн. Практически на наших глазах рождаются нормы, которые устанавливают пределы регулирования в интернете, определяют действие права в сфере облачных технологий и в социальных сетях, в электронной торговле или применении беспилотных транспортных средств».

Видно, что реакция юридического сообщества на расширение высокотехнологичного сектора в правовых отношениях довольно противоречивая. Кто-то считает, что вообще ничего не надо менять, что традиции в праве гораздо важнее оформления новых тенденций, а ценность – именно в балансировке новых явлений хорошо проверенными юридическими инструментами. Кто-то, напротив, говорит о необходимости очень быстрой реакции права на меняющийся мир. Есть, наконец, эксперты, которые вообще ставят под сомнение состоятельность традиционных правовых механизмов регулирования в современном высокотехнологичном мире. И даже ставят под сомнение будущее правовых институтов и перспективы юридической специальности. Я знаю, что эта тема будет одной из интересных тем форума, включая вопросы о пересмотре языка, а значит, и базовых принципов права, внедрение новых алгоритмов правового регулирования, цифровизации всего правового поля, включая основные понятия, и в конечном счёте вопросы о том, какова роль искусственного интеллекта в регулировании межчеловеческих коммуникаций. Причём мы с вами понимаем прекрасно, что это вопрос недалёкого будущего, это уже вопрос не из области фантастики, эта тема реально стоит в повестке дня, и, надо признать, это очень интересная тема. Во всяком случае, мне кажется, это то, чем интересно заниматься сейчас любому юристу.

VII Петербургский международный юридический форум

Однако искусственный интеллект вряд ли сможет в ближайшем будущем заменить труд юристов. Как справедливо заметил физик-теоретик Стивен Хокинг в одном из своих опусов, даже если машины обеспечат всех нас материальными благами, в которых мы нуждаемся, распределять эти блага всё равно будут люди. Это действительно в природе человека – делить блага. А значит, всё равно будут нужны сбалансированные, общепризнанные и чёткие правила поведения, правила социального взаимодействия, даже при наличии новых алгоритмов взаимодействия. Поэтому хочу выразить свою убеждённость, что, конечно, пока никакой альтернативы праву – как механизму достижения справедливости и стабильности в обществе – просто не существует.

Второе, о чём хотел бы сказать, это воздействие наднациональных институтов, иногда его ещё называют мягким правом. Успешный пример в этой сфере – деятельность различных структур при Организации Объединённых Наций, в том числе Комиссии ООН по праву международной торговли. Практически полвека (она была основана в 1966 году) она находит решения по самым актуальным правовым вопросам, включая такие, как электронная коммерция, облачные технологии, трансграничное банкротство, то есть все те вопросы, которые сегодня встали в повестку дня.

Свой вклад в модернизацию глобальной правовой инфраструктуры вносят и сотни учёных, которые работают в академических центрах по всему миру, и саморегулируемые сообщества, которые объединяют предпринимателей. Такие во многом независимые от национальных государств, обособленные системы регулирования стали появляться в разных областях, в том числе в финансовой и страховой сферах.

Поскольку у глобальных рынков нет территориальных границ, нет национальной локализации, привязки к определённому регулированию, многие решения действительно удобнее искать в формате мягкого права. Это касается и проблем «умного общества».

Сейчас эти проблемы действительно активно обсуждаются. Например, вопрос о том, как обеспечить достоверность данных в сети блокчейн. Это тоже стало довольно модным вопросом для обсуждения. На площадках форума предполагается обсудить совместимость правового регулирования с технологией блокчейн.

Мы не знаем, конечно, что будет происходить, не знаем, как это всё будет выглядеть, в какие годы и как быстро это будет развиваться, но, мне кажется, нам точно нужно обратить внимание на все эти проблемы. Потому что, если вернуться к теме интернета, несмотря на то что сети существуют уже десятилетия и, собственно, сам интернет уже существует три десятка лет, мы оказались не готовы (я имею в виду юридическое сообщество и государство, политические лидеры) к решению многих проблем, связанных с глобальной сетью.

Было бы желательно, чтобы, когда мы вплотную начнём соприкасаться с так называемым блокчейном, то есть с распределёнными сетями, с этим распределённым ресурсом, мы хотя бы представляли себе, как будут выглядеть основные параметры регулирования, какова здесь роль национальных законодательств. Даже при понимании того, что сам по себе блокчейн – это абсолютно автономная система, ценность которой в том, что формально на неё никто не влияет. Но в человеческом обществе всё гораздо сложнее. Я лишь призываю к тому, чтобы мы уже сейчас начали думать о параметрах правового регулирования.

Есть и масса других сложных вопросов, в том числе как защитить права потребителя, который приобретает некачественный товар, например, на зарубежных сайтах, или как провести процедуру банкротства в отношении транснациональной компании. Предложить решения для таких вопросов в рамках национального законодательства и национальной практики очень трудно, по сути, невозможно. Но это не значит, что мы должны пренебрегать нормами национального законодательства. Нужно вести, во-первых, открытую дискуссию по всем этим моментам, учитывать все риски, все трудности, с которыми сталкиваемся и мы, и наши зарубежные коллеги, перенимать лучший опыт. Не стесняться, наверное, и выхода на международное регулирование, если об этом удастся договориться (создание в перспективе новых конвенций).

Такой подход следует использовать и при совершенствовании регулирования в ряде традиционных отраслей – это и недропользование, и экология, и энергетика, и строительство, – и, безусловно, в борьбе с новыми угрозами, я имею в виду киберпреступность или использование современных технологий террористами.

И высокие технологии, и упомянутое мягкое право не только создают вызовы для юриспруденции, но и стимулируют развитие традиционного права, в том числе и потому, что дают нам возможность спланировать повестку дня на завтра или определить, что нужно начинать именно сегодня.

Я назову лишь три приоритетных направления, которые сегодня учитываются в деятельности российских властей и, стало быть, в деятельности Правительства России.

Во-первых, это поддержание стабильности гражданско-правовых отношений, прежде всего – права собственности как фундаментальной основы современного общества.

Нет других правовых рецептов поощрения и охраны предпринимательства, кроме института частной собственности, принципа невмешательства в частные дела, гарантии судебной защиты. Хотя многие институты частного права модернизируются – с учётом IT-технологий, как это происходит в том числе с электронными реестрами прав на имущество. Но именно гражданско-правовые принципы позволяют людям чувствовать себя уверенно, а предпринимателям – понимать, как их инвестиции защищены законом.

Как отмечал один из наших выдающихся юристов Лев Петражицкий, именно сознание своего права делает человека гражданином. Право и законность, стабильность отношений частной собственности воспитывают в человеке такие черты, которые необходимы для экономического процветания: предприимчивость, умение смело реализовывать хозяйственные планы, полагаться прежде всего на себя, а не на случай.

В текущем году мы, кстати, отмечаем 150-летие со дня рождения этого очень известного юриста. И, конечно, в этом году мы отмечаем столетие двух революций – Февральской и Октябрьской, которые произошли в нашей стране. Я сейчас не буду давать оценку этим историческим событиям, в этом году много на эту тему будет дискуссий, но очевидно, что это и в известной степени юбилей попытки создать особую новую законность. Попытки, которая, скажем по-честному, себя вряд ли оправдала. Итоги этого исторического урока неуважения к институту частной собственности нам забывать, конечно, не следует.

Во-вторых, о чём хотел бы сказать, нужно продолжить работу по дальнейшей систематизации правового поля. Мы в Правительстве понимаем, что экономика российская, бизнес ждут не только понятных правил поведения, но и эффективных механизмов защиты своих интересов.

В некоторых странах традиционно считают, что законы пишутся прежде всего для юристов. Мы стремимся в этом смысле держаться золотой середины, чтобы нормативные акты были понятны и людям, достаточно далёким от юриспруденции. Несмотря на это, в целом ряде отраслей у нас накопился огромный массив правовых норм в виде различных подзаконных актов. Даже если та или иная сфера кодифицирована (например, у нас принят Градостроительный кодекс), порой существует несколько тысяч документов, которые дополняют его различными положениями. Эта ситуация, конечно, не вполне нормальна.

Кроме того, ряд норм корректируется судами. Во многих случаях дело доходит до разбирательств в Конституционном Суде именно потому, что норма неверно понимается или неточно истолкована.

По большинству отраслей права в нашей стране – я имею в виду и гражданское право, и уголовное право, и налоговое, и процессуальное законодательство – у нас есть современные своды законов, современные кодифицированные акты, но нужно продолжить работу по сквозной систематизации норм и правил, которые регулируют экономическую деятельность. Убеждён, что таким образом мы сможем повысить качество правового регулирования, особенно в тех отраслях, где содержится много технических норм. Эту работу мы ведём в том числе и в рамках реформы контрольной и надзорной деятельности. Но главное – такого рода систематизация позволит уйти от тотального, изматывающего контроля. А это значит, будет легче малому бизнесу, крупным предпринимателям, отдельным секторам промышленности и сельского хозяйства и экономике в целом.

Третье – это повышение доверия к судебной системе. В мире в целом растёт число дел, которые рассматриваются в международных судах и арбитражах. Обращу внимание, что только Международный суд Организации Объединённых Наций рассматривает сейчас 14 таких дел. Такого количества дел на рассмотрении одновременно не было практически никогда за всю историю существования суда. Более того, появляются и новые арбитражные центры, чья деятельность пользуется доверием. Это касается в значительной степени Азиатско-Тихоокеанского региона – например, в Сингапуре, в Гонконге, в некоторых других юрисдикциях.

Арбитраж остаётся одним из самых востребованных способов решения споров не только между государствами, но и между компаниями. И конечно, попытка решить спор именно в суде (на национальном или наднациональном уровне) правильна, её можно только приветствовать. Естественно, при чётком соблюдении существующей процедуры.

К таким случаям не относятся ситуации, когда предпринимаются попытки разрешения споров в международных судах без согласия государства-ответчика. Такие тенденции существуют, они опасны и противоречат сути международного судебного разбирательства.

Мы в нашей стране поддерживаем развитие профессиональных и независимых арбитражных третейских учреждений. Мы корректировали законодательство в этой сфере. Работа эта ещё в известной степени продолжается. И конечно, будем работать и дальше над повышением доверия к арбитражу со стороны государственной власти и государственных судов.

Уважаемые коллеги! В глобальном мире потребность в правовом регулировании не сокращается. Более того, чем стремительнее меняется структура экономики, чем стремительнее меняется повседневная жизнь, тем чаще людям оказывается нужна защита со стороны права.

Юристы обязаны на все эти вызовы отвечать так, чтобы сохранить истинный дух права, даже если, что называется, букву права нам помогает набирать компьютерная программа.

Мы должны использовать самые передовые судебные практики и правовые практики в целом, учиться друг у друга, безусловно, уважать друг друга, обмениваться опытом, находить баланс между национальными правовыми системами и трансграничным регулированием. Все эти темы и все возможности для этого представлены на нашем форуме.

Я искренне желаю всем хорошего настроения, хорошей погоды. Весна в России сильно запоздала, но в Петербурге погода очень хорошая. Так что всем успешной работы!

И.Дроздов (председатель правления Фонда «Сколково», модератор): Дорогие друзья, Дмитрий Анатольевич уже задал основные направления нашей дискуссии. Мы сегодня будем говорить о том, как право влияет на технологии, как технологии влияют на право. Одна из задач юриста, одна из его функций – это осуществление законотворческой деятельности. Здесь мы знаем, что право традиционно не успевает за технологиями. Дмитрий Анатольевич привёл пример про интернет. А мы буквально перед сессией обменивались мнениями, и Джон (Флауд) нас удивил, сказал, что свой первый мейл он получил в 1987 году, то есть уже 30 лет назад. А регулирование отношений в сети Интернет появилось, насколько вы знаете, гораздо позже.

Первый вопрос господину Шталю. Очевидно, что в Швейцарии законодательный процесс довольно неспешный. Интересно узнать, сколько времени проходит в Швейцарии от момента появления идеи до её законодательного оформления. Чувствуете ли вы давление в изменяющемся мире, хотите ли вы что-то предпринять, чтобы этот процесс ускорить?

VII Петербургский международный юридический форум

Ю.Шталь (председатель Национального совета Швейцарии, как переведено): Уважаемый господин Премьер-министр, коллеги! Для меня большая честь выступать на этом знаменитом правовом форуме в Санкт-Петербурге. Здесь в 1816 году Швейцария открыла первое консульство в России. Сегодня это генеральное консульство занимается важными связями, а именно поддержкой экономических и торговых отношений между нашими двумя странами. Сегодня, в начале XXI века, Швейцария активно участвует в том, чтобы рано или поздно стать одной из 10 стран-инвесторов в России. Швейцарское посольство в Москве, а также Swiss business hub активно содействуют поддержке Швейцарии как основного экономического центра. Более 10 тыс. российских граждан в Швейцарии вносят свой вклад в благосостояние страны своим предпринимательством. Я считаю, что условия для этого созданы и эти условия – серьёзный фундамент.

Теперь я перейду к ответу на ваш вопрос. Я хотел бы обратить внимание на сходство между российским и швейцарским парламентом. У нас двухпалатная система, где присутствуют представители, которые выбраны народом. Наши парламенты думают, высказываются и действуют в интересах тех лиц, которые их избрали, они выступают за общее благо, за общее достояние, это намного больше, чем совокупность частных интересов. Это общее благо превосходит совокупность частных интересов.

Уважаемые дамы и господа! Я считаю, что принятие закона – это не изолированное действие. Я считаю, что подпись на законе стоит под документом совместного производства, и швейцарская Конституция это чётко определила, так как федеральное правительство с учётом прав народа и с учётом прав кантонов является верховной властью в нашем государстве. Гарантированные права народа укрепляют, усиливают репрезентативную функцию парламента, и это опора любой демократии.

Я очень рад и горд, что на этой неделе меня сопровождает делегация из Федерального собрания. Они сегодня приехали из Москвы в Петербург. И эта презентация является, собственно говоря, фундаментом наших действий.

Итак, уважаемые дамы и господа, Швейцария непосредственно вовлечена в процедуру законотворчества. Для любого решения нам нужно согласие народа, так называемое народное большинство, и, конечно же, большинство, которое мы должны получить среди кантонов.

Чтобы дать шанс меньшинствам, мы должны также предоставить, например, инициативу, которая поддерживается 50 тыс. наших граждан. Но помимо этого у нас есть право законодательной инициативы, то есть любой наш гражданин может сделать предложение по изменению Конституции, если он для этого получит порядка 100 тыс. подписей – это количество соответствует менее чем 1% нашего населения. Федеральное собрание и парламент разрабатывают встречное предложение по этой инициативе, чтобы требование несколько смягчить или же наоборот, облегчить воплощение этой инициативы в жизнь.

Федеральное собрание проводит реформы, реформирует также и правительство. Этот процесс у нас давно проходит по сравнению с другими странами. Но я считаю, что народ также может скорректировать курс парламента. И члены парламента, и члены правительства осознают свою ответственность, потому что они знают, что есть народное голосование, есть референдум, и в этом случае они очень осторожно действуют при принятии решений, потому что законы, которые народом приняты и одобрены, очень редко ставятся под сомнение. Право на референдум – это гарант стабильности и швейцарского правопорядка. Данные права народа никак не ограничивают права парламента, а, наоборот, дополняют и укрепляют их.

Уважаемые дамы и господа, давайте теперь обратимся к нашей сегодняшней теме, а именно к вопросу о том, что происходит с национальным правом перед лицом универсальных прав. Конечно, глобализация влияет и на демократию в Швейцарии – глобализация, которая в последние десятилетия стала процветать в мире. Но, несмотря на колоссальное развитие международного права с конца Второй мировой войны, народные права в Швейцарии, права народа не ставятся под сомнение. Федеральному парламенту удалось закрепить в нашей Конституции и право на законодательную инициативу. Национальное и международное право защищают права человека. Если же народная инициатива противоречит международному праву, она объявляется недействительной. Права человека в Швейцарии являются неприкосновенными. Наши права, а также права слабых групп населения защищены. Это, собственно говоря, особенность Швейцарии. Вы знаете, что мы в Швейцарии говорим на четырёх языках. Требуется и на уровне политики обращать внимание на меньшинства.

Международное право должно строго соблюдаться. И сегодняшняя тема форума говорит о том, что мы должны эти процессы очень внимательно соблюдать, обращать на них внимание. Несмотря на то что в Швейцарии законодательная инициатива порой достаточно долго воплощается в жизнь, считаю, что успех и стабильность нашей страны, которая живёт в мире и находится сейчас в экономически благополучной ситуации, заключается именно в этом. Наша система, и в этом я убеждён, нацелена именно на то, чтобы больше тратить времени на воплощение в жизнь инициатив, которые пришли со стороны народа.

Я призываю всех присутствующих в зале воспринять правильно свою роль в процессе законодательной деятельности. Я очень рад был представить вам нашу швейцарскую систему, может быть, немного подробнее, чем вы её знаете.

Я уверен, что результаты форума также будут направлены на достижение поставленных целей. 

И.Дроздов: Спасибо, господин Шталь. Я уже сказал, что сегодня мы будем говорить о праве и будущем. С юристами не всегда просто говорить о будущем, они достаточно консервативны, поэтому мы сегодня пригласили на сессию настоящего технаря – главного технического директора компании AliExpress господина Дунбая Го. У меня к Дунбаю будет два вопроса.

На прошлой неделе в журнале The Economist вышла статья с громким названием, что новым мировым ресурсом является не нефть, а данные. В качестве подтверждения этого тезиса говорится, что пять крупнейших компаний в мире по капитализации – Microsoft, Google, Amazon, Facebook – работают с данными. У нас такая же тенденция. Сбербанк показывает результаты, с точки зрения капитализации неплохие, – тоже работает с данными. Данные дают огромную власть. При помощи специальных алгоритмов, данных можно предсказывать настроение потребителя, что он хочет купить и в какой момент времени, когда выйдут из строя детали каких-то сложных устройств, будь то самолёт, электростанция или просто станок на фабрике. Можно предсказывать, к каким заболеваниям склонен человек, когда и чем у него есть риск заболеть. Всё это получило общее наименование «предсказательная аналитика». Это мощное направление, огромное количество стартапов – много таких и в России, благо у нас сильная математическая школа, – бьются за разработку конкурентоспособного алгоритма. Но все эти алгоритмы бессмысленны, если они не подпитываются сырьём в виде данных. А с этим всё не так просто. Данные аккумулированы у крупных компаний. Обращу внимание, что в нашем законодательстве есть право изготовителя базы данных. Упрощу: кто собрал данные, тому эти данные и принадлежат, он ни с кем может не делиться. А как этот дисбаланс устранить – в этом мой вопрос. Быть может, стоит предусмотреть какие-то новые правила недискриминационного доступа к этим данным?

Второй вопрос сформулирую гораздо короче. Очевидно, что не только на электронных площадках, но и в обычной жизни мы сталкиваемся с недобросовестностью поставщиков, с нарушениями с их стороны. Интересно, как компания AliExpress борется за чистоту рядов на своей площадке. Выполняет ли она сама роль полицейского или судьи, нужна ли здесь помощь государства? Быть может, нужно принятие каких-то наднациональных, национальных правил, чтобы помочь ей в этой борьбе?

VII Петербургский международный юридический форум

Дунбай Го (главный технический директор компании AliExpress, как переведено): Прежде всего хочу сказать, что для меня большая честь быть приглашённым на этот форум. Большое спасибо за прекрасное выступление предыдущего оратора, очень интересно было услышать о Швейцарии. У меня нет юридического образования, я очень много интересного узнал. Очень здорово, что вы упомянули здесь некоторые вещи, потому что необходимо сохранять стабильность юридической, правовой системы, и нам это даёт возможность рассказать о том, что сейчас происходит в интернет-мире, какие особенности и изменения ожидаются в будущем, в том числе с точки зрения преступности в киберпространстве.

Действительно, очень важно помогать расти малым и средним предприятиям. Это обязательное условие благосостояния страны, конечно же, AliExpress поддерживает эту идею. Основная идея, на которой базируется концепция AliExpress, – это строительство платформы для электронной торговли, чтобы малые и средние предприятия могли быть вовлечены в глобальную торговлю. Речь идёт не о том, чтобы заработать побольше денег, а о том, чтобы позволить этим компаниям получить доступ, чтобы они могли участвовать в глобальной торговле и улучшать общество в конечном итоге. Это самая интересная, большая идея.

Действия, связанные с данными, должны быть продуманными, поскольку надо думать о последствиях. Как Вы сказали, сегодня интернет и бизнес в интернете фактически имеют дело с данными, с виртуальными объектами. Если мы недостаточно уважительно относимся к этим данным – об этом как раз упомянул господин Премьер-министр, – если активы, связанные с данными, недостаточно защищены, если мы не защищаем права, которые связаны с этими активами, то в будущем мы, скорее всего, увидим большие проблемы. В будущем право на данные будет одним из самых важных прав. На эти права обязательно надо обращать внимание уже сейчас. В некоторых странах, если такие права подрываются, нарушаются, малым предприятиям, стартапам сложно расти, сложно найти своё место в глобальном контексте. Наверное, стартапам действительно очень сложно расти, если их будущий актив не имеет защиты.

Кроме того, если мы хотим каким-то образом изменить эту ситуацию, если мы хотим, чтобы правительство приняло какой-то закон о регулировании, то нужно быть осторожными, чтобы это регулирование не превратилось в излишнее бремя для предприятий, чтобы малым и средним предприятиям не поставили заслон на пути к рынку.

Если закон (мы предполагаем, что он достаточно симметричный) облегчает дорогу большим компаниям, чтобы они могли получать данные и использовать их, то тогда можем сделать этот закон в принципе запретительным для малых компаний. Этого допустить нельзя.

Какие бы компании ни были, будь то AliExpress или другие компании, независимо от формата и формы, всегда нужно думать о том, чтобы будущие компании, стартапы, их способности, их возможности, а также способности и возможности тех, кто представляет, скажем, академический мир, были использованы максимально.

Мы сегодня привлекаем и малые компании, мы привлекаем исследователей. В AliExpress предлагают возможности, скажем, для исследователей, чтобы они занимались датамайнингом и таким образом увеличивали стоимость нашей компании. Мне кажется, что это очень интересное направление для развития бизнеса.

Что касается вашего второго вопроса, а именно о борьбе с интернет-преступностью, мне кажется, что это также укладывается в нынешние тенденции. Роль интернета возрастает гораздо быстрее по сравнению с тем, как успевает за ним законодательство. Сегодня мы видим, что очень мало законодательного регулирования в этой сфере. Даже в той области, которая касается транснациональной, трансграничной торговли, очень мало законов.

И первая страна, которая выйдет в эту сферу, сумеет создать гораздо более благоприятные условия, в том числе для национального бизнеса в области IT.

Если законодательство такого рода будет принято, то бизнес-сообществу будет удобнее. Для них будет обеспечена безопасная атмосфера, безопасное пространство, и они смогут выйти в более широкий, так сказать, океан, не боясь преступлений в этой области. Да, конечно, это очень большая сфера, это большой бизнес, и мы сейчас приближаемся к миллиардным оборотам. При этом технического персонала, который у нас есть, не очень много. На него мы выделяем средств гораздо меньше, чем на инвестирование в обеспечение информационной безопасности – безопасности данных, безопасности бизнеса и так далее. То есть гораздо больше денег и усилий тратится на то, чтобы наша платформа была безопасной, и на борьбу с подделками и преступлениями. Сегодня мы видим, что извне нам помочь некому. То есть мы выполняем функцию полицейских сами, и это значит, что мы делаем всё, что в наших силах, чтобы обеспечить безопасность, бороться с преступностью. Потому что преступность может быть со всех сторон – с точки зрения продавца и с точки зрения покупателя. Когда мы обнаруживаем, что кто-то продаёт нелегальные, серые товары, мы закрываем это торговое место.

Но вполне возможно, что человек пришёл не просто так, мы ни в коем случае не должны дискриминировать. Может быть, кто-то начинает торговать теми же товарами под другим именем, взяв, скажем, имя своего родственника или соседа. Таким образом, мы не хотим, с одной стороны, ограничивать торговлю, а с другой стороны, вынуждены бороться с возможной преступностью. Что касается AliExpress, бóльшая часть торговли ведётся в трансграничном формате, и продавцы иногда даже могут быть связаны с международной преступностью. То же самое можно сказать о покупателях. Опять же могут быть ложные профили, ложные аккаунты. Они могут быть из самых разных стран. Мы обнаруживаем преступников, но единственное, что мы можем сделать, заплатить за это какую-то цену, как мы выяснили.

Не существует общих правил регулирования. Как уже сказал господин Премьер-министр, нам требуется некоторый уровень сотрудничества, для того чтобы внедрить какие-то стандарты или способы организации, которые позволили бы нам выпускать, вероятно, какую-то информацию, предоставлять информацию для того, чтобы облегчать обмен информацией. Например, мы могли бы сообщить, что, например, какое-то лицо неправильно себя вело, и мы могли бы, соответственно, эту информацию передавать. Может быть, человек, скажем, 10 разных аккаунтов создал, и это подрывает экономическую стабильность. Что-то должно с этим быть сделано. Такие вещи в принципе могли бы быть использованы также для помощи стартапам. Дело в том, что есть стартапы, которые обращаются ко мне с идеей подбора аккаунтов. Например, смотрят: здесь два одинаковых электронных адреса. Или, скажем, имя то же, но оно по-другому пишется. Для многих из этих вещей требуется знание местной специфики. И я думаю, что помощь здесь и сотрудничество были бы очень полезными. Я думаю, что мы бы все выиграли от такого сотрудничества.

И.Дроздов: Спасибо. Хотел бы перейти к другой теме. Слово «блокчейн» сегодня уже звучало. А у нас сегодня присутствует директор института, который претендует быть ведущим в мире институтом в области блокчейна.

Это новая технология, а новые технологии традиционно нас пугают. Когда мы говорим о беспилотных автомобилях, боимся, что с их появлением возникнут проблемы на дорогах, что дроны будут падать на нас с неба. Когда говорим о генетически модифицированных организмах, боимся, что от употребления таких продуктов произойдут какие-то мутации. И что блокчейн разрушит финансовую систему. Поэтому реакция часто бывает: ограничить, запретить или не разрешать. Но здесь важен некий баланс, потому что технологию не остановишь, она будет уходить в те юрисдикции, которые являются более благоприятными, вместе с талантами. А талант – это главное, за что будет вестись борьба в XXI веке. Важно эту борьбу не проиграть.

У меня относительно блокчейна вопросы к Паоло (Таске). Насколько право может ускорить или замедлить развитие технологии? Или для блокчейна это в принципе безразлично?

Другой вопрос. Мы привыкли ассоциировать блокчейн с финансовыми транзакциями, с финансовым рынком, но блокчейн – это, по сути, некая квалифицированная замена свидетеля, который может подтвердить определённые факты. Поэтому возникают такие мысли: не может ли технология блокчейн в перспективе вытеснить или облегчить работу нотариусов, регистраторов сделок – во всех случаях, когда требуется что-то засвидетельствовать?

П.Таска (исполнительный директор Центра технологий блокчейн Университетского колледжа Лондона, как переведено): Господин Премьер-министр! Господин председательствующий! Большое спасибо. Я благодарен за приглашение и рад присоединиться к коллегам.

Что касается ваших вопросов, они очень своевременны. Не так давно мы проводили исследование в Университетском колледже в Лондоне. Оно было посвящено основным вызовам, которые не дают технологии блокчейн широко распространиться в разных экономических системах. Эти сложности мы решили перечислить, а потом поместили их в основные категории: технологические проблемы, коммерческие, правовые проблемы, или вызовы, если угодно. Потом мы опросили более 200 экспертов, что они знают о блокчейне. Мы спрашивали учёных, компьютерщиков, технологов, предпринимателей, представителей стартапов и юристов – наших регуляторов, представителей регулирующих ведомств.

Данные, которые мы получили по результатам опроса, свидетельствуют о том, что коммерческие проблемы являются наименее важными – те, которые связаны с бизнесом. Технологические проблемы – наименее сложные.

С другой стороны, опрос показал, что самые сложные, самые важные и самые значимые – это правовые проблемы.

Очень интересно наблюдать за блокчейном – новой цифровой технологией. Мы создаём технологию, создаём её на будущее, и респонденты говорят, что самые важные проблемы – это правовые.

Если посмотреть более конкретно, какие это правовые проблемы, и попытаться понять, каковы основные сложности, почему они предотвращают широкое распространение решений, основанных на блокчейне, то мы увидим, что это проблемы с идентичностью и проблемы со средой. Говоря «идентичность», я имею в виду установление личности. Ведь когда говорят о блокчейне, то речь идёт о новом средстве, которое позволяет допускать архитектуру, где существуют соглашения об обмене данными, децентрализованные. И эти соглашения достигаются между различными участниками сети. Нет центра в блокчейне, это распределённая система.

Что касается анонимности или установления личности, здесь проблема в том, что блокчейн может использоваться для выдачи новых имён, идентичности. Кто-то говорит, например, о том, что он доказывает существование человека.

Проблема состоит в том, что технология есть, ею легко пользоваться, но она вторгается в сферу, которую не могут регулировать нормальные правила, системы регулирования. У нас есть база, право, даже конституционное право, но эта правовая база не может решить проблемы установления личности в блокчейне, в особенности если речь идёт о международных транзакциях.

Отчётность – это вторая проблема. Проблема отчётности в системе блокчейн связана с тем фактом, что нет единого центра, информация распределена по сети, нет одного человека, который бы отвечал за возможную ошибку или возникшую проблему.

Мы на последней встрече обсуждали две платформы, и пользователи платформ говорили, что у них серьёзные проблемы.

Одна из них – Lending Club. Это американская платформа. Там неправильно информация пошла о 22 млн долларов. И личность бенефициара была указана неправильно, то есть тут две смежные проблемы. Компания, которая стояла за этой платформой, отвечала за эту ошибку и в результате потеряла в капитализации миллиард долларов из-за ошибки.

Вторая – «Бао». Это очень крупная кредитная платформа в Китае. В результате того, что там произошло, случился крупнейший финансовый скандал – скандал на более чем 7 млрд долларов. И гендиректора компании посадили, потому что пришли к тому, что он отвечал за эти проблемы.

То есть на этих платформах, получается, нет отчётности, потому что нет одного центра. Все люди равно отвечают за то, что происходит. И если что-то идёт не так, очень сложно решить проблему и защитить потребителя.

И последнее – неопределённость.

Позвольте, я с высоты птичьего полёта взгляну на эту проблему. Сейчас появляются новые технологии – квантовые компьютеры, «умная» энергия, «умные» заводы и блокчейн. Все эти технологические инновации на самом деле переходят черту между физическим пространством и киберпространством.

И вот тут нас ждёт сюрприз. Потому что инновация развивается по экспоненте, а с ней появляется и развивается неопределённость. Мы начинаем не доверять системам, поэтому регуляторы и государство чувствуют себя в высшей степени неуютно. Все эти новые технологии знаменуют изменение парадигмы.

Блокчейн, например. Доверие к человеку переходит на платформу доверия к машинам. Здесь возникают вопросы относительно того, как это регулировать. Ведь когда поставщик услуг не человек, а система, то очень сложно понять, как её регулировать.

Финансовые системы. Поставщики услуг – это банки. Они дают деньги заёмщикам, имеют дело с кредиторами. Но если уходят банки и остаётся платформа, то в чём роль государства, в чём роль центрального банка? Такие встают вопросы, и это порождает неопределённость.

И последний ваш вопрос. Возможно, что блокчейн заменит регистраторов или нотариусов и будет предоставлять альтернативное решение для прозрачного обмена информацией между цифровыми единицами или компаниями. Но сложности здесь будут не технические, сложности будут, как я уже сказал, правовые.

Взять реальные активы, имущество из реального мира и поместить в кибермир, киберпространство – это вещь очень непростая. Как, например, машину или контракт взять и перевести в кибермир? Как взять активы и перевести в систему блокчейн? Оцифровать их? Создать их цифровое выражение? Здесь есть определённые проблемы, и однозначного их решения, пожалуй, не существует.

И.Дроздов: Спасибо, это очень интересно, вы как раз помогли перекинуть мостик к нашим следующим спикерам. Мы будем говорить о взаимоотношении человека и машины, об искусственном интеллекте. Мы знаем правовые базы, с которыми работаем. Чтобы с ними работать, надо иметь определённые юридические навыки. Мы можем выбрать определённый массив информации, нужные нам законы, судебные решения, но анализировать должны сами юристы. И Дмитрий Анатольевич в своём выступлении сказал, что вряд ли когда-либо машины заменят юриста.

Но компания IBM бросает такой вызов юридическому миру. Я прочёл в сети статью руководителя юридической компании Силиконовой долины, который сравнил появление Watson Legal, его значение для права, с появлением калькулятора при обучении алгебре. Звучит довольно многообещающе. Я хотел бы попросить Шонну (Ш.Хоффман-Чилдресс) немного рассказать об этой системе, потому что мало кто из присутствующих в зале представляет, что это такое. Нам было бы интересно узнать, реально ли она эксплуатируется, какие примеры есть. Цель какая? Неужели вы замахнулись на святое – отнять заработок у юриста?

Ш.Хоффман-Чилдресс (глобальный бизнес-консультант по когнитивным технологиям корпорации IBM, как переведено): Большое спасибо, что пригласили меня сегодня. У Вас было превосходное выступление, господин Премьер-министр. IBM – это компания, которая решает проблемы. Мы не хотим заниматься юриспруденцией. Но проблема заключается в том, что у вас есть проблемы, и мы можем попытаться их решить. Создаются новые рабочие места для так называемых новых воротничков. У нас есть синие воротнички – водители и так далее, люди интеллектуального труда – белые воротнички, есть также юристы, представители медицинской профессии.

Я специалист по правовым технологиям, у меня образование в области юриспруденции, но я занималась также и технологиями. Сегодня утром я проснулась и первое, что сделала, – поговорила с искусственным разумом. Меня Siri разбудила. Я попросила Siri проиграть мне запись последнего выпуска новостей, и она это сделала. Последний, с кем я говорю перед сном, это тоже искусственный разум. На ночь я прошу Siri разбудить меня утром. Watson мне тоже очень помогает. Утром, после того как я прослушала новости, я начала писать почтовое сообщение. Я хотела сделать так, чтобы слова, которые я пишу, правильно воспринимались моими адресатами. Поэтому Siri проверила мои тексты, дала свой отзыв, сказала, что изменить в моих электронных посланиях, чтобы лучше передать, что я пытаюсь донести до своих адресатов. Возникают такие работники – «новые воротнички». И это прекрасная возможность для вас взять те изменения, которые происходят в рамках новой революции, за рога, что называется. Я думаю, что более миллиарда человек будут уже в этом году так или иначе затронуты системой Watson. И более миллиона пациентов будут обслуживаться этой системой. У вас могут быть родственники, у которых серьёзные заболевания, и система Watson может помочь вам, поскольку эта система объединяет более 25 тыс. медицинских журналов, там есть вся информация, которая нужна врачам для того, чтобы правильно лечить пациентов.

Есть три момента, с которыми вы можете столкнуться. Во-первых, нужно освоить перемены, нужно понять, что эти перемены значат для вас. Роботы входят в нашу жизнь. Siri вошла в нашу жизнь. Это касается всех, кто находится в этом зале. Нам нужно эту технологию освоить, понять, что она может сделать для нас и в чём может сыграть очень важную роль для каждого лично. И второй момент – как вы сами можете измениться как личность. Давайте посмотрим, как мы можем помочь молодым людям. На нашем поколении, может быть, не так сильно скажутся когнитивные технологии, как на тех поколениях, которые придут нам на смену.

Как мы можем помочь правовым фирмам решать их проблемы? Я вижу здесь ведущих юристов со всего мира. Знания, которыми вы обладаете, стоят дороже золота. Эти знания могут использоваться для того, чтобы обучить следующие поколения всему тому, что знаете вы. Я не говорю: раздавайте эти знания бесплатно. Это было бы слишком здóрово. Но предоставьте эти знания!

Я работаю с одной из крупнейших юридических фирм мира, они как раз сейчас занимаются этой проблематикой, создают такого рода базу знаний. Как обучить систему Watson, чтобы она в свою очередь начала обучать следующее поколение специалистов? Эта система используется в здравоохранении. У нас есть, как вы знаете, может быть, онкологический консультант в рамках программы Watson. Что он позволяет сделать, как он построен? Онкологи из США, из клиники в штате Мэн, из Кливленда, из других клиник обучали систему Watson в течение двух лет всему тому, что они знают. И мы эти знания перенесли на малайзийскую почву. Там один онколог на 1,5 тыс. больных, и Watson может ускорить доступ к врачам, поможет пациентам получить консультацию в более сжатые сроки. И таким образом мы повысим уровень тех услуг, которые мы оказываем нашим пациентам.

И.Дроздов: Спасибо, Шонна. Все самые интересные и сложные вопросы мы оставили для Джона (Флауда). Если Джон захочет прокомментировать то, что он услышал, может, поспорить с чем-то, мы будем рады. Но я хотел бы, чтобы прежде всего Джон сконцентрировался на таком вопросе. Система Watson предполагает, что человек её обучает, и, может быть, в какой-то момент ученик, могу предположить, превзойдёт учителя. Вопрос в том, хорош ли будет этот учитель и правильным ли вещам он будет обучать ученика? Это уже вопросы этики. Кто будет отвечать за то, что машина кем-то умышленно или неумышленно обучена плохим вещам и начнёт такие плохие вещи делать?

И второй момент. Мы уже говорим о машинах как о чём-то разумном. Машины вроде как отделяются от людей. Провокационный вопрос: могут ли машинам быть дарованы права? И частный вопрос: кому принадлежат авторские права на картину, написанную роботом?

Д.Флауд (профессор права и общества юридического факультета Университета Гриффит, как переведено): Начну с того, что поблагодарю вас за то, что меня пригласили участвовать в этом прекрасном мероприятии.

Я бы хотел прежде всего прокомментировать вопрос об обучаемом и обучающем. В Австралии я работаю с одной из крупных юридических компаний, мы работаем с системой, которая анализирует документы. У меня есть группа студентов, которая занимается обучением системы. Система затем сможет самостоятельно 75% различных документов составлять, а 25% придётся, соответственно, добавлять. Это будет уже свой собственный контент.

И я бы хотел ещё представить вам новую концепцию. Добавить к тому, что мы уже здесь упоминали. Может быть, вы помните, что такое Xero Spark? Это то, что существовало в Силиконовой долине несколько лет назад. Предполагалось, что они какую-то специальную кнопочку изобрели, которая делает копии. Конечно, они этого не сделали. Но самое интересное, что они привлекли несколько антропологов, которые исследовали, как люди используют компьютеры, как они пользуются интернетом, машинами и так далее. Мне кажется, именно это нужно нам сделать.

Я социолог, не только юрист. Я исследовал, каким образом юристы работают, как они организуются, как они занимаются бизнесом. И, надо сказать, нельзя заранее предположить, что все будут работать каким-то определённым образом. Понятно, есть нормы культуры, есть какие-то лингвистические особенности, и это видно. Крупные международные компании, бизнесы, которые базируются в Нью-Йорке, управляются очень разными людьми. Мы видели очень много русских, которые часто пользуются коммерческим арбитражем в Лондоне, и очень успешно это делают.

Я думаю, надо начинать с того, что проводить наблюдения и исследования, как эти вещи работают. Это подводит меня к следующему – к проблеме этики, к тому, как мы относимся к роботам и машинам, алгоритмам, как они относятся к нам. Мы обычно думаем о неких алгоритмах как об устройствах, которые действуют, обрабатывая большое количество данных. IBM говорит нам, что 90% всех данных в мире было создано в последние два года. Это удивительная цифра, в это сложно поверить. Наверное, последним человеком, который знал всё в мире, был Леонардо да Винчи. Я не хочу сказать, что нам нужен новый Леонардо да Винчи, вряд ли у нас это получится. Но что мы сделали? Мы фактически создали нового Леонардо да Винчи, используя такие алгоритмы, как Watson, и другие.

Что нам надо иметь в виду? Как мы применяем эти устройства, как мы их регулируем и ведём себя по отношению к ним. Возьмём классическую ситуацию. Её очень часто обсуждают. Предположим, есть машина без водителя. На одну сторону переходит женщина с ребёнком, на другую – пять пожилых людей. В какую сторону должна свернуть машина, чтобы избежать столкновения? Надеюсь, что такой выбор ей не придётся делать, но выбор перед нами всё равно бывает. И тот выбор, который мы делаем, переходит в алгоритмы, к роботам и становится очень важным.

Что мне говорят специалисты по технологиям? Сегодня алгоритмы с нуля уже никто не создаёт. Они слишком сложные, слишком большие, это слишком дорого. Слишком много ресурсов на это требуется. Поэтому сегодня используется то, что имеется. К этому добавляются какие-то элементы, они изменяются различным образом. И это приводит к большому количеству разных проблем, в том числе с точки зрения безопасности в киберпространстве, правовых последствий и так далее. В результате мы точно не знаем, что заводится в эти алгоритмы. Я приведу пример. В Соединённых Штатах суды, когда выносят приговор преступникам, используют определённые алгоритмы определения своего решения. Они могут быть объективными, рациональными, самыми лучшими. Мы предполагаем, что человек ни в коем случае не отдастся эмоциям в данной ситуации. Но мы начали проводить исследования и выяснили, что эти алгоритмы, конечно, уже имеют определённые преднастройки, встроенные с самого начала, и некие предубеждения. Это то, что делает человека человеком. Получается, что роботы делают то, что всегда делали люди. Мы передаём им наши идеи, наши этические принципы. И мне кажется, что нам нужно сделать шаг назад и задуматься об этой проблеме.

Есть ещё один аспект – как мы сами относимся к машинам. Мы часто говорим о правах человека. Мы говорим о правах животных (это уже приемлемая концепция). Теперь уже дошли до того, что права есть (или, возможно, должны быть) у растений. Возникает логичный вопрос: должны ли быть права у машин?

Прежде чем вы отмахнётесь от этой идеи как совершенно сумасшедшей, позвольте рассказать вам одну историю. Военные сделали машину, которая должна искать пехотные мины. Это что-то вроде такой машины, которая идёт по минному полю и пытается найти пехотные мины. У машины четыре опоры. После того как все четыре опоры были взорваны, военные сказали: машина тоже имеет чувства, четыре ноги уже оторваны, давайте остановимся. Но машина-то не чувствует. То есть получилось, что люди перенесли идею о собственном страдании на машину!

Давайте сделаем шаг дальше. Если машины или роботы станут воспроизводиться, самообучаться, всё дальше отходить от программиста, от того, кто их создал, от кого бы то ни было, то в какой момент машина станет сама собой. Кто будет отвечать за её действия? Будет ли отвечать создатель? Или машина сама будет нести ответственность за собственные действия? И потом появляется новый вопрос: кто имеет право (и на каких условиях) поменять машину или выключить её? На самом деле это вопрос, отключаем ли мы систему поддержки дыхания…

Всё это фантазия? Всё это фантастика? Но многое меняется сегодня. Именно на эти вопросы нам нужно будет найти ответ. Сейчас на них ответы не даются. Но уверяю вас, очень скоро они станут для нас очень важными.

Д.Медведев: Очевидно, что нашему форуму удалось достичь несколько целей.

Во-первых, попытка разбавить юристов представителями других специальностей на этой сцене впервые за семь лет удалась. И здесь звучат очень интересные речи – не только традиционные выступления юристов, после которых часто хочется отдохнуть как следует, но и выступления людей, у которых гораздо более свежий взгляд на существующие проблемы. Это первое. Мне кажется, это хорошо.

Второе. Несмотря на все страшилки, которые здесь обсуждаются, юристы явно не испугались. Государство, хочу сказать, тем более не напугать. Поэтому, несмотря на перспективы развития искусственного интеллекта, несмотря на, уверен, продвижение технологии распределённых данных, то есть технологии блокчейн, в ближайшие годы (может быть, 10, 15 лет), место для правового регулирования, а стало быть, возможность юристам зарабатывать деньги сохранится. Здесь никаких сомнений нет, и я хотел бы всех успокоить.

Но на самом деле перед нами стоят огромные проблемы, если говорить серьёзно. Это действительно проблемы, связанные с первостепенной, может быть, темой для обсуждения: доверие, которое необходимо при использовании тех или иных технологий.

Посмотрите: интернет, например, как явление повседневной жизни порождает очень разные эмоции – и доверие, и антипатию, и недоверие, и желание что-то там анализировать, и, наоборот, желание от всего этого отказаться. Но это среда, с которой мы сталкиваемся.

Каково же будет попасть в ситуацию, когда значительная часть операций, например, будет проходить через технологии типа блокчейна? Это не фантазии. Вполне вероятно, что посредничество банков по многим операциям окажется излишним. Более того, сама по себе эта технология распределённых данных основана на том, что все доверяют всем. И если кто-то исчезает из этой системы, то вся система сохраняется.

Тогда возникает вопрос: в чём здесь роль государства? В чём здесь роль права? Что здесь регулировать? На эти вопросы так или иначе юристам придётся отвечать.

Очень неплохо, что мы смотрим в будущее. Юристы ведь обычно занимаются сиюминутными проблемами, мы вынуждены отвечать на массу очень сложных повседневных вопросов, начиная от вопросов регулирования экономических отношений и заканчивая вопросами применения уголовного права. Но нужно смотреть и в будущее. Мне кажется, тематика нынешнего форума очень располагает к этому.

Я хочу пожелать всем, кто будет принимать участие в панельных дискуссиях... Я посмотрел: реально очень интересные вопросы, во всяком случае, для меня. Я, к сожалению, не могу разделиться на пятьдесят частей, но надеюсь, что мои коллеги получат истинное удовольствие от обсуждения вопросов, которые стучатся уже во все наши дома. Это вопросы на стыке человеческой культуры, культуры развития технологий и, конечно, развития права.

Желаю всем интересных дискуссий. Спасибо большое!