Олег Баркин: конструирование мира людей и машин (1/3)
В нашем цифровом будущем появятся конкретные физики, проектировщики киберфизических систем, вероятно, появятся и социальные конструкторы. Я долго думал, с кем можно было бы в практическом ключе поговорить о последних. В конце концов все вектора поиска сошлись на Олеге Баркине, который в НТИ “Энерджинет” ведет работу экспертного совета по совершенствованию законодательства . Этот совет, по сути, занимается разработкой институционального устройства энергетики будущего, социальной механикой новых сегментов энергетического рынка, новых бизнес-практик. С кем обсуждать социальное конструирование, как не с лидером этого направления работ?
Представляю нашим читателям Олега Баркина, заместителя Председателя Правления Ассоциации «НП Совет рынка», члена рабочей группы НТИ “Энерджинет”.
Часть 1. Об идеалах цифровизации, экономических трансакциях, «разминающемся» искусственном интеллекте и рисках «технологического суицида» человечества
За счет технологий стали доступны цифровые форматы объектов, субъектов, а главное — универсальные интерфейсы трансакций между ними.
Что ты понимаешь под цифровой энергетикой?
Я уже шутил где-то, что мы за три-четыре года в отношении одного и того же видения изменений в энергетике сменили несколько терминов: модернизация, умная энергетика, активно-адаптивная сеть, интеллектуальная энергетика и так далее. Термины меняются, видение остаётся, а энергетика работает, как работала… Сейчас, по всей видимости, всерьез и надолго в конкурсе движущих и мотивирующих понятий побеждает именно «цифровизация». Хотя бы потому, что она «овладела массами» уже в гораздо более широком контексте, чем энергетика. Теперь это мессия, с приходом которого преобразится вся наша экономика, да что там наша — весь мир преобразится, как никогда. Но даже без иронии в этом всеобщем стремлении к цифровизации что-то есть. Мы как-то на одной сессии о развитии энергетики — с участием внешних по отношению к отрасли экспертов — проводили вполне демократический конкурс по выбору термина для определения будущей энергетики, и термин «цифровая» был явным лидером. И это шел 2017 год, когда ещё не было официально объявлено, что это — новый логин и пароль к бюджетам всех уровней и средствам госкорпораций. То есть существует какой-то «цифростремительный» феномен массового сознания.
Какие ключевые характеристики цифровизации ты бы выделил?
Цифровизация, если говорить в максимально широком смысле, пришла в нашу жизнь достаточно давно. Цифровая счётность — это один из универсальных элементов языка, передачи информации, мышления, идентификации предметов и механизм взаимодействия друг с другом. Сколько лет цивилизации, столько лет и цифровизации. Кстати, замечу, что цифровых алфавитов в мире на порядок меньше, чем буквенных, языки самых разных народов быстрее всего заимствуют друг у друга именно числа и их обозначения. А всех победит двоичный алфавит, да и на самом деле он уже в основе всех наших взаимодействий и трансакций, за исключением уже не самого популярного очного общения. Здесь как раз сыграли несколько важных свойств «цифры»: однозначность, простота, универсальность.
В истории на «цифре» случилось несколько культурно-мыслительных, технологических и информационных сдвигов, каждый из которых значительно повышал эффективность той или иной сферы деятельности, общения, мышления, производства, устранял непонимание, серые зоны и нечестных посредников во взаимодействии: измерения, деньги, математика, инженерия, экономика, теория вероятности… Тем самым каждая такая «цифровая трансформация» значительно продвигала общество вперед, приближала к идеалам и закрепляла в нашем сознании положительный образ «цифры». Видимо, поэтому мы все так хотим, чтобы все было «цифровым».
А когда ты «цифровой» вирус подцепил?
Оказавшись после школы в Московском энергетическом институте, который, по наставлениям опытных взрослых, должен был гарантировано обеспечить мне востребованную энергетическую специальность, узнал, что наиболее популярным и престижным там был… факультет автоматики и вычислительной техники. То есть уже тогда все знали, к чему нужно готовиться. Но я ещё более поддался романтическим идеалам цифровизации, кибернетики и информационных технологий, и в числе других таких же романтиков и авантюристов поступил на вновь открывшуюся специальность по робототехнике на базе Энергомашиностроительного факультета МЭИ. С преподавателями, надо отдать им должное, было всё просто замечательно: профильная кафедра была сформирована на основе «научного десанта» из Института механики МГУ. Хорошая научная школа, для новой специальности с фундаментальных основ поставили профильные курсы и механики, и теории колебаний, и теории упругости, и теории управления, и программировать научили. И это на фоне базовых дисциплин лучшего вуза в стране по энергетике: электротехника, электростанции, электрические системы и сети, гидравлика. Гениальные и дальновидные учёные уже тогда понимали, что нужно развивать цифровые технологии и робототехнику в энергетике, да и вообще в стране. Они-то понимали, а вот страна тогда как-то не очень.
И вот, когда сейчас и мне про пенсию скоро надо думать, наконец-то, в том числе благодаря НТИ, в школах стали создавать кружки робототехники, — за внуков теперь порадуемся. А тогда, ближе к окончанию института, романтика прошла, и для организации собственной судьбы я пошёл разбираться с менеджментом, финансами и управлением рисками. А там, чёрт возьми, тоже оказалось очень интересно. И преподаватели, и предметы. Если бы на жизнь хватало и жильё бы предоставили, так бы, наверное, в науке и остался.
Похожая ситуация была и у меня, только меня в науку влекли теоретическая кибернетика и искусственный интеллект.
Кстати, одним из наиболее значимых этапов цифровизации стало именно создание теории кибернетики и теории информации с появлением электроники и компьютерной техники. Потом прошли ещё две волны, уже наиболее близкие к нам. Во-первых, формирование глобальной и практически вседоступной системы связи и обмена информацией, которая является не только технической системой, но и, что не менее важно, за счёт формирования стандартных протоколов и интерфейсов, дает общие, универсальные правила обмена информацией. Вторая волна — значительное развитие и удешевление вычислительных и измерительных средств, включая системы навигации. В результате стало возможным легко получать информацию от любого объекта, процесса или субъекта в любой точке, передавать её в любую другую точку, обрабатывать нужным алгоритмом, передавать результат опять же в любую точку любому объекту или субъекту и, если необходимо, осуществлять управляющее воздействие в отношении технических устройств. Благодаря этому открылись доселе невиданные возможности для обработки сколь угодно распределённых данных, оптимизации «оцифрованных» процессов и трансакций, а также их малозатратного масштабирования на любой уровень, вплоть до глобального. Наверное, это и есть отличительные признаки современной цифровизации. Во многих отраслях она уже радикально изменила ситуацию: финансы, связь, медиа, производство, логистика, торговля, транспорт, некоторые государственные сервисы. Уже близки к не менее существенным трансформациям образование и строительство.
А энергетика?
Собственно, простое логическое перенесение этих приятных новых возможностей на электроэнергетику и сформировало видение «цифровой энергетики». Кроме того, здесь по разным причинам накопились собственные потребности в изменениях, и цифровизация рассматривается как один из способов её «лечения». На поверхности кажется всё просто, но для приближения к такому цифровому идеалу надо «копать глубже», а там есть ещё непростые и не до конца пройденные вопросы.
Наверное, ещё одной отличительной особенностью современной цифровизации стало то, что её масштаб уже таков, что мы начинаем задумываться и об обратной стороне медали: глобальная цифровизация на порядок увеличивает киберугрозы, создает не менее безграничные возможности для мошенничества, тотального контроля, всепроникновения, уничтожения любой приватности, в психологии возникают новые формы зависимостей и фобий, а в обиходе прозаические проблемы информационного замусоривания, избыточности и невостребованности всей цифровой функциональности. Хотя страхи были всегда, но сейчас они всё чаще реализуются на практике. И самый страшный страх — это ожидание технологической сингулярности — новый «конец света». То есть наступает эпоха стресс-тестирования идеала «цифровизации».
Можно также уже предположить, что будет основой для следующих волн «цифровизации»: это искусственный интеллект и блокчейн, которые пока активно «разминаются», чтобы принять эстафету. А далее, возможно, значительные эффекты покажет групповая (роевая) робототехника, биокибернетика и биомеханика — интеграция электроники и живых организмов, а с технической стороны — на порядок более энергоэффективная и компактная элементная база электроники.
Про «разминающийся» роевой интеллект давай чуть позже. Так в чем же качественный сдвиг, который принесла текущая волна цифровизации?
Да, здесь важно уточнить, что в современной цифровизации был перейдет важный рубикон. Одно дело — автоматизировать и оптимизировать работу одного предприятия (этим бизнес активно занимается уже не один десяток лет), а другое дело — полностью оцифровать процесс, охватывающий несколько компаний, их поставщиков, заводов, складов, и, главное, клиентов, живущих в разных странах, говорящих на разных языках и работающих на разных операционных системах — вот это как раз цифровое достижение последнего десятилетия. За счет технологий стали доступны цифровые форматы объектов, субъектов, а главное — универсальные интерфейсы трансакций между ними. Благодаря этому оцифровке стали доступны полностью бизнес-цепочки от проектировщиков и инвесторов, через производителей и поставщиков до конечных клиентов, от автоматизированных сервисов до управляемых устройств.
Теперь во многих видах деятельности весь бизнес-процесс собирается и масштабируется в цифровом варианте. Хочешь получить новый сервис — просто скачай приложение, вся остальная инфраструктура уже есть. Именно эти новые возможности цифровизации дали прорывной эффект в некоторых сферах деятельности. Более того, благодаря этому стали возможными бизнес-процессы, существующие преимущественно или даже исключительно в виртуальном «цифровом мире» (соцсети, игроиндустрия, киберспорт, онлайн школы и другие).
Да, радикальный сдвиг случился после того, когда звенья цепочек удалось легко и гибко сцеплять при помощи оцифровки, технологизации трансакций. Ведь трансакция, по мнению институционалистов, являются атомарной единицей экономики, элементарным актом коллективного взаимодействия.
Да, эффект именно в этом. Хотя ещё далеко не все трансакции поддаются простой технологизации. Здесь как раз нужно вернуться к электроэнергетике. В её основе реальные физические процессы, причём достаточно мощные, опасные и очень быстрые. Оцифровка реальных объектов и процессов — это всегда сложная задача. Для того, чтобы оцифровать, например, такси, потребовалась в том числе измерительная система GPS, работающая ни много ни мало на спутниковой инфраструктуре. Без неё Uber бы не получился. А когда в коммерческом исполнении появятся такси без водителя, то есть будет полностью автоматизировано управление, можно будет говорить о цифровом такси. В электроэнергетике же мы ещё даже полностью не оцифровали измерения, а для воплощения идеала цифровой энергетики нужно ещё оцифровать и техническое управление, и коммерческое взаимодействие. И всё это должно быть точно и безошибочно взаимоувязано, и необходимо успевать за переходными процессами в энергосистемах, которые, очевидно, гораздо быстрее, чем в транспорте. Здесь, конечно, задачу заметно упростят накопители, которые вроде уже на подходе. Но даже с ними, в области полностью цифрового управления режимом работы энергосистемы, с методами и алгоритмами, ещё много нерешенных и поэтому очень интересных задач, и не только технических, но и поведенческих, экономических. Как, например, оптимально использовать общую сетевую инфраструктуру? Или как, например, обеспечить оптимальное техническое и экономическое взаимодействие двух или нескольких связанных энергосистем, самостоятельно управляемых независимыми субъектами и при этом не готовых делегировать управление кому-то одному?
Программный агент работает не для себя, а «для того парня». Это уже поведенческая модель, здесь включаются факторы мотивации, целеполагания, социальных отношений, которые ещё не формализованы и не до конца понятны.
Ты говорил, что не в полной мере можно технологизировать трансакции? Какие еще барьеры не преодолены?
Крайне сложный и интересный «фронт» для цифровизации как электроэнергетики, так и многих других сфер жизни — это межсубъектные трансакции при принятии решений. Это переговоры, конфликтные ситуации, выработка коллективных решений.
С технологиями принятия индивидуальных решений все более-менее хорошо: искусственный интеллект уже обыгрывает человека не только в шахматы, но и в Го. Когда нужно принять решение в отношении интереса одного субъекта или компании, то здесь это работает: субъект может с помощью того или иного алгоритма с заданной целевой функцией проанализировать все доступные для него данные, промоделировать различные сценарии и выбрать оптимальный вариант действия. Далее следует управляющая команда.
А если нужно обеспечить принятие и реализацию коллективного решения? При том, что в любом коллективе, как известно, все люди хорошие, но каждый по-своему. Как это решается в социальных механизмах, мы знаем много вариантов, но безупречных среди них пока нет. Могут ли здесь помочь цифровые технологии? Да, появился на горизонте блокчейн, который начал решать такие задачи не только на рынке криптовалют, но и уже в других областях. Здесь прорывных решений пока нет, но, надеюсь, это вопрос времени. Это, возможно, и будет основой следующей волны цифровизации.
По разработкам в EnergyNet мы видим, что блокчейн-технологии ближе подошли к коммерческим воплощениям, а вот технологии выработки программными агентами кооперативных решений в режиме, близком к реальному времени, находятся в глубоком НИОКР.
Да, согласен, ещё очень далеко до автоматического принятия кооперативных решений, поскольку это уже другой слой отношений. Ведь программный агент работает не для себя, а «для того парня». Это уже поведенческая модель, здесь включаются факторы мотивации, целеполагания, социальных отношений, которые ещё не формализованы и не до конца понятны. И еще это очень большой философский вопрос, будет ли когда-то эта крепость покорена технологиями, хотя какие-то элементы будут, безусловно, автоматизированы.
Но мы же уже верим, что скоро появится беспилотный транспорт. Вполне себе задача с коллективным принятием решений.
Давай на этом случае разберём, чем кибернетическая постановка задачи управления и автоматизации отличается от человеческой. Робот, который едет по дороге, знает свою цель исходно и не может её поменять, — не он её придумал. Ему не важно, зачем он туда едет. Он оптимизирует способ достижения цели с учетом ограничений по безопасности, ситуации на дороге, погодных условий, времени суток и так далее. Все другие машины для него — внешние объекты. Правила движения ему заданы заранее, и он исходит из того, что они для всех одинаковы. То есть все человеческие коллективные договоренности уже свершились и заложены в алгоритмы. У самого робота не возникает потребности менять свои цели и алгоритмы.
Для человека ситуация дорожной задачи гораздо богаче. Человеку интересны не только объекты на дороге, но и вокруг неё. В том числе из-за них у него может поменяться цель поездки. Человек случайно или специально может нарушать правила. Увидев, как едет другая машина, или кто в ней едет, у человека может поменяться алгоритм движения. То есть у человека есть другой по отношению к транспортной задаче слой отношений, из которого для неё формируются цели и методы. В мире беспилотного транспорта человек никуда не денется. Цель нашему роботу задана Иваном Ивановичем, и он-то знает, зачем туда надо ехать. Должен ли туда ехать его робот или, может, пусть лучше поедет робот Ивана Петровича? Об этом им нужно договариваться, и они это будут делать, не исходя из правил дорожного движения, и более того, четких правил для этого у них нет. А как обогнать робота Ивана Петровича, Иван Иванович в будущем будет уже объяснять не водителю, а программисту своих роботов. Достижение консенсуса и конкуренция в среде с не полностью детерминированными правилами — это уже другого типа задача, это уровень взаимодействия субъектов, имеющих определенные интересы, ценности, идеалы.
Да, цели ставит человек, исходя из ситуации, общего социального контекста, культурного багажа…
Или ещё пример. Допустим, фраза «я играю с роботом в шахматы» звучит нормально. А «я играю с роботом в шахматы на деньги» — звучит очень странно, даже если вместо шахмат мы будем играть в карты. Потому что понятно, что самому роботу деньги не нужны, а они нужны человеку — его владельцу. И когда мне надоест проигрывать, я ему предложу, например, немного поменять правила игры. А кому «ему»? И тут еще интересней. Сейчас я серьезно смогу это обсуждать только с разработчиком алгоритма, и даже владелец робота тут как бы ни при чём, если он не разработчик. И уж точно сейчас я не смогу обсудить этот вопрос с самим роботом, он мне откажет, а я откажусь дальше играть — деятельность прекратится. А когда в этой ситуации станет возможным конструктивный диалог с машиной, вот тогда, действительно, начнётся нечто интересное.
«Кесарю кесарево». То есть человек еще может и правила игры переопределять, менять протокол взаимодействия.
Недетерминированная, с новыми вызовами и меняющимися ситуациями жизнь настоящему человеку интереснее, так как она является богатым источником смыслов, целей, мотивов для активной деятельности и предоставляет больше возможностей для успешной конкуренции в социальной жизни.
Чем рынок в широком понимании отличается от рынка в техническом понимании? Рынок в техническом понимании — это место или способ осуществления трансакций, который можно полностью автоматизировать, а рынок в широком понимании — это то самое экономическое взаимодействие субъектов по поводу распределения ресурсов, достижения каких-то целей при конкуренции между собой, при дефиците информации и при постоянно меняющихся правилах игры. Это поведенческий слой.
Американские ученые в области теории систем и управления Акофф и Эмери еще в прошлом веке назвали системы, которые могут изменять свои задачи и средства их выполнения при постоянных окружающих условиях, целеустремленными. Такие системы проявляют волю. Они цинично сказали: «Самый известный пример таких систем — люди». AI не дотягивает еще до целеустремленных систем, нельзя на него рассчитывать в ближайшее время?
Такое кибернетическое понимание человека уместно для определенных моделей, но это упрощенное понимание, возможно, результат эйфории от технократических успехов последних десятилетий. Не надо забывать границы применимости любой теории и методов. Да, можно предположить, что человек — это тоже робот, даже кем-то запрограммированный, но он во много раз сложнее, чем пока изобретаемые им самим роботы. Более того, человек, если уж задаться такой аналогией, — это групповой многоэлементный «эксвременной робот», его «программа» распределена внутрь на триллионы клеток, а снаружи — на миллиарды других людей и их предков на несколько поколений. Да, AI моделирует интеллектуальную работу мозга и уже сильно его превосходит, но мозг — это лишь один из элементов человеческого организма, далеко не полностью определяющий его жизнь. А ещё мы умеем делать экскаваторы и самолёты, которые тоже на порядок превосходят возможности отдельных органов человека… Как у нас появляются цели, ценности, мотивы — главные «двигатели» мышления и деятельности? Уж точно это не продукт только индивидуального интеллекта, а скорее даже наоборот.
Афористично высказался на сей счет еще один американец — философ Дэниел Деннет: «Человеческое сознание — это сто миллиардов танцующих роботов». Он указывал этим на коллективный характер мышления, но и на принципиальную возможность воплотить человеческое сознание в машине.
Как бы ни привлекательна была цифровизация, но надо трезво понимать, что она создает избыточную иллюзию в возможности технического решения всех наших человеческих проблем, даже если мы построим идеальную цифровую экономику, замечательную цифровую энергетику… Техника — это пока инструмент в руках человека, она упрощает многие процессы, повышает эффективность, облегчает взаимодействие людей, но не замещает их. И к ней надо относиться как к инструменту, а не как к самоцели. Хороший инструмент интересен тогда, когда есть, что им делать, и это что-то из человеческой жизни.
Пока не замещает, допустим. А нужно ли перед собой ставить задачу, чтобы такое замещение произошло? Стоит человека отпустить из пут все более усложняющихся экономических отношений?
Сейчас у нас почти все процессы жизни человека так или иначе завязаны на экономические денежно-товарно-потребительские отношения, и если их все делегировать роботам, то чем будут жить люди? Теоретически освободить всех нас от рутинной хозяйственной деятельности, наверное, возможно, только одновременно нужно будет придумать и освоить другое занятие для человека, другой уклад жизни, другой предмет общественных отношений.
«Не плачьте по мне, друзья и подруги, / Теперь пребываю я в вечном досуге», — эту эпитафию одной подёнщицы приводил Джон Кейнс сто лет назад в своей статье «Экономические возможности наших внуков». Он был тогда оптимистичнее нас относительно построения беструдового общества.
Это уже социальная инженерия, и в ней человечество, надо признаться, не сильно преуспело. Эволюция не дала пока долгосрочно устойчивых эффективных моделей организации жизни общества, применяемые обветшали и сильно потрёпаны, а все попытки искусственно их спроектировать приводили к ещё худшим результатам. Преобладающие методы конкуренции за ценности и ресурсы сейчас — обманные и силовые. И, если мы этому научим роботов, страшно даже представить… Поэтому ставить только задачу автоматизации всего и вся, не решая в приоритетном порядке гораздо более острые социально-культурные проблемы — это «технократический суицид» для человечества. Сингулярность случится не в технике, а в человеческом сознании, потерявшем смысловую ориентацию своего существования. Не в роботах счастье, а в их правильном и умеренном применении.
Но мы уже далеко ушли от нашего важного и нужного хорошего инструмента — цифровой энергетики.
Да, давай сейчас вернемся к ней, родимой… Но я бы хотел отметить всплывшее в беседе понятие «социальная инженерия». Для преодоления наступающей под натиском технологий сингулярности нужен новый подход к инженерии мира людей и машин, к конструированию различного типа отношений.
Продолжение следует…
Подготовлено IC EnergyNet в рамках проекта “Люди цифры”
Автор: Дмитрий Холкин
