В зоопарке. Семинар с Линор Горалик
Линор Горалик перевела микро-рассказы израильского писателя Алекса Эпштейна и разбирает их с подростками
Л.Г.: Линор Горалик
Участники: Софа Андреева, Ева Девиата, Ада Иванова, Рахель Кокоз, Яша Билич, Лея Машеджинова и другие.
Л.Г.: Привет, котята! Давайте начинать. Огромное вам спасибо, что вы пришли. Я ужасно вам рада. Включайте камеры, кто может, чтобы я вас видела. А кто не может, я понимаю. Значит смотрите. Я сначала кину в чатик рассказ, который мы сегодня разбираем. Он называется «В зоопарке», и он один из моих любимых. Я прочитаю, и мы сразу начнем о нем говорить.
Маленький робот спросил больших роботов: «Почему в этой клетке два робота?» «Они не роботы, они просто так выглядят, — объяснила ему мама. — Прочти вот эту табличку». «”Обычный белый самец и полуазиатская самка”, — вслух прочитал ребенок и снова спросил: Но почему они в клетке?» Его отец ответил: «Чтобы они не попытались нас выключить».
Л.Г.: Наше любимое «восстание машин». Мы уже говорили про восстание машин, в предыдущем цикле семинаров. Но у меня первый вопрос, и он вообще не про рассказ. Вы бывали в Музее техники, где выставлены роботы, машины, или какие-нибудь автоматы? Я вижу, что Софа кивает, Ева кивает. Я вижу, что Ада поднимает руку. Я думаю, что кто-нибудь еще тоже был. Какие чувства у вас вызывают старые роботы, старые машины? Поднимайте руки, потому что мне ужасно интересно. Я знаю, какие чувства они вызывают у меня. Давайте сначала Софа. Софа первая подняла руку. Потом по порядку.
Софа: Скорее, какой-то страх. Они выглядят очень страшно для меня, эти старые роботы. Одновременно какое-то благоговение перед людьми, которые смогли такое создать. А с другой стороны, они выглядят очень страшно, как будто реально сейчас восстание машин какое-то случится.
Л.Г.: Класс!
Софа: Как будто они сейчас уничтожат всю планету.
Л.Г.: Они жесткие такие, да, очень жесткие, эти старые машины. Давайте, Рахель.
Рахель: Роботы пугают, у меня была игрушка, я очень испугалась, когда робот покрылся водой. Старые машины я часто вижу, потому что у меня осфан около дома.
Л.Г.: Я переведу то, что сказала Рахель. У нее коллекционер живет поблизости. У нее рядом живет коллекционер старых машин. Окей. Ада. Потом Яша, потом Ева. Ада, давайте.
Ада: Ну про роботов мне нечего особо сказать, потому что я их почти не видела. А вот некоторые старые машины выглядят добрее почему-то. Их фары такие округлые. Не знаю, они очень по-доброму смотрят.
Л.Г.: Так. Яша, пожалуйста.
Яша: Не про роботов, а про компьютеры. Они меня восхищают и удивляют. Первые компьютеры начали появляться в 1950-х годах. Еще меня восхищает, что мы смогли так быстро развить технологии.
Л.Г.: Да. У меня есть, что ответить, но сначала я послушаю вас. Ева, пожалуйста.
Ева: У меня было такое ощущение, когда я впервые увидела роботов перед собой. Они так начинали двигаться, будто бы это настоящие люди, но при этом же они двигаются на батарейках, либо подключены в сеть. И как будто бы с ними можно общаться, как с настоящими. Ощущение было, будто бы я уже в другом мире нахожусь.
Л.Г.: Класс! Вот это ужасно интересно мне. И, пожалуйста, Софа.
Софа: Я хотела добавить к тому, что сказала Ада, что старые машины выглядят добрее. Я поняла, что у меня это в какой-то степени так. Старые роботы тоже. Мне становится их жалко.
Л.Г.: О!
Софа: Что их как будто бросили и никто не использует. А вот с них всё начиналось. Сейчас про них все уже забыли. Сейчас думают, какие они плохие и старые и уже ни на что не годные. А на самом-то деле они были началом всего. Про это мультик «Валл-И».
Л.Г.: Да! Нужно сказать, что я по образованию программист. И я начинала работать программистом в 1991 году, 33 года назад. Я помню наши компьютеры. Они были дико передовые тогда. Я работала в университете. И наши компьютеры были очень крутые. И когда я вспоминаю их сейчас, это мусор, они как раз для музея. И я всё время думаю, как важны были эти компьютеры, как много они нам давали, как много они для нас значили. И мне ужасно грустно. И я плакала над «Валл-И». Я плакала от этого чувства, что то, что имело огромное значение, огромную цену, огромную ценность, вдруг ничего не значит. Это очень странное ощущение и очень болезненное, надо сказать. Это происходило на глазах: одни компьютеры стремительно сменялись другими. И продолжают сменяться. И старые продолжают превращаться в куски металла. И это очень-очень странно. В этом есть что-то очень печальное. Ева, пожалуйста.
Ева: Я вот еще хотела спросить вас по поводу ваших компьютеров. Вы говорите, что они были очень классные. А что в них было такого классного? Все же компьютеры, которые мы знаем, они обычно похожие друг на друга. Может, одни больше, другие поменьше. Что в них было такого особенного?
Л.Г.: Это суперский вопрос. Они на тот момент были очень быстрыми, и картинки на них были очень яркими. И они умели делать то, что не умели делать другие компьютеры. Например, они умели запускать игры, которые не умели запускать другие компьютеры, и не только игры, но и всякие программы. И на них можно было писать программы, которые нельзя было писать на других. Они умели делать вещи, которые старые компьютеры делать просто не умели. Вот это я называю классные. Как вам кажется, то, что у нас происходит в рассказе? Кто там сидит в клетке? Мы предполагаем, что в клетке сидят люди. Мы понимаем это очень быстро. Но у меня есть менее понятный вопрос. А когда происходит действие рассказа? Вот неочевидный вопрос. Давайте, Рахель.
Рахель: Как я понимаю, в будущем. Потому что там почти все роботы, может, один живой человек с собакой, кошкой, но не больше. И ты спрашиваешь своих родителей. Почти всех животных уже нету, всё больше — роботы. И ты спрашиваешь у родителей: «Что это?» Потому что ты не видел никогда нормальных животных.
Л.Г.: Класс! Окей. Ада, давайте.
Ада: Я соглашусь, что это происходит в будущем. Потому что маленький робот перепутал людей с роботами. То есть роботы настолько походит на людей, что маленький робот их не отличил.
Л.Г.: О! Есть вопрос. Сначала я спрошу Софу, потом Еву. Но у меня есть уточнение одно. Софа, давайте.
Софа: Я хотела сказать, что у меня был скорее вопрос не «когда», а «где». Для меня это было просто другое место, какая-то другая планета, возможно, другая вселенная, где живут роботы.
Л.Г.: Нет, я вам не дам сбежать в другую вселенную.
Софа: Хорошо.
Л.Г.: Это слишком просто.
Софа: Для меня это было не совсем будущее, а просто другое место.
Л.Г.: Я понимаю.
Софа: Если думать про будущее, то я согласна с тем, что сказала Ада.
Л.Г.: Окей. Я специально не даю вам «убежать», потому что мне хочется донести одну мысль. У меня к вам очень конкретный вопрос. Это далекое будущее или близкое? У нас есть какой-то способ определить более точное «когда»? В рассказе есть подсказка. Рахель, давайте.
Рахель: Мне кажется, что это далекое будущее. Возможно, вскоре кто-то взорвет половину мира, и мы останемся без компьютеров. И станем жить, как наши предки. И люди очень не скоро вспомнят, как делать компьютеры, и вот тогда…
Л.Г.: Вот настоящая израильтянка, слышу настоящую израильтянку. Может, взяли и всё взорвали. Надо начинать всё сначала.
Рахель: Да, мы привыкли к войне.
Л.Г.: Да. Ева, давайте.
Ева: А вот мы же про роботов говорим, да?
Л.Г.: Да.
Ева: Вы сказали: «Быть в этой клетке». Но роботы — это же не люди, робот — не человек. А вдруг он может ошибиться и в клетку засунуть то, что не надо. Допустим, не птицу поймать, которую нужно, а вместо птицы — какого-то другого робота или человека.
Л.Г.: О! Мне кажется, что Ева очень близка к разгадке. Смотрите. Маленький робот спрашивает своих маму и папу: «Почему в этой клетке два робота?» Яша, давайте. Вдруг вы уже все разгадали.
Яша: Ну, во-первых, потому что это роботы. Значит это в будущем, потому что у нас нет таких роботов. А, во-вторых, потому что уже есть несколько поколений роботов. Значит это будущее.
Л.Г.: О! Далекое.
Яша: Далекое.
Л.Г.: Но есть еще более точная подсказка. Софа?
Софа: Не знаю. Сейчас я поняла, что для меня как-то странно, что у робота есть родители.
Л.Г.: О!
Софа: Потому что роботы, их же делают руками.
Л.Г.: И Лея задает тот же вопрос.
Софа: Как бы люди с роботами поменялись местами. Раньше люди глазели на роботов. Может быть, тут вообще роботы делают и собирают людей по частям.
Л.Г.: Мы очень близко, но мы еще об этом поговорим. Смотрите. Маленький робот спрашивает родителей: «Почему в клетке два робота?» Это значит, что роботы так похожи на людей, что их можно перепутать. Это происходит в том будущем, где можно делать роботов, идеально похожих на людей. У нас пока нет таких технологий, но они близко. С одной стороны, это недалекое будущее. С другой стороны, это место, где роботы заводят семьи, где у роботов есть понятия «мама» и «папа». Это мыслящие роботы, у них есть чувства. И тут надо поговорить об одной важной истории. Сейчас очень много обсуждается вопрос, в какой момент мы получим чувствующие и думающие машины. Одни ученые, очень серьезные, из тех, кому мы привыкли доверять, говорят, что этого не произойдет никогда. Другие ученые, тоже умные люди, не фантасты, не сумасшедшие, говорят, что это может произойти в любую секунду. Они никогда раньше не были замечены в том, чтобы говорить какую-то фантастическую галиматью. Они — люди, которым мы привыкли верить. Иными словами, мы входим в период, который начнется в тот момент, когда мы сможем создавать роботов, идеально похожих на людей, и ограничен тем моментом, когда роботы начнут думать. Вот это наш кусочек будущего. Может быть, это завтра или послезавтра. А, может быть, это нигде, никто и никогда. Мне было ужасно интересно, как он одним этим вопросом маленького робота задает нам временную рамку, дает нам представление о том, о каком времени идет речь. Давайте, Рахель, а потом Ева. Потом будем двигаться дальше. Давайте, Рахель.
Рахель: Я надеюсь, что такого не произойдет. Мне кажется, что дети и так уже слишком залипают в телефонах. И мне очень стыдно, потому что у меня нет всего этого, что есть у других детей. Я, например, не знаю израильских певцов, потому что мое телефонное время ограничено. Но человечество закончится, если все эти технологии довести до абсурда.
Л.Г.: Поняла, понимаю. Ева, пожалуйста.
Ева: Там была закрытая клетка. Я думаю, что они не просто случайно поймали людей. Может быть, они так отлавливают себе домашних питомцев, или взяли людей на передержку.
Л.Г.: Может быть. Но тут нам автор говорит очень четко. Я думаю, что в клетке у них два человека. И это важный момент, мне кажется. Потому что в зоопарке, в клетке обычно держат тех, кого мы видим редко. И тут возникает вопрос: «Где все люди?» Маленький робот явно до этого не видел людей. Он их даже не узнал. И это, конечно, одновременно история про очень старые страхи, страхи о восстании машин, про которые люди писали еще в XIX веке. Это очень старые страхи. Это очень старые опасения. Как только люди начали создавать машины, они начали бояться, что машины их убьют. И в культуре эта тема возникает всё время. Но есть и новые страхи, про то, что мы создадим машину, которая будет не отличима от нас. Что это значит? Что ей легко будет нас убить, легко нас подменить, что она будет думающей чувствующей, что, может быть, мы будем уже не нужны. И постоянная тема — что будет, если мы создадим машину, которая сможет нас заменить? Может быть, она не убьет нас. Может быть, мы вымрем от того, что мы будем никому не нужны. Может быть, роботы не убили этих людей.
Ева: Да, такая возможность есть. Но вот я еще думала. Вот вы же говорите, где же были люди в то время, когда роботы были заняты своими делами? Они же не видели людей. Я думаю, что все это время люди могли дома сидеть или заниматься своими делами в своих телефонах, планшетах. Я думаю, что они надолго залипали, а потом уже, когда отлипали, переходили в другую жизнь.
Л.Г.: Ученые, которые сейчас боятся, что мы создадим слишком умные технологии, говорят именно это. Мы невнимательно следим за тем, что происходит. Мы можем пропустить момент, когда машины станут умнее нас. Лея задает нам очень важный вопрос в чатике. Она говорит: «Может быть, не надо создавать таких роботов?» Это один из главных философских вопросов в мире. Нужно ли создавать технологию, которая может нам навредить? Этот вопрос стоял перед людьми, когда мы создавали яды, ядерное оружие, когда мы создавали автомобиль, который убивает огромное количество пешеходов и не только пешеходов, а тех, кто сидит за рулем. Это один из главных философских вопросов на свете. У меня, конечно, нет на него ответа. Но думать о нем, мне кажется, очень важно. Ада, пожалуйста.
Ада: Я бы хотела добавить чуть оптимизма.
Л.Г.: Давайте!
Ада: У зоопарков есть важная функция сохранения, распространения и размножения исчезающих видов. Поэтому, возможно, роботы настолько умные и настолько…
Л.Г.: Добрые.
Ада: Да, добрые, понимающие, что пытаются помочь человечеству.
Л.Г.: Восстановить его?
Ада: Да. То, что человек загнал себя всем этим глобальным потеплением, бесконечными катастрофами настолько в угол, что половина, а то и больше, повымирала. Но остались роботы, которых не отличить от людей. И теперь они пытаются восстановить человечество и планету Земля.
Л.Г.: Класс! Версия Ады кажется мне пока самой оптимистичной, несмотря на то что она грустная: мы себя доконали, роботы остались и пытаются нас восстановить. Мне ужасно нравится. Софа, пожалуйста.
Софа: Я хотела сказать, что все боятся восстания машин, и того, что роботы научатся чувствовать. Но в чем тогда будет фактическое отличие робота от человека? Почему нельзя будет просто принять роботов, чтобы они жили среди нас? И стали бы, возможно, каким-то нашим видом, и жили бы как все люди.
Л.Г.: Об этом позже. Есть и книги, и фильмы, и сериалы про то, как роботам дают права людей. И, наоборот, про то, как роботы пытаются скрыться среди людей, потому что, как они буквально говорят: «Мы чувствуем, мы думаем, мы ничем не отличаемся от вас». Но люди не готовы это принять, и они преследуют роботов. Это целая тема такая, и она очень классная. И очень здорово, что вы к ней пришли. Лея, пожалуйста.
Лея: У меня ответ Софе. Как многие люди вместо того, чтобы просто нормально жить, начинают убивать, захватывать, точно также могут сделать и роботы.
Л.Г.: Знаете, что меня ужасно интересует, Лея? А могут и не сделать. Каждый раз, когда мы говорим, если роботы начнут мыслить и чувствовать, то это будет катастрофой, я думаю, может быть, если роботы начнут мыслить и чувствовать, они будут заниматься йогой и пить гранатовый сок. Ну, они не могут пить гранатовый сок. Но они начнут заниматься йогой и ходить фотографировать норвежские виды. И почему-то это какая-то мысль, которая всем кажется ужасно чуждой. Мы всегда предполагаем, что все те, кто получит какие-то возможности, начнут ими злоупотреблять. И тут есть над чем подумать. Ада, я вас остановлю на секундочку, потому что нам сегодня нужно закончить довольно рано. Я хочу еще вам одну историю рассказать. Поехали дальше. Смотрите. На самом деле история про то, что людей показывают в зоопарке, не новая. Людей действительно показывали в зоопарке, в зоопарках. В конце XIX века людей не просто показывали в зоопарке среди животных, а существовали целые человеческие зоопарки. И это была не шутка. Это делалось не потому, что люди были согласны выставляться в зоопарках. Когда европейцы и американцы осваивали новые земли, они сталкивались с разными новыми народами. Да, Софа, это про расизм. У европейцев и американцев было передовое оружие. В результате они захватывали пленников. Большинство они просто убивали, чтобы захватить их земли, кого-то делали рабами. Но обычно они еще захватывали пленников, отвозили их в Европу, в Америку и выставляли в зоопарках. Вы можете найти это в интернете по словам «люди в зоопарках». Если кто-то владеет английским, то на английском это The Human Zoo. Это очень страшные истории. Люди жили в зоопарках годами. Ты сидишь в клетке, обычно полуголый для того, чтобы тебя было хорошо видно. Приходят белые люди, тычут в тебя пальцами, рассматривают тебя, как животное. И у тебя нет никакой другой жизни, и ты не можешь никуда сбежать. И это было довольно ужасно. И это длилось до начала, а кое-где и до 20-х — 30-х годов, XX века. Для истории это не так давно. И с этими людьми фактически обращались как с животными, в том числе потому, что никто не пытался научить их языку захватчиков и никто не заботился о том, чтобы выучить их язык. Эпштейн наверняка об этом знал, и он рисует нам очень жестокую историю про то, как история переворачивается. Недаром, он говорит об этих людях в клетке: «белый самец и полуазиатская самка», как о животных. Он показывает нам, насколько это чудовищно, когда это происходит с тобой. Ада, пожалуйста. «Получается, что роботов нужно бояться точно так же, как и людей?» Поговорите с нами про это, Ада.
Ада: У нас есть прекрасный пример того, как люди творят рандомную дичь, просто потому что захотели.
Л.Г.: Да. И мы предполагаем, что роботы обязательно захотят. Есть такое понятие в психологии, которое называется проекция. Проекция — это когда ты приписываешь другому человеку свои мысли и чувства, потому что не можешь себе представить, что кто-то поведет себя иначе, чем ты. И мне кажется, что это проекция, когда мы считаем, что роботы поведут себя подобно нам. Мы честно думаем, что если у кого-то появится мышление, то он будет вести себя, как вели себя люди, то есть захочет захватывать и убивать. И это больше говорит нам о людях, чем о бедных роботах. Может быть, люди и правы, а, может быть, и нет. Есть прекрасный фантастический рассказ, который я очень люблю. По-моему, это рассказ Рея Брэдбери. Это рассказ про то, как земляне встречают некоторую цивилизацию в космосе и немедленно на нее нападают, на ее корабли. Цивилизация им, соответственно, отвечает. Между кораблями вспыхивает бой. Люди гибнут, инопланетяне гибнут, всем плохо. И землянам удается взять одного-единственного пленного. И пленный ведет себя очень спокойно. Через пленного удается договориться о переговорах. Инопланетяне опаздывают на переговоры. Земляне не могут понять, почему пленный так спокоен в этой ситуации. И там есть гениальная фраза, которую я очень люблю. Земляне спрашивают: «Когда прибудут ваши переговорщики?» И пленный говорит: «В некоторое время с этого момента». Я эту фразу запомнила на всю жизнь и так часто отвечаю. Ну вот. Прибывают переговорщики и говорят: «Вы очень хорошо играете, только очень жестко». И начинают из ниоткуда возвращать землянам корабли, которые земляне считали сбитыми, и ждут, что земляне тоже вернут им их корабли. Потому что во всей Вселенной, когда сталкиваются две цивилизации, они могут поиграть в войнушку, но никому не приходит в голову убивать. И только земляне уничтожают чужие корабли всерьез. И когда инопланетяне понимают, что земляне вправду убили их соотечественников, они в абсолютном шоке. Вот это то, что, как мне кажется, здесь происходит. Ева, пожалуйста. Потом Рахель.
Ева: Я считаю, что хотя роботы — существа и хорошие, хотят помогать, дружить, делать только добро, именно такими мы их создали, если в них что-то сломается, они не просто перестанут работать, они могут переродиться и начать творить зло.
Л.Г.: То есть можно дружить, но надо быть начеку, надо остерегаться?
Ева: Да.
Л.Г.: Хорошо. Принято. Рахель, пожалуйста.
Рахель: Я не могу ничего сказать про роботов, но я их боюсь.
Л.Г.: Окей.
Рахель: Мой папа говорит, и дедушка говорил, что, люди хотели бы писать стихи и петь, но сделали роботов, и роботы теперь поют и пишут стихи, а мы работаем.
Л.Г.: Класс. Очень хорошая фраза. Софа, пожалуйста.
Софа: Я хотела сказать, что роботы могут быть лучше, чем люди. Они не устают. Им не нужно есть. У роботов, как и у людей, есть свои минусы, есть свои плюсы. Поэтому я не понимаю страха роботов, восстания машин. Роботов надо бояться не больше, чем людей. Мне кажется, что даже если случится восстание машин, то есть плохие люди, есть хорошие. Нет, полностью плохих людей не существует. Но всегда будет совершаться что-то плохое — и людьми, и роботами.
Л.Г.: Я понимаю.
Софа: И еще я хотела сказать про зоопарк. Я просто хотела сказать, что я чувствовала себя, что как будто это я в этом зоопарке, что на меня все смотрят. Я была в Сербии, училась в сербской школе. Я русская. А школа была в деревне, далеко от города. И все дети были в шоке, что к ним приехала иностранка. Я еще не знала языка, со мной все говорили по-английски. И меня в этой школе все знали, все за мной гонялись постоянно. Говорили: «Hello, hello», здоровались со мной, кричали: «Эй, русская девочка». Я действительно чувствовала себя так, будто я в зоопарке, что на меня все ходят глазеть.
Л.Г.: Когда на тебя все смотрят, даже с самыми хорошими намерениями, это очень тяжело. Даже если все смотрят на тебя, и ты всем нравишься, это очень тяжело. Ева, пожалуйста.
Ева: Я во многом согласна с Софией. Не нужно бояться роботов, но роботы — это не люди, если они сломаются, их не исправить. Если мы что-то плохое делаем, то мы можем сами себя исправить. Но роботы — это не люди. Я думаю, что их уже потом никак не исправишь. И от этого будет ужасная проблема, этого будет не избежать.
Л.Г.: Я понимаю, о чем вы говорите. Яша, пожалуйста. И мы будем заканчивать.
Яша: Мне кажется, нельзя мерить роботов человеческой меркой, мы же сами определяем, что значит плохой, что значит хороший, что значит разум или чувства.
Л.Г.: Конечно.
Яша: Нельзя сказать, что робот неразумный.
Л.Г.: Я поняла. Нельзя говорить, у кого-то есть разум, у кого-то нет.
Яша: Потому что мы сами создали эти понятия.
Л.Г.: Абсолютно. И это тоже огромный философский вопрос. Начиная с какого момента, мы считаем что-то разумным? Начиная с какого момента, мы говорим, что у чего-то есть сознание? Это очень сложный вопрос. И его обсуждают очень серьезные люди. И если вы захотите заниматься этим вопросом, мне кажется, что ваш вклад будет огромным. Дорогие друзья, мы заканчиваем на сегодня. Спасибо вам огромное. Это один из моих самых любимых рассказов у Эпштейна. Вот Софа говорит: «Вдруг они уже обладают сознанием?» А мы этого не знаем. На этой веселой ноте мы заканчиваем.
