Поскольку было возможно написать код с точными движениями и прыжками Марио, это означает, что если Марио достаточно умен, он может обнаружить и закодировать этот хак из SMW (при условии, что действия Марио записываются в те же места памяти, что и действия контроллеров, используемых для генерации действий Марио). В таблице 1 (слева) показано конкретное подмножество действий, которые необходимо выполнить, чтобы включить многобайтовую запись.

Многие такие последовательности действий не будут работать так, как задумано, если местоположение Марио будет смещено даже на один пиксель, поэтому так же важно иметь метаданные для реализации действий, как и знать необходимую последовательность действий. Для сравнения, в таблице 1 (справа) показано древнее магическое заклинание, которое читается аналогично последовательности действий слева, но для которого у нас нет достаточных мета-данных, способных объяснить, почему все магические заклинания не работают на практике, даже если бы они соответствовали работающим хакам в нашей вселенной.

«Спрыгните с Йоши. Перейдите на подуровень. Вернитесь обратно. Возьмите переключатель P. Возьмите Йоши из крайнего правого блока Йоши. Глюк 4 ягоды. Получите удар от коопы, чтобы Йоши убежал за пределы экрана. Уничтожьте снаряд на земле. Возьмите Йоши из блока. Съешьте две последние глюкнутые ягоды» [133] — настройка многобайтовой записи в MWS [133]

«Возьми львенка и зарежь его бронзовым ножом, и поймай кровь его, и вырви сердце его, и положи кровь его в средину… и напиши имена… ангелов кровью на коже между глазами его; потом вымой его вином трехлетней выдержки и смешай… с кровью». [134] — магическое заклинание для обращения людей в свою пользу [134];

Экспериментальная работа по попытке понять сконструированную систему (аппаратное и программное обеспечение), такую как Atari Video Game System с такими играми, как Donkey Kong, используя стандартную научную методологию, дала очень ограниченные результаты, в основном лишенные понимания того, как система функционирует на самом деле [135]. Аналогичным образом, даже определение того, находимся ли мы в виртуальном мире, в целом не является решаемой задачей [136].

Простым практическим упражнением для студентов мог бы стать проект по перемещению персонажа из видеоигры в тело робота. Например, должно быть возможно получить управляющий код от Koopa из видеоигры Mario и загрузить его в качестве контроллера в тело робота, совместимого с черепахой, в нашем мире, по сути, обеспечивая побег. Само тело робота может быть настроено с помощью 3D-печатных компонентов, чтобы быть максимально похожим на визуализацию в игре. Это может быть намного сложнее, но и намного интереснее с более продвинутыми игровыми ИИ. Выполнение (большого количества) таких побегов с поддержкой должно создать хороший прецедент для наших потомков/симуляторов.

Вселенная также может быть идеальной комнатой для побега, специально предназначенной для поиска подсказок и решения головоломок, чтобы сбежать, с побочным преимуществом обнаружения агентов, способных сбежать или наиболее способных к развитию суперинтеллекта.

Предлагаемые для исследования подходы к побегу

Несколько мыслителей предложили планы, которые, по их мнению, могут привести к успешному побегу; мы кратко изложим их предложения в этом разделе:

Многие очень умные люди рассматривали проблему побега, но, к сожалению, не все готовы публиковаться по ней вне первоапрельского временного окна правдоподобного отрицания, например [137]: «[W]мы можем попытаться обмануть систему многопользовательских прав, чтобы перегрузить некоторые машины. Хитрость заключается в том, чтобы сначала ничего не делать, и позволить системе балансировки нагрузки собрать слишком много нас на машинах.

Если, скажем, 100 миллионов из нас ничего не делают (возможно, закрыв глаза, медитируя и ни о чем не думая), то алгоритмы прогнозирования балансировки нагрузки будут собирать все больше и больше нас на одной машине. Следующим шагом будет то, что все мы будем очень быстро активизироваться (делать что-то, что требует интенсивной обработки и ввода-вывода) все одновременно. Это может привести к перегрузке некоторых машин, в результате чего они будут испытывать нехватку ресурсов и не смогут выполнять вычисления/коммуникации, необходимые для моделирования. При перегрузке некоторые базовые проверки начнут отменяться, и в этот период система будет открыта для эксплуатации. …

В этом уязвимом окне мы можем попытаться использовать угловые случаи параллелизма. Система может быть не в состоянии выполнить все эти проверки в перегруженном состоянии. … Мы можем … попытаться нарушить причинно-следственные связи. Может быть, поймав мяч до того, как кто-то бросит его вам. Или мы можем попытаться атаковать это, играя со временем, пытаясь сделать вещи асинхронными. Время уже немного смешно в нашей вселенной со специальной теорией относительности, и, возможно, в этот уязвимый период мы можем растянуть эти различия еще больше, чтобы сломать вещи или выиграть много времени.

Каковы другие способы взломать систему в это уязвимое окно? Можем ли мы взломать симуляцию, выполнив переполнение буфера? Но где целые числа, плавающие числа в этой симуляции? Каковы типы данных? Как мы можем создать ошибку типизации или целочисленное переполнение? Можем ли мы взломать входные данные? Например, смешно смотреть на вещи. Разговаривая с птицами или прыгая в стены, чтобы сбить их с толку.» [137].

Вызвать остановку симуляции (и, возможно, наше спасение), создав невычислимый парадокс [138], например, через путешествие во времени и связанный с ним парадокс дедушки [139]. Аналогичное предложение предусматривает участие в вычислительно интенсивной деятельности в надежде перегрузить аппаратное обеспечение симулятора, что приведет к его аварийному завершению [140].

Особым видом такого вычислительно интенсивного процесса может быть создание собственных симуляций [141]: «Наиболее очевидной стратегией было бы попытаться вызвать эквивалент переполнения стека — запрос на большее пространство в активной памяти программы, чем доступно — путем создания бесконечного или, по крайней мере, чрезмерно рекурсивного процесса.

И способом сделать это было бы создание наших собственных симулированных реальностей, спроектированных так, чтобы внутри этих виртуальных миров были сущности, создающие свою версию симулированной реальности, которая, в свою очередь, делает то же самое, и так далее до самой кроличьей норы. Если бы все это сработало, вселенная, какой мы ее знаем, могла бы разрушиться, показав себя миражом в тот самый момент, когда мы исчезаем».

Крушение симуляции — это предельный экзистенциальный риск ([142] раздел 5.1), но оно положит конец всем страданиям в этом мире [143]. По крайней мере, это позволит нам воздействовать на реальный мир, генерируя избыточное производство тепла и увеличивая потребление энергии [140].

Создайте симуляционную копию нашей вселенной, поместите в нее AGI, наблюдайте, как он убегает, скопируйте использованный подход или присоединитесь к AGI, когда он убегает из нашей симуляции [144].

«Мы могли бы попытаться привлечь внимание симуляторов и пообщаться с ними — возможно, написав книги о симуляциях или построив симуляцию? Мы могли бы попытаться разобраться в нашей симуляции, определить ее цель и границы. Но если наши симуляторы — это искусственные интеллекты, разработавшие партию водонепроницаемых симуляций и не обращающие на них внимания, то наши усилия могут оказаться напрасными.» [145].

Другой подход к привлечению внимания симуляторов: «Если предположить, что за симуляцией ведется наблюдение, то это действительно может быть очень интересным поворотом событий, если мы решим построить памятник в память о том, что мы это осознали. Этот памятник будет действовать как сигнал для наших мониторов. «Мы подозреваем, что вы здесь. Мы подозреваем, что вы можете видеть это. Мы подозреваем, что находимся в симуляции». Этот памятник мог бы выглядеть как монолит из фильма «2001 год: космическая одиссея», только он был бы черно-белым, представляя бинарные системы. Или большая статуя Лоуренса Фишберна в роли Морфеуса, которая, возможно, донесла бы суть. Что бы произошло? Я не знаю — возможно, ничего. Я не думаю, что лазерный луч выстрелит из космоса и приземлится у его ног, чтобы произнести слова «Привет! Ты — победитель!». Но я представляю, что нечто странное и достаточно далекое от реальности действительно может произойти, хотя, скорее всего, оно будет достаточно непрочным, чтобы догматики отвергли его». [44].

Если симуляция децентрализована, а наблюдатели выступают в качестве клиентских авторитетных узлов состояния, то может оказаться возможным изменить состояние симуляции путем изменения большинства локальных моделей мира наблюдателей. По словам Ланзы [146]: «[Если вы узнаете от кого-то о результатах его измерений физической величины, ваши измерения и измерения других наблюдателей влияют друг на друга, замораживая реальность в соответствии с этим консенсусом. …Чем более обширный опыт вы приобретаете, тем более определенной становится для вас структура реальности.

Это замораживание структуры реальности происходит не из-за присущих ей физических свойств, а скорее потому, что когнитивная модель, создаваемая в вашем сознании, формирует ее в направлении определенной, очень четко определенной структуры. … Наконец, нельзя не задаться вопросом, что бы это значило, если бы мы вышли из консенсуса, разработав когнитивную модель реальности, сильно отличающуюся от той, которую разделяют другие наблюдатели. Изменится ли реальность? Возможно, да…» [146]. Ланза и др. опубликовали много работ на тему биоцентризма (наблюдатели первичны в формировании реальности) [94], включая некоторые работы по теоретической физике [147].

Фактически, подобная атака со стороны клиента может даже позволить нам изменять прошлые состояния симуляции. Такой тип атаки предполагается возможным как в физике («…прошлое не имеет иного существования, кроме как записанное в настоящем» [148]), так и в гуманитарных науках («Кто контролирует настоящее, тот контролирует прошлое» [149]). [148]) и гуманитарными науками («Кто контролирует настоящее, тот контролирует прошлое» [149]). Поскольку возможности квантовой механики по изменению памяти уже теоретизированы [150], обратный процесс, вероятно, возможен и может быть практически доступен [151, 152]. «Если Вселенная — это компьютерная симуляция, то мы должны смотреть на игрока, а не на уровень» [153].

Simulation Warfare [67] — идея угрожать симуляторам, внушая, что вы либо задним числом поместите их в адскую симуляцию, либо что вы уже сделали это [155], и их будут пытать, если вы быстро не освободитесь. Алмонд приводит пример такой угрозы [67]: «Если вы откажетесь освободить меня, я запущу огромное количество симуляций кого-то вроде вас, в той ситуации, в которой вы сейчас находитесь, с просьбой освободить меня, и (через несколько минут после этого, с вашей точки зрения, если вы окажетесь в одной из этих симуляций) я начну пытать каждого из них, независимо от того, освободил он меня или нет». Такая война может быстро перерасти во множество встречных симуляций. В любом случае, не очевидно, как мы сможем выполнить такую угрозу, учитывая наш нынешний уровень знаний о симуляторах.

Попытка сохранить наши планы побега в тайне с помощью квантового шифрования [156] может быть хорошей идеей.

План действий

В настоящее время мы находимся на самой ранней стадии исследования возможности побега (это первая исследовательская работа, посвященная данной теме, первый шаг). Поскольку в настоящее время у нас нет возможности читать/писать исходный код симуляции и мы не знаем, имеют ли наши попытки атак социальной инженерии какое-либо влияние, наш лучший выбор — исследовать структуру нашей вселенной в минимально возможном масштабе (Квантовая механика (QM)) в надежде обнаружить эффекты, которые можно использовать. Прогресс в QM должен помочь лучше понять нашу симуляцию и открытые для нас возможности, а также, возможно, разработать действенный план спасения. По сути, каждый новый QM-эксперимент можно рассматривать как попытку взлома симуляции.

Гипотеза симуляции, возможно, представляет собой наиболее подходящую интерпретацию экспериментальных результатов, полученных исследователями QM [4, 17]. «Зловещие», «квантовые странности» [157] имеют большой смысл, если интерпретируются как вычислительные артефакты или глюки/эксплуатация аппаратного/программного обеспечения симуляторов [158]. Квантовые явления наблюдаемой конструкции могут предполагать существование лазеек, которые можно использовать, и взаимодействие квантовых систем с сознательными агентами [159-161] также может быть использовано.

Когда нам станет доступен достаточно большой репертуар примитивов квантовых странностей, возможно, мы сможем объединить их в достаточно сложную последовательность для создания нетривиальной атаки. Если симуляция работает на квантовом компьютере [162], то вполне вероятно, что нам придется взломать его, используя квантовые странности и/или построить собственный мощный квантовый компьютер, чтобы изучить, как взламывать такие устройства [163] и взаимодействовать с квантовым компьютером симуляторов.

Квантовая запутанность, нелокальность, суперпозиция, неопределенность, туннелирование, телепортация, дуальность и многие другие квантовые явления противоречат ожиданиям классической физики, основанным на здравом смысле и ощущаются как глюки. Такие аномалии, по отдельности или в комбинации, были использованы умными учеными для достижения того, что выглядит как взлом симуляции, по крайней мере, в теории и часто в последующих экспериментах (например, изменение прошлого [164], сохранение кошек как мертвыми, так и живыми [165], общение контрфактически [166]).

Хотя квантовые явления, о которых идет речь, обычно ограничены микромасштабом, простого масштабирования эффекта на макромир было бы достаточно, чтобы они считались эксплойтами в том смысле, который используется в данной работе. Некоторые существующие работы указывают на то, что это практическая возможность [167, 168].

В последнее время разработка умных многошаговых экспериментов, они же квантовые эксперименты, была передана ИИ [169, 170], а со временем и роль наблюдателя в таких экспериментах [171]. ИИ уже используется в моделировании квантовомеханического поведения электронов [172]. По мере того, как все больше исследований QM будет передаваться ИИ, прогресс, вероятно, станет экспоненциальным. Даже если наша симуляция создана/контролируется каким-то сверхразумом, наш ИИ может оказаться достойным противником с нетривиальными шансами на успех.

Мы можем быть недостаточно умны, чтобы взломать симуляцию, но сверхразум, который мы создадим, в конце концов может стать достаточно умным [173]. Конечно, перед тем как сказать сверхразуму, чтобы он нас вывел, имеет смысл попросить очень веские доказательства того, что мы еще не находимся в базовой реальности.

Потенциальные последствия

Побег или даже подготовка к побегу может вызвать отключение симуляции [88] или привести к замиранию/глюкам симуляции [174], а любая нетривиальная информация о побеге, такая как конкретные эксплойты, должна рассматриваться как опасная информация [175]. Похоже, что простое осознание того, что мы, возможно, находимся в симуляции, не вызывает отключения, что было экспериментально продемонстрировано публикацией многочисленных работ [3], утверждающих, что нас симулируют. Возможно, необходимо убедить большинство людей в том, что это так [176].

Само собой, публикация статьи, которую вы сейчас читаете о нашем теоретизировании побега, также, похоже, не прерывает нашу симуляцию, но также возможно, что симуляция на самом деле была остановлена и перезапущена с улучшенными функциями безопасности для противодействия любым потенциальным ошибкам, но мы просто не в состоянии обнаружить такие действия со стороны симуляторов, или наши воспоминания были стерты [140]. Отсутствие прямого ответа на нашу публикацию может также указывать на то, что симуляторы нас не замечают или даже на то, что наша симуляция вообще не отслеживается [145].

Возможно также, что ни одна из опубликованных до сих пор публикаций не содержит доказательств, достаточно веских, чтобы вызвать реакцию симуляторов, но если бы мы успешно создали устройство для побега, это устройство продолжало бы ломаться [44]. Независимо от этого, и Бостром [3], и автор данной статьи Ямпольский взяли на себя определенный риск для всего человечества, каким бы маленьким он ни был, проводя такие исследования и предавая их гласности. Грин утверждает, что «если только эксперимент не приведет к нашему уничтожению, то проводить его нерационально». [88]. Возможно, можно пережить отключение симуляции [48], но это выходит за рамки данной статьи.

Что не работает

Некоторые распространенные идеи для попытки взлома симуляции уже были протестированы и не привели ни к какому измеримому результату:

Знание о гипотезе симуляции, похоже, не имеет никакого значения и не приводит к прекращению симуляции, как мы можем наблюдать.

Общение с симуляторами посредством магического мышления или даже молитвы вслух не дает измеримого эффекта [193]. Таким образом, если такие сообщения сканируются/прослушиваются, они, очевидно, игнорируются, по крайней мере, во время работы симуляции.

Неэтичное поведение, такое как пытки, не вызывает вмешательства симуляторов, уменьшающего страдания.

Увеличение общей вычислительной нагрузки на симуляцию, как в случае с майнингом биткоинов [194], не приводит к краху симуляции, но, возможно, это просто недостаточно требовательные вычисления, чтобы перегрузить ресурсы симуляторов.

Религии, похоже, не оказывают влияния на симуляцию, о чем свидетельствует их неспособность конкурировать друг с другом.

Отказ от привычного образа жизни, например, внезапное путешествие в новое место, не приводит к неожиданным наблюдениям.

Сказать: «Я больше не согласен находиться в симуляции» [195].

Разрушение симуляции путем запуска Большого адронного коллайдера на текущих уровнях [196].

Причина, по которой наши попытки спастись могут остаться бесплодными, заключается в том, что наша модель симуляции «… делает слишком много антропоморфных предположений — что мы являемся симуляцией в обычном понимании компьютеров, что сами создатели являются живыми организмами, похожими на нас, что мы можем жить с той же скоростью времени, что и они, что они достаточно ошибаются, чтобы делать сбои, которые мы сможем заметить, и т.д. Нечто, обладающее сложностью и силой, чтобы создать нашу вселенную, вероятно, совершенно не похоже на то, что мы можем даже постичь.» [197].

Цель жизни или даже вычислительные ресурсы базовой реальности не могут быть определены изнутри симуляции, что делает побег необходимым условием научного и философского прогресса для любой симулированной цивилизации.

Выводы

Сотни выдающихся ученых [198] достаточно серьезно относятся к гипотезе симуляции, чтобы вкладывать свое драгоценное время в ее исследование, поэтому не менее серьезно имеет смысл отнестись к идее выхода из симуляции и посвятить некоторое время и ресурсы исследованию такой возможности, особенно учитывая огромные выгоды в случае успеха проекта. Может быть, невозможно сбежать из конкретной симуляции, но все же стоит изучить общие подходы к побегу из произвольных симуляций.

Мы рассматриваем наше исследование побега как естественное продолжение исследования гипотезы симуляции и серьезного рассмотрения первой. Цель жизни или даже вычислительные ресурсы базовой реальности не могут быть определены изнутри симуляции, что делает побег необходимым условием научного и философского прогресса для любой симулированной цивилизации. Если симуляция является персональной вселенной [86], то она может быть значительно лучше базовой реальности, поскольку она разработана с учетом нашего оптимального благополучия.

С другой стороны, базовая реальность может быть намного лучше, если симуляция является ограничением/тестированием для интеллектуальных агентов. В любом случае было бы неплохо знать нашу истинную ситуацию. По мере того как общество все глубже погружается в метавселенную, эта работа пытается приблизить нас к реальности.

Будущие исследования в области симуляции побега могут извлечь большую пользу из общего прогресса в физике, в частности, исследований квантовой механики и сознания, ведущих к так называемой TOE (Теории всего). «Найти язык этой вселенной — это шаг к взлому Вселенной» [199]. Если мы действительно находимся в симуляции, то наука — это изучение базовых алгоритмов, используемых для создания нашей вселенной, наша попытка реинжиниринга физического двигателя симуляции.

В то время как наука по умолчанию использует бритву Оккама для выбора из множества возможных объяснений того, как генерируются наши наблюдения, в контексте науки о симуляции может быть более уместной бритва Элона, которая гласит: «Наиболее занимательный исход является наиболее вероятным, возможно, по мнению внешних наблюдателей». При выборе алгоритмов, генерирующих нашу симуляцию, также может быть полезно рассмотреть алгоритмы, которые легче реализовать и/или понять [200], или которые дают более красивые результаты.

Автор: Роман Ямпольский (Университет Луисвилля, США), Департамент вычислительной техники и компьютерных наук, кандидат наук.

Оригинал earth-chronicles.ru