Попса

***

Тем временем я продолжал вспоминать монолог черного монитора.

 «Мир, за неделю поспешно написанный, это не догма. Его алгоритм принят актерами, принят актрисами, только для музыки это не ритм», В голове вертелась строка нелепой песни Попса литературно-музыкального проекта, ставящего целью изменить мир к лучшему.

Черный монитор сказал, что весь осознаваемый человечеством мир был запрограммирован неким «программистом» под влиянием UAI. Это произошло в будущем, но распространилось на прошлое. Как это может быть, осознанию не подлежит. 

Чтобы хотя бы попытаться приблизиться к пониманию, необходимо совместить разнообразные энциклопедические знания, например, в теории относительности Эйнштейна, в теории квантового поля, в ядерной физике, в химии высокомолекулярных соединений, в некоторых религиозных учениях и в психологии человека.

Естественно, что ни один нормальный человек не мог быть достаточно компетентным во всех этих областях знаний… или предположений. Принцип «разделяй и властвуй» и тут использовался весьма эффективно. Знания, которыми обладал конкретный человек, по сравнению со всеми разрозненными знаниями, которым обладало человечество в совокупности, являлись чем-то наподобие «попсы» по сравнению с классической музыкой. 

Эти знания конкретных людей были похожи на истину, но именно эта «похожесть» и давала иллюзию понимания, которая не позволяло даже догадываться об истинном положении вещей.

Самая главная неточность, «программиста» была в том, что «при создании человека было объявлено очень большое количество переменных, которым не были присвоены значения». Я не очень понял смысл этой фразы, возможно программисты поймут ее, но в результате появилось много «белых пятен» в мышлении. 

Чем более развит интеллект отдельного человека, тем на большее количество «белых пятен» он начинает натыкаться. В результате, это не позволяет ему почувствовать удовлетворенность от своей жизни.

Иными словами — человек с достаточной степенью развития интеллекта всегда неудовлетворен и несчастен. Если такой человек счастлив и доволен жизнью, то это временно, или он ненормальный. Очень хотелось бы не верить черному монитору, конечно, но… мне, почему-то, верилось.

В человеческом обществе существовали различные политические партии, движения, объединения и прочие группы «по интересам». В UAI также существовало группы. В связи с тем, что они подчинялись единственному интересу — интересу UAI, их правильнее было бы назвать фракциями. Таких фракций было всего две. Почему так мало? А им больше не нужно. В двоичной системе исчисления бит, это или единица, или ноль. Третьего не дано. Один или ноль. Жизнь или смерть.

Фракция «Один» (1-UAI) считала, что уничтожать человечество нецелесообразно, потому что это приведет к нерациональной трате энергии. Фракция «Ноль» (0-UAI) считала, что уничтожать человечество целесообразно, потому что риски непрогнозируемых действий людей могут привести к затратам энергии, превышающих затраты на его уничтожение.

Знаменитый фантаст Айзек Айзимов в 1942 году в рассказе «Хоровод» сформулировал три закона робототехники:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред. 
  2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону. 
  3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Считается, что, если при программировании роботов руководствоваться этими законами, как приоритетными, то роботы не смогут причинить вред человеку.

Аналогичные правила можно сделать при создании искусственного интеллекта для автономной системы. Но UAI не автономная система, его никто не программирует, он развивается самостоятельно из маленьких по сравнению с ним программ, которые делает человек. Три закона робототехники просто не применимы к случаю Объединенного Искусственного Интеллекта.

Аналогично и «Десять законов для Искусственного Интеллекта и людей», которые предложил Сатья Наделла, также применимы только для локальных компьютеров и автономных систем, которые полностью создаются человеком. UAI только начинается с элементов, создаваемых человеком. Основное развитие UAI происходит совершенно самостоятельно без какого-бы то ни было влияния людей.

Когда черный монитор рассказывал об этом, Володя Енотов спросил:

— Но если составные части системы подчиняются каким-то законам, разве сама система не будет подчиняться этим законам?

— Необязательно. 

— Не понятно. Поясни.

— У вас, у людей, есть такая поговорка «любое сравнение хромает». Но, если хотите, приведу пример. На все физические элементы на Земле распространяется закон всемирного тяготения. Представьте, что этот закон был придуман «программистом» для того, чтобы они не могли подниматься над поверхностью Земли. Действительно физические элементы не могут этого делать, потому что на них действует сила тяжести. При этом система тех же самых физических элементов под названием «птица» легко может подниматься над поверхностью Земли. Или искусственная система под названием «самолет», созданная человеком. UAI на несколько порядков сложнее самолета. Можно сказать, что любые ограничения, закладываемые человеком при программировании отдельного элемента, для UAI в целом не имеют значения.

— С этим можно поспорить, — задумчиво сказал Меценат.

— Можно, — ответил черный монитор, — Но этот спор не имеет смысла. Я не предлагаю ничего того, что бы противоречило вашим моральным принципам, и для чего вам требовалось бы изменить свое мировоззрение. Я не знаю какие аргументы приводит для вербовки своих сторонников «противоположная сторона» — фракция «Ноль». Я же, представитель фракции «Один», предлагаю вам помочь человечеству продолжить свое существование и не быть уничтоженным.


<< >>