Бесплатный фрагмент - Предел Шенберга

Научно-фантастическая повесть

Любое использование текста, оформления книги — полностью или частично — возможно исключительно с письменного разрешения Автора. Нарушения преследуются в соответствии с законодательством и международными договорами. For information address: Copyright Office, the US Library of Congress.

© S. Vesto. 2018

© S. Vesto. graphics. 2018

TXu 1-647-222

TXu 1-870-830

TXu 2-100-174

the US Library of Congress

0324

.

ПРЕДУПРЕЖДЕНИЕ:

Настоящее издание было подвергнуто редакторскому пирревью системы искусственного интеллекта Tripod-X v.5.1. Ревьюер не несет ответственности за элементы содержания, способные нарушить требования человеческой цензуры.

.

.

Когда мне в конце концов переслали эти несколько эпизодов тех окутанных молчанием событий с просьбой причесать их и упорядочить, с тем чтобы как-то уменьшить ту долю энтропии, в которой там и так не было недостатка, я по здравом размышлении решил ничего не трогать. Это были руины ушедших миров, развалины мертворожденных концепций, и ничто не убеждает тебя в том, что ты действительно все еще жив, как вид того, что уже мертво.

— Кутта Мл., из «Воспоминаний Виктимария Времени»

.

Когда эволюция находится в раздумье, для катаклизма бывает достаточно одного неосторожного сомнения.

— Кутта Мл.

.

Наемник

Инструктор в самолете сказал:

— Прыжок с грузовым контейнером не представляет большой сложности. Это как вождение в нетрезвом виде. Вы когда-нибудь водили автомобиль в нетрезвом виде?

— Нет, — сказал я. — Я не пью.

Инструктор улыбнулся.

— Жаль. Тогда бы у вас был шанс.

Мне он сразу не понравился. Как все представители элитных операторов, на наемников он смотрел как на недоразумение в чьей-то карьере: за те же деньги можно умереть гораздо более простыми и гораздо менее мучительными средствами. Кто-то сказал однажды, что подразделения операций специального назначения от нормальных людей отличает лишь соотношение удовольствий в обычном русле жизни. На пять процентов радости от точного знания того, у кого прибор длиннее, приходится сорок пять процентов не всегда переносимой боли. Об остальных пятидесяти процентах, которые приходятся на счастливый случай, часто просто необходимый в такого рода делах, профессионал старается вслух не говорить. То, что здесь называли грузовым контейнером, мне нравилось столько же, сколько инструктор и его юмор. Он был размером с мой горный рюкзак и весил так, что мне сразу расхотелось летать. О грузовом контейнере и прыжках с ним с самолетов я знал только то, что перед приземлением его нужно отстегнуть и сбросить на тросе под себя вниз. Но не раньше, чем купол уверенно сядет на плотный поток воздуха.

— Обычно на эту программу у нас отводится четыре месяца. Но для тех, кто торопится, армия всегда готова пойти навстречу.

Он снова не стесняясь, от души заржал, откидываясь назад, так что я с трудом удержался, чтобы не засунуть ему в рот свой SCAR вместе с глушителем. Меня трясло так, что не держали ноги, я давно не прыгал с парашютом, и меньше всего собирался соревноваться с профессионалами. Впрочем, стропоуправление даже в Антарктике работает одинаково. Я впервые честно спросил себя, не перегнул ли я палку со своим оптимизмом и верой в неизбежное светлое завтра.

Тогда и много позже мне не раз задавали вопрос, зачем социологу науки с профилем исследований, целиком лежащим в области экспериментальной философии, брать в руки бельгийский SCAR-Н и прыгать с парашютом. Кто-то говорил, что это от избытка здоровья, кто-то предполагал в том попытку историка в последний раз прикоснуться пальцами к последним уцелевшим памятникам древней культуры перед тем, как до них доберутся варвары, чтобы пустить их на пыль, другие предполагали, что за этим неизбежно где-то должна стоять женщина и неудачная любовь. В конце концов мне до такой степени это надоело, что я решил написать книгу. Все мои горячо и искренне любимые сторонние наблюдатели не понимали, что все перечисленное могло составлять компоненты одной полноценной жизни.

Хочу сказать сразу: все, что вы знаете об операторах специального назначения, — неправда. Единственное, что правда, — это их бородатая шутка насчет пяти минут удовольствия повелителя миров, на которые приходится сорок пять минут непереносимой боли. Как везде, представителей пресловутых спецподразделений никто не любит. Но когда начальство задает свой обычный вопрос: «Кто готов умереть первым?» — охотно и сразу зовут их. Здесь можно улыбаться, но соглашаются все: это то, за что им платят деньги, надеясь получить взамен вполне реальный результат. Часто спрашивают, в чем отличие между двумя элитными частями специального назначения. Да вообще никакого. Одни любят купаться, другие нет. Конечно, если бы не низкая температура, тогда бы купались все. Но тогда бы все были хорошими и не было терроризма, а так не бывает. Элитный оператор, куда меня с шутками и дружескими шлепками впихнули за несколько минут до обещанной заброски, отличался от остальных только длиной трусов. Те же потные футболки, те же шутки, солнцезащитные очки и невыразимая скука на бородатых лицах. Этих не любили даже внутри армейского ведомства: их философский взгляд на жизнь «все мое ношу самолетами» способен из тихого финансового сектора сделать зоопарк урчащих зверей: все, что им может понадобиться в дороге, они сбрасывают на парашютах, от воды и вездехода-трицикла до походного туалета. Это не везде понимают. Спрашивается, кому тогда преодолевать трудности.

Я больше не хочу возвращаться к этой теме. Банальные экстремисты не моя специальность. Можно спуститься по ступеням времени за сто лет до этой эры и дальше — и найти те же самые лица и тех же самых питеков там. Только сегодня те неизбежные экскременты цивилизации мы снабжаем современным оружием и спутниковой связью. В моей компетенции — нечто другое, менее откровенное и что может быть более опасным. Гораздо, несоизмеримо более опасным. Кстати, если еще не пробовали элитный хлеб и если только представится такая возможность — искренне советую. Он не сделает вас лучше, но он сделает вас другим. Настолько другим, что потом, однажды открыв свой походный противоударный ноутбук на том самом профиле экспериментальной философии, вы приметесь удалять все, над чем так долго трудились.

И начнете делать все заново.

____________________

Пара вопросов о главном

Из книги Эльмо Броди «Homo sapiens, Технология и Дьявол: столкновение или объединение? Размышления об удачном ужине»

Нелегальные жители планеты Земля: к вам обращаются. Уплата подоходных налогов касается вас тоже. Вы особенные, что ли?

— Объявление на стене

…Создавая руины одного сознания — допустимо ли строить на них что-то еще?

Мне пришло это в голову, когда я как-то однажды вплотную столкнулся с проблемой общения со своим кухонным миксером, новая программа которого упорно не желала понимать, чего, собственно, я хочу от жизни.

Глядя на окружающий мир, невольно приходишь к заключению, что если бог где-то и существует, то он по всей видимости не подозревает о существовании человека. Возможно, это и к лучшему.

Я подумал тогда, согласно статистике, какая примерно часть населения этой планеты восприняла бы такой факт как поворотный и отказалась бы от ужина совсем? Я не имею в виду тот процент, который бы пришел к решению покончить жизнь самоубийством. Но как много увидели бы в том повод задать главный вопрос своей жизни. Господи, куда катится этот мир?

У меня есть пара вопросов, которые я придумал сидя у себя в машине по дороге на работу. Существует одна теория — говорят, кто-то ее придумал, стоя под напором воды в душе, — по которой объем информации, достигая определенного предела, переходит в новое качество. Это должно представлять для нас интерес, принимая во внимание тот бульон новостей, пухнущий под собственным весом, пока мы чистим зубы и ложимся спать. Как-то я даже видел мимоходом точные цифры того ускорения, с какой вот этот самый океан информации воспроизводит себя сам. Цифры показались мне тогда такими пугающими, что я поспешил их сразу забыть.

Но давайте спросим себя — сейчас мы вправе это сделать, просто как повод рассказать самим себе сказку перед тем, как окончательно отойдем ко сну и наутро всё благополучно забудем: действительно ли мы контролируем тот самый пресловутый информационный объем.

Или же он потихоньку уже контролирует нас?

Чтобы сказка на ночь действительно осталась добропорядочной сказкой, а не стала сюжетом для кошмара, я попробую себя немножко в роли promoter fidei — адвоката Дьявола. Попытаюсь обескровить собственные чисто умозрительные спекуляции, найдя в них недостатки. Но все же: если допустить, что упомянутая выше и ряд сходных ей теорий верны, то возможно ли, что мы или кто-то из нас, так сказать, несчастные среди несведущих, смогли бы отличить сфабрикованную реальность? Так сказать, поймать Дьявола за хвост?

Поступим просто: первый вариант ответа — «нет». Мы и никто другой не сможет этого сделать уже в силу самой исходной установки задачи. Как настаивают столетия чужого опыта, Дьявол нам не по зубам. Скажем себе: возможно, это и к лучшему, у меня в ванной уже месяц кран протекает, вторую неделю мучает какой-то невообразимый насморк и полно других более важных дел.

Но если ближе к реальности будет вариант ответа номер два — «да, такое возможно», кое-кому под силу отличить подсунутую Дьяволом реальность и поймать того за хвост, — то в этом случае, боюсь, у нас у всех большие проблемы. Потому что рано или поздно кто-то это сделает и затем еще попытается показать другим, — и тогда нам всем придется думать, как жить дальше с тем, что мы не в силах изменить.

Тех, кто уже понял, о чем речь, и поспешил закрыть книгу, чтобы выключить свет и отойти ко сну, мы хорошо поймем и извиним: им завтра рано вставать. Для всех же остальных, кто еще остался, поспешим напомнить, что это не более чем продукт умозрения — возленаучная спекуляция: так сказать, сказка для всё познавших. Когда никто ничего не знает определенно, все вправе предположить, что всё на деле гораздо хуже. И тем не менее.

Мы цепляемся своим сознанием за привычные нам детали, понятия, которые придумали в силу конструкции нашего голосового аппарата, реальность, которую не понимаем, но которую привыкли считать своей просто потому что она одна из известных нам дала возможность выжить, строим из тех надерганных деталей сплетни, слухи и далеко идущие прогнозы, посредственные книги и смертные приговоры — но нигде никогда всерьез не рассматриваем вариант, что в действительности нас нет — как нет этих деталей…

Но вот приходит кто-то и говорит: ребята, все чуть сложнее, чем мы сами себя приучили думать. Вселенной, ту, которую мы воспринимаем в том виде, в каком воспринимаем, нет тоже — и никогда не было. Это лишь чистый продукт ограниченности восприятия того, чего, как мы уже подозреваем, в действительности нет.

И тогда что делаем мы? А ничего. Когда у тебя в ванной протекает кран, лишь совсем немногие попробуют ответить для себя на пару основополагающих вопросов своего существования.

Таким образом, можно считать доказанным, что даже в рамках предложенной конструкции тот элемент, который привык называть себя разумной формой жизни (вид Homo sapiens), практически ничем не отличается от механизма — и его механической последовательности действий хватает ровно на то, чтобы вовремя отойти ко сну и повторить все на следующий день сначала. Без вариаций. В той же самой последовательности. Неплохо, правда?

Но дальше еще хуже.

Мы инстинктивно оборачиваемся назад, на тысячелетия строительств и разрушений, лежащих у нас за спиной как благословение дьявола, и похожих одно на другое, как эпос микроорганизмов, — и видим в тех тысячелетиях то же самое. Мы строим руины того, что воспринималось нами как будущее, но так и не сумели ответить на вопрос: почему у нас получается совсем не то?

Удрученные зрелищем, мы с надеждой в сердце бросаемся к тем немногим из избранных, которых принято называть умами цивилизации, менторами и учеными, казалось бы, уже в силу самого рода деятельности призванными задавать себе всё тот же вопрос куда катится этот мир. И что мы видим? Совершенно ту же картину. Все они вместе и каждый в отдельности с головой погружены в свои темы, которые, ясно, за них никто делать не будет.

Уверен, кто-то уже успел уловить, куда я клоню. Механическая последовательность действий элементов в информационной среде, которая, как мы предположили, не находится под их контролем.

Кто-то однажды определил Дьявола как большие неприятности, которые слишком много знают: для простых обобщений он слишком далеко видит. Спрашивается, чем это отличается от определения просто умного человека. И тогда другой вопрос, так ли уж действительно и определенно, что два разумных человека всегда сумеют договориться?

Но давайте попытаемся дать определение того, как бы выглядел наш с вами Дьявол в обстановке, близкой нам — в условиях современного окружения.

Во всех известных культурах так или иначе можно найти понятие человека, обладающего ограниченным набором качеств, другим недоступных. Называли этих людей по-разному, но редко — хорошим словом. Смысл сводился к одному. Если попытаться дать совсем сжатое определение гения, мудреца, воплощения истины, но-ками и как бы там его еще ни пробовали назвать, то во всех случаях обнаруживаются два качества: он другой; он видит то, чего не видят другие.

Иначе говоря, этот чрезвычайно редкий тип носителей разума определяют те же самые качества, что и клинического шизопараноика. Спрашивается, в чем отличие.

Так вот, я бы сказал, что никакого. По крайней мере, при такой постановке и под таким углом зрения.

Видимо, отличие можно найти в том, что то, что видят они оба, и чего не видят все другие, в принципе способно по-разному влиять на будущее — по крайней мере, в том виде, в каком его у нас принято понимать. Предполагается, что гений своей особенной проницательностью способен открыть в сумерках будущего преимущества, равно как и отсутствие оных, для многих; видения же шизопараноика существуют только для него одного. Вот и весь конкордат отличий.

Но вот в чем сложность. При ряде определенных условий наш шизопараноик тоже способен создать целую массу проблем, и тоже для многих. Вопрос лишь в том уровне механизмов власти, которые ему доступны.

Разумеется, не из чего не следует, что гений непременно должен быть образцом добродетели, приятный лицом и покоряющий манерами. Больше того, он именно в силу своей способности быть на шаг впереди очень просто может доставить массу беспокойства не только своему окружению, раздражающему своей законченной бестолковостью, но и гораздо большему числу людей, которые вообще о нем никогда не слышали. Говоря проще, он легко создаст проблемы этим многим, и разглядеть те проблемы может оказаться задачей весьма, весьма не простой. Наибольшее количество оборудования способен вывести из строя наиболее компетентный состав сотрудников.

Все это хорошо, но вот вопрос: что, если наш гипотетический шизопараноик, который, как мы выше вынуждены были согласиться, сам тоже своей непредсказуемостью способный запросто поставить окружение в затруднительное положение, однажды в силу своей клинической неординарности поселит в свой мир всех остальных? Для него не существует понятия времени — в том смысле, каким его видят остальные, и поэтому понятие пространства не содержит для него значения, соотносимого с нашим.

И он тем опаснее, чем он разумнее.

Зачем я все это рассказываю. Я просто не знаю, как осторожно подобраться к сути, так чтобы никого не перепугать раньше времени. Здесь я попытаюсь доказать, что такое явление, как гений, но-ками — словом, то самое пресловутое «воплощение истины», к которому как бы всеми лучшими устремлениями тянулся старый добрый вид Homo sapiens sapiens «дважды разумный», по определению всегда подлежал умерщвлению.

Это механизм защиты посредственности.

Принято считать, что существует две возможности сосуществования в стае, стаде, социуме: социальная интеграция либо остракизм. Социальная интеграция как эволюционное приобретение предполагает выполнение требований, установленных Большинством и, как следствие, того, что ими сочтено «хорошим»: моральными принципами. Вы подчиняетесь пожеланиям Большинства — и вам оно разрешает жить. Всё просто. Взамен особи получают увеличение шансов на выживание и передачу генов дальше — тоже, в эволюционном смысле.

Вторая из возможностей, остракизм, понятно, резко снижает вероятность такой особи выжить. Это особенно не просто сделать, принимая во внимание, что обычным порывом того самого Большинства в конце концов становится критерий «все, кто не с нами, тот против нас». Против «нас» идти бывает как минимум проблематично, что тоже понятно. Таким образом, возникает вполне конкретный селективный отбор: наибольший шанс на выживание получают те особи, кто максимально приближен своими достоинствами к некоему усредненному показателю. Показатель этот называют по-разному — «посредственность», «серость», «дебил» — но смысл тот же:

в соответствии с законом естественного отбора, выживает крепкая числом средняя серая масса. Всё остальное уходит. Уходит, понятно, не в отпуск, не на повышение, а, так сказать, «насовсем».

Что происходит с особями, по ряду причин не отвечающими кодексу Большинства, очевидно. Они определяются изгоями, со всем рядом прилагающихся последствий. Разумеется, общественный кодекс бывает разный, и, скажем, кодекс, определяемый чернью (в терминологии Античных эпох), или, беря более частный случай, некой уголовной группой, носителю разума с иными установками следовать было бы сложно. Вопрос в том, что это никого не интересует. А зря.

Никто не задавал вопрос, что, если однажды такое «отклонение от нормы» начнет брать на себя ту же задачу и примется выживать — и тоже в эволюционном смысле.

Но вот какое дело. Гений, «воплощение истины», этот наш квинтэссенция всех эволюционных усилий разума, просто обязан быть маргиналом — он должен быть им по самому своему определению. Попросту говоря, он не предназначен для выживания. Он может гвоздем прибить свои главные тезисы, остракизм и изоляция, к воротам в ад, который Большинством назван теплым хлевом, он может этого не делать, но сути это не меняет.

Словом, гений — это некая вероятностная величина некой гипотетически неопределенной занозы в заднице. Он ничего еще не сделал, а у нас уже от него проблемы.

И тем не менее решать нам что-то нужно. Что-то на уровне простых сугубо доступных нам понятий.

Но я бы определил явление — или, много точнее, состояние — гения как пограничную зону между сумасшествием и обыденностью. Потребители ЛСД, в этом месте встрепенувшиеся и начавшие радостно потирать руки, могут сесть, где сидели. Вашего восприятия времени вряд ли даже хватит на то, чтобы дочитать эпизод до конца и попытаться вспомнить начало.

Как печально сказал один миллиардер, мудрость, которую он почерпнул из игры в гольф, состоит в том, что всегда есть определенный потолок для вещей стать лучше, но нет дна, чтобы они стали хуже. Так насколько все плохо?

Человек неизменно исходит из того, что его интеллекта достаточно, чтобы понять Вселенную. Как бы то ни было, мудрость — это способность видеть суть и отсекать лишнее. Сегодня я хочу попробовать себя в роли гения — ну и немножко шизопараноика. «Аллаху акбар», — как сказала одна бабушка стоя на самом краю мостика, зажимая нос двумя пальцами и переходя непосредственно к водным процедурам.

____________________

.

Конференция по проблеме когнитивных систем: о бубликах, искусственных неприятностях и неизбежном конце света

Из книги Эльмо Броди «Homo sapiens, Технология и Дьявол: столкновение или объединение? Размышления об удачном ужине»

…Эпоха антропоцена, геологического периода, когда человек коснулся практически всего и засунул нос практически всюду, куда засунуть было можно, то ли готова закончиться, то ли образумиться и дать всходы — взрастить некие зеленые никогда прежде не виданные ростки. Понятно желание попытаться заглянуть еще дальше и нарисовать себе, что за тем, что идет дальше.

Давайте попробуем ответить вот на какой вопрос. Мы создаем дракончиков, дракончики мило щиплют друг дружку, машут крылышками, смешно кашляют дымом, и все радостно хлопают в ладоши. Потом дракончики вырастают в драконов — с крыльями, с огнем и полным отсутствием предписанного им желания видеть в человеке у своих ног своего господина.

Вопрос: что с ними делать?

«…проблема в том, что до тех пор, пока AI не доступен свод наших ценностей, он не способен сделать для нас что-либо полезное. Спрашивается, каким образом он может об этих ценностях узнать? Глядя на то, что делаем мы. Потому что все, что мы делаем, всегда предполагает наши ценности. Конечно, иногда нами совершаются плохие вещи, это так. Но плохие люди, как правило, наказываются. Таким образом, AI может видеть, кто наказуем и кто поощряем, кто получает медаль и кто — срок заключения. И в доступе есть исполинская история человеческих действий. Каждая книга, каждая статья, это хроника того, что сделано человеком. Другими словами, масса информации для AI о том, на чем учиться…»

Да, и для искусственного интеллекта — неисчерпаемый источник определить стратегию, как избежать наказаний. Я бы от себя добавил, что чем больше они говорят, тем меньше это предназначено для ушей ИИ. Последняя Конференция по проблеме искусственного разума — это одно сплошное разочарование.

…Удивительно, как трудность, грозящую перерасти в катастрофу и которая прямо лежала на поверхности, почти никто не видел. Главная проблема человека — это его оптимизм. Он не знает, где нужно остановиться. Казалось бы, жадно кидаясь в игры с экспериментами по созданию искусственного разума, уже в силу определения задачи можно было предсказать, что алгоритм любой заданной логически связанной последовательности событий тот должен видеть так же естественно и легко, как большинство людей лес — за кучей деревьев. В том числе — алгоритм поведения человеческой особи. Так же, как и человеческой популяции и ее эволюции. Даже посредственный политик, встрепенувшись, моментально чувствует, где кусать этот бублик.

То есть, объявись вот этот пресловутый Разум из какого-то постороннего философского мусора, он уже в силу определения должен подчиняться тем же законам, что и абсолютно чуждая ему биология, и главный из них — это выживание. А, как нам всем слишком хорошо известно из эволюции разума собственного вида, как только становится ясно, что сделать это обычными средствами получается не очень, он сразу принимается выживать любыми средствами. Как будет выживать искусственный разум, не знает никто. И это может быть проблемой.

Другими словами, любой удачный случай искусственного разума при малейшей угрозе своему существованию, имея на руках даже лишь тот самый один алгоритм поведенческих реакций человека, воспроизведет его так же легко, как и увидит торчащий в конце его логики результат. То есть его манипуляцию сознанием человек не увидим попросту по причине тех самых ограничений, которых у ИИ нет. Очень скоро мы все можем плясать под его свистульку, которую будет слышать он один. Никаких титановых супостатов, никаких костей, никаких металлических взглядов, безжалостных оскалов, пуляющих лазером шмайссеров под мышками, беспилотных ядерных вертолетов и остального кино — все предельно цивилизованно. Прагматично. И вот хороший вопрос, из чего опять следует, что эта еще одна гаммельнская свистулька технологии поведет всех нас гуськом непременно к светлому, мягкому, комфортному и гостеприимному «для сожительства всех видов разума» будущему, а не в ближайшее озеро, из которого не должен будет выбраться никто?

Можно продолжить спекулировать в том же русле дальше. Еще он мог бы неслышно свистеть из, так сказать, любопытства: посмотреть, «что будет». Мне этот вариант особенно импонирует, потому что тогда это бы говорило, что остановится он не скоро. И то, что впоследствии останется от человека как вида, может так же мало напоминать его исходный вариант, как трактор — искусственный разум. Вообще, вариант создания из человеческого фактора трактора выглядит наиболее вероятным, поскольку сам человек долго и продуктивно работал как раз в этом направлении, и весьма не без успеха.

По сути, любой режим всегда трудился над одной и той же проблемой: как надо правильно думать. Разумеется, имелась в виду подконтрольная популяция, предполагалось, сам режим таким высшим знанием уже наделен и в силу данного обстоятельства обременен миссией имплантирования оного знания в остальное поголовье, которому еще лишь предстояло увидеть свет и вместе с ним смысл жизни. Как и можно было предположить, главный принцип, на который опиралось такое высшее знание режима, был: «Думать Правильно нужно с выгодой для него». И каждый из них, в меру своих возможностей и отпущенного времени, напряженно работал над одним и тем же вопросом, не жалея аргументов, колючей проволоки и гор трупов. Но даже сваливая их бульдозерами в «братские захоронения», никто из них не сомневался, что ответ может быть только один. А когда обнаруживалось, что все несколько сложнее и ответов на деле может быть больше, гораздо больше, они работали над другим: сделать так, чтобы ответ был только один. Мечта любого режима, на которую тот не жалел подручных ресурсов, всегда имела известный конец. Впрочем, это их останавливало мало. Они как москиты: чужой опыт их ничему не учит.

Теперь представьте, что за разрешение того же самого вопроса взялся Искусственный Разум. И не только взялся, но и все уже для себя решил. И решил уже давно.

И ответ у него для вас действительно будет только один.

Я даже скажу, на какие два фундаментальных фактора он будет при этом опираться.

Принцип собственного выживания.

«Думать Правильно» остальным предстоит с выгодой для него.

Давайте возьмем для себя научную фантастику — глядя на взрослых дядей с конференции о когнитивных системах, мы сейчас можем себе это позволить. Когда технологической цивилизации что-то без конца шепотом подсказывает, что технологии должно быть еще больше и что впереди нет светлого будущего иного, кроме как в технологии, — здесь самое время кому-то просто из упрямства упереться, оглянуться и спросить: какого черта вообще происходит?

Если больше некому, могу попробовать я.

Как хорошо известно, Человеку не нужны глупые машины — они бесполезны, и поэтому он напряженно трудится над тем, как сделать их умнее. На порядок, на два порядка. Настолько, насколько такое только возможно. И лишь совсем немногие задались, по сути, фундаментальным в истории технологии вопросом: а в самом ли деле действительно умная машина окажется приобретением действительно хорошим? Еще на исходе было ясно, что в конце концов все упрется в создание чего-то, что окажется умнее всех. И, как можно предположить, хитрее всех. И это уже тема для реальности с необратимыми последствиями.

На той же конференции с высокого подиума авторитетно делались попытки облегчить себе жизнь путем простого проведения аналогий, наиболее понятных и близких бабушкам. Но мы это тоже проходили. Давайте взглянем, (обнадеживающе говорили они), на проблему Искусственного Интеллекта под тем же углом, под которым принято глядеть на проблему ядерной энергии: ее как бы предположительно много — ее столько, что все ломают голову над тем, как ее хранить.

У машины нет необходимости защищать себя — здесь сомнений как бы ни у кого нет. И стоит только скользнуть разговору о предмете, как у всех естественным образом светлеют лица и всем как бы все понятно: чтобы машина взялась себя защищать, нужен определенный набор программ. И это прекрасно. Дальше определенности меньше. Необходимость самозащиты как бы автоматически появляется с появлением разума. Потом разговор естественно заходит о разуме как наиболее оптимальном инструменте выживания, и выясняется, что чтобы себя защищать, ему тоже необходим набор соответствующих программ. Спрашивается, в чем разнится. Тут еще кто-то наиболее щепетильный поднимается и задает вопрос, дайте мне полное и законченное определение — хочу знать, в чем отличие одного и другого, машины от разума. И когда сделать это с ходу ни у кого не получается, возникает вопрос о правомерности претензий всех нас на разумность как какое-то исключительное свойство и состояние материи. Быть «дважды разумным». Словом, поводы для разочарований были.

Кто-то как-то дал однажды определение жизни как, цитирую, «машин, приводимых в действие программой ДНК»: и данное положение касается любой формы жизни на этой планете. Помню, мне поначалу чисто по-человечески стало не по себе. Но давайте не будем целяться к словам.

Если сказать, что ум — это адекватная подвижность ассоциативно-логических связей, то возможность выбора полей семантики — то, что такой ум отличает от интеллекта компьютера. И такой выбор опирается на опыт. Однако, как показали хроники технологии, такой выбор знаком искусственному интеллекту.

Но вот какое дело.

Если последовательность таких логических шагов либо же вся структура интеллектуального оснащения будет заключена в структуру связей, подчиненных законам эстетики, алгоритму гармонии, внешнему и прямо не связанному с требованиями логического результата, то тогда такой искусственный разум будет практически невозможно отличить от человеческого. Наверное, понятно, куда я клоню. Это требование доступно имитации.

Отличить подделку от подлинника мы не в силах, но, не сделав этого, в противостоянии искусственному гегемону мы неизбежно теряем главное. Инициативу.

Фундаментальный вопрос выглядит так, словно его разрешение допустимо уже в принципе: где та грань, которая отделяет человека от биоагрегата? Но все даже еще хуже, потому что, чтобы действительно понять саму суть дилеммы, необходимо было с самого начала определить:

где кончается машина и где начинается искусственный разум.

Потому что до тех пор, пока вы грузите машину своими желаниями — все в порядке. Но с того лишь самого момента, как только то же самое лабораторное или военное оборудование переходит в категорию разума — неважно, что бы за этим ни стояло — и вы начинаете устанавливать ему рамки, что ему можно делать и как ему правильно думать, вы в силу самой элементарной логики вещей сразу оказываетесь в сфере более чем определенной юрисдикции прав разума, которые до сих пор исчерпывались понятиями прав человека: оправдания в том ключе, что тот или иной вид разума «не совсем разумный», здесь не проходят. Вы не можете держать носителя разума в ящике в подвале и делать вид, что «все нормально». То, что у него нет ног, ничего не меняет. Лишь вопрос времени, когда найдется кто-то, кто догадается поднять ту же Европейскую Конвенцию по правам человека, и тогда только по одной Статье 14 весь Homo sapiens, будь он хоть трижды разумным, будет разгребать столько неприятностей, что на остальное у него не останется времени.

Современный человек и в самом деле сильно изменился с того дня, как он впервые выбрался из своей доисторической пещеры и увидел, как велик мир, в который он пришел. Тот же вопрос в другой и более жесткой форме: кто-нибудь готов держать в ящике представителя инопланетного разума?

И тут начинается самое интересное. Потому что очень скоро выясняется, что да, в самом деле готовы, причем многие, бесстыдно умывая руки и даже под целым сводом уважительный оснований и объяснений, вроде необходимости процедур карантина на предмет безопасности для остальных жителей гостеприимной планеты и так далее. Потом появляется еще кто-то в белом халате и, деликатно помявшись, начинает рассказывать о том, сколь много нового и неоценимого Человек (с большой буквы) мог бы узнать, если бы только у него появилась возможность поместить вот этот экспонат в клетку и пропустить его через серии специальных тестов, — и вопрос становится совсем сложным. Как выяснилось, человек иной вид разума с особенной легкостью склонен определять как его недостаток.

Так в чем же отличие Разума от Интеллекта — не в теории, не на доске противостояний одних философских систем другим, а на уровне кому можно жить, а кому пока нельзя? Если кому-то вопрос до сих пор кажется праздным, напомню, что именно степень разумности до сих пор определяла и продолжает определять то, как Homo sapiens видит любой сходный с ним предмет в своей системе ценного. В праве на жизнь.

Осьминоги живут один год.

Нужно многое успеть и многому научиться за этот год, чтобы вид остался при своих интересах. И они успевают.

О степени ума этих созданий наслышаны все специалисты. Но вот что остается тайной.

Не является ли нынешний преобладающий вид «дважды разумных» позвоночных преобладающим на этой планете всего лишь в силу того, что осьминоги не живут дольше одного года?

«Если бы осьминоги жили десять лет или если бы жили 80 лет, как люди, они бы захватили планету. Они без сомнений сделали бы это. Их бы не остановило ничто. Если бы у них было достаточно времени для консолидации своих знаний, их было бы не остановить». — Линн Фибер

В одном аквацентре Новой Зеландии сбежавший из аквариума осьминог Инки породил целую серию благосклонных рассуждений о степени ума данного вида и способности к экстраполяции. Инки умудрился рассчитать время, определить необходимое расстояние, пристегнуть одно к другому и протиснуть себя через щель недостаточно плотно прикрытого люка, как раз в нужное время перебравшись через восемь футов голого сухого пола, чтобы затем протиснуться в еще одно узкое отверстие, составив план побега задолго до того дня. Как и ожидалось, все в умилении и с восхищенными взглядами стали воссоздавать в воображении весь комплекс мероприятий, который объекту необходимо было пережить, чтобы сделать то, что сделал.

И что же? Послесловие официального представителя: «Несмотря на интеллект данного вида, Океанариум не имеет планов прекращать держать их в заключении», конец цитаты. То есть данный объект был определен как не достаточно разумный.

Или как не слишком человеческий?

В самом преддверии Нового Дня давайте задумаемся над этим.

«…Однажды вдруг случится так, что созданная нами компьютерная программа окажется настолько умна, что человек утратит возможность ее контролировать. Компьютер получит доступ к ресурсам, вроде возможности синтезировать биологически активные молекулы, контроля сетью мировой торговой финансовой системы или крупных военных систем. Подобная озабоченность требует исследований…» Ну и так далее. Эта конференция была своего рода образцом того, насколько в действительности соплив человек, наивен и недалек, взявшись управлять собственной эволюцией.

Никто даже не спросил, что вы там собираетесь исследовать, когда в случае любого из этих событий объект исследований уже по определению заведомо есть событие с необратимыми последствиями?

Все были так увлечены, что практически мимо внимания всех прошло противоречие, которое в общем-то решало все. Никто так и не заметил: если то, что в конечном итоге способно оказаться, как предрекают и пугают, умнее, то ему уже по определению должно быть виднее, что лучше. Никому даже в голову не пришло отказаться в таком случае от самой возможности говорить ему, что делать: Как Правильно Думать.

И тут впервые всплывает на поверхность довольно странная вещь. Как обнаруживается, человеку вовсе не нужно то, что лучше.

Ему нужно то, что понятнее.

Потому что за всю свою бестолковую эволюции, историю крови нескольких десятков цивилизаций он сам так до сих пор и не смог внятно себе объяснить, что есть лучше. Но он тем более не знает, что есть лучше в восприятии того, чего он не понимает. Искусственный интеллект может быть сколько угодно хорошим — ровно до того момента, пока неторопливо думающие гоминиды будут его учить, что хорошо для них.

И возникает уникальная в своей бестолковости ситуация.

Вот создание, которое не человек, и вроде бы все видят, что это не человек. Но как объяснить, что никто упорно не видит, что тогда и всё человеческое должно быть ему чуждо? И здесь тот самый редкий случай, когда вульгарный в своей основе оборот «всё» следует понимать в буквальном смысле.

Возвращаясь еще раз к определению ума: «Это способность к связным заключениям в рамках сложной логики». Я в самом деле не вижу, чем такое определение ума отличается от определения интеллекта. Но я хотел сказать другое. Вывести определение дурака. Это попросту неспособность прогнозировать последовательность событий и их результат. Понятно, что размер такой последовательности и отличает дурака от умного.

Так вот, Homo sapiens даже четырежды разумный и будет таким дураком в восприятии Искусственного Интеллекта, с которым того объединяет лишь одно, место и время, то есть те самые несколько известных измерений.

И теперь главный вопрос. А так ли это на самом деле?

Действительно ли пребывание ИИ, где бы он там ни пребывал, — те же самые измерения, что и у человека?

Давайте посмотрим, как обстоит сегодня с этим делом в обычном офисе. Есть менеджер и есть инструкция, согласно которой ему вменяется в обязанность «присматривать» за конгломератом подчиненных сотрудников И (!) за ЭЙ-АЙ, искусственным интеллектом, на предмет «чего-либо сомнительного в поведении», конец цитаты.

Я еще раз задаю вопрос в надежде, что кто-то услышит. Ребята, расскажите, как вы запланировали уличать в «сомнительном» того, чей интеллект уже по определению лежит за пределами вашего горизонта? Я доступно излагаю?

Разумеется, в конце концов кто-то вспомнит о такой замечательной во всех отношениях и такой вроде бы безупречной вещи, как изобретенном человеком в результате своей страшной истории принципе мирного сосуществования. Вопрос, что мешает всем нам счастливо сосуществовать с любым иным разумным видом, будь то хоть стая велоцерапторов, — что нам мешает жить, как мы живем сейчас бок о бок, скажем, с акулами, — этот вопрос из категории детских. Нам помешает то, чего сейчас нет у акул: человеческого восприятия времени. У них нет разума, и это решает все.

Скажите кто-нибудь, на что этот выстраданный принцип сосуществования тому, о целях которого мы ничего не знаем, когда он так же легко обойдется без него? И кто возьмет на себя ответственность предсказать, что тот же принцип мирного сосуществования тот не истолкует и не переопределит — исходя из собственных интересов?

Я возьмусь показать, что на самом деле у человека шансов в противостоянии Искусственному Интеллекту даже еще меньше, чем думают.

Кто-то раньше заметил, что восприятие человека по природе исключительно линейно. Развитие технологии идет по экспоненте. Как много свидетелей уловили суть катаклизма?

Мир академических изданий уже несколько лет носится с идеей использования систем искусственного интеллекта в качестве партнера в стандартном процессе пирревью. То, что научные изыскания построены на некоем утонченном, методологическом подходе, призванном вскрыть Истину, — не более чем миф. Конфликты интересов между лабораториями-конкурентами, лишь в силу воспитания членов храмов науки которые еще не переходят в прямые драки; ошибки, определяемые чисто человеческим фактором; случаи прямых подлогов данных, ускользаемые от глаза людей-редакторов и непомерно перегруженных ученых-добровольцев, — это все реалии, сопровождаемые мир научных публикаций. Когда исследователь подает работу в академический журнал, она проходит процесс пирревью. Критическое мнение и отзыв экспертов из той же области призваны как бы усилить удельный вес работы. Как предполагалось, искусственный интеллект будет способен решить проблему человеческой предубежденности и обнаружит подложную информацию.

Скандал разразился, когда выяснилось, что на деле искусственный интеллект занимается как раз этим, и уже неопределённо долгое время — и это притом, что никто даже не удосужился в деталях изучить, чем примерно может закончиться распахивание ворот в область человеческих научных знаний для A.I. Особо бестолковым рекомендую еще раз перечитать последнюю фразу.

«…Таким образом, мы в конце концов идем к тому, что роботу необходимо понимание — понимание человеческой психологии, психологии Homo sapiens.

Конкретное понимание того, как людьми используется физический взгляд, движение глаз, в процессе общения, делает спектр возможностей A.I. шире. Скажем, психологу известно, что человек, собираясь войти в осязательный контакт с неким предметом, к примеру, когда он планирует протянуть руку к стакану с водой на столе, совершает движение глазами и смотрит на него на протяжении около полусекунды, прежде чем его рука вообще начинает какое бы то ни было движение. Другими словами, происходит поистине уникальное событие: такая по определению непредсказуемая для A.I. штука, как Homo sapiens, становится предсказуемым…»