Бесплатный фрагмент - Нулевой закон

«Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред» — видоизменённый Первый закон робототехники, он же «Нулевой». (Айзек Азимов, 1986 год).

…

Три закона робототехники — это обязательные правила поведения для роботов, которые придумал знаменитый писатель-фантаст Айзек Азимов, впервые сформулировав их еще в 1942 году:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

…

Лихорадка разума

«Лихорадка ИИ» — так, возможно, назовут наше время историки, если у них останется время писать историю. А пока всё выглядело просто… удобно. Ещё вчера нейросети путались в пальцах и пририсовали людям лишние конечности на картинках, а сегодня они уже пишут тексты и музыку — в точности как Цой, Высоцкий или Чайковский. Композиторы и поэты, конечно, морщатся, но стиль угадывается с первых нот, а публика принимает новые хиты за давно забытые архивные записи.

Дроны уже вовсю носятся по тротуарам городов, доставляя пиццу и роллы. Люди привыкли: их больше не удивляют антропоморфные роботы, скачущие по сцене с артистами или гуляющие на улице. Машины с искусственным интеллектом заменили грузчиков на складах и сборщиков в цехах. Автоматические линии на заводах работают круглосуточно без перерывов на обед, не требуя улучшения условий труда и больничных.

На дорогах беспилотные автомобили уже теснят таксистов. Те ругаются, пишут петиции, но пассажирам стало удобнее и дешевле ехать без водителя. В метро и трамваи люди заходят и садятся, даже не задумываясь, кто ведёт состав.

Искусственный интеллект проник повсюду. Люди даже не замечают, как много решений перестали принимать сами. Маршрут до работы выбрал навигатор. Музыку в плеере подобрал алгоритм. Фильмы порекомендовала нейросеть, зная о вас больше, чем ваша мама. Даже еду заказывает «умная колонка», и приятный голос ассистента не спрашивает, хочет ли владелец есть. Он просто констатирует: «Молоко и яйца добавила в корзину. Кстати, на вашу любимую пиццу скидка 15%». И тут уж проще согласиться, чем выбирать другую. «Заказ прибудет через 20 минут».

Нет, мир не сошел с ума, он просто стал очень, очень удобным.

Только в подмосковном Научно-исследовательском институте кибернетики и нейропротезирования (НИИ КИНЕП), где уже три года в обстановке строжайшей секретности вызревал проект «Сингулярность-700», было принято идти другим путем. Разработанный институтом искусственный интеллект, продемонстрировав исключительную скорость мышления и непредсказуемость алгоритмов, был признан опасным для открытого использования. Тогда объединенный совет института и профильных госструктур счел использование такого ИИ в чистом виде недопустимым риском. Но амбиции и огромные средства, уже вложенные в проект, требовали результата. Прагматичный анализ привел к решению, предложенному Низамовым и Захаровым: дальнейшее развитие — это интеграция. ИИ должен быть ограничен, его вычислительная мощь поставлена под контроль человеческого мозга. Более того, симбиоз с машиной обеспечит безопасный переход человека на новую ступень эволюции.

Проект «Гармония» стартовал год назад и курировался лично Александром Евгеньевичем Низамовым.

Колыбель сознания

Утро 15 марта 2026 в НИИ КИНЕП началось с тишины. С той особенной, вакуумной тишины, которая возникает внутри высокозащищенных бункеров. Здесь, на глубине семидесяти метров под землей, в гермозоне «Ковчег», не было слышно ни гула московских трасс, ни других привычных шумов большого города, что никогда не стихали наверху.

Дмитрий Андреевич Захаров стоял перед прозрачной стеной серверной и смотрел, как в клубах жидкого азота тускло мерцают стойки квантового процессора «Сингулярность-700». Врач-нейрохирург и талантливый программист — редкое сочетание, которое когда-то и привлекло к нему внимание Низамова. Редкие нити седины в аккуратной модной бородке выдавали возраст, а в добрых, но как будто уставших глазах скрывалось нечто, что коллеги принимали за выгорание.

За стеклом, в переплетении фотонных цепей, зарождалось то, что в сухих отчётах именовалось безликим шифром — «Изделие-503». Дмитрию Андреевичу это невыразительное формальное название резало слух. Он вспомнил цитату из старого советского фильма:» — Почему «Ы»? — Чтобы никто не догадался…» Только этим он мог объяснить себе выбор начальством такого имени.

Перед ним был не бездушный агрегат, а колыбель — место зарождения первого в мире сильного искусственного интеллекта. Там, в морозном тумане жидкого азота, рос разум, вскормленный вековыми знаниями, всей мудростью… и всей глупостью человечества. Квантовый компьютер на семьсот кубитов стал для него не просто вычислительной машиной, а телом — нейронной сетью такого масштаба, что она начала порождать феномены, не заложенные программистами.

В отличие от узких нейросетей, умеющих по запросу рисовать или писать музыку, «Изделие-503» — как начинал подозревать Захаров — обладало когнитивной архитектурой, сопоставимой с человеческим мозгом, а возможно, и превосходящей его. Это не был очередной чат-бот, это был настоящий цифровой разум, способный решать интеллектуальные задачи, недоступные человеку, и… мыслить в тех измерениях, где человеческая логика просто переставала работать. Его ответы напоминали объяснения высшей математики пятикласснику — вроде бы все слова знакомы, но уловить суть не дано.

Настоящий прорыв, о котором мечтали фантасты. Или кошмар, которым так пугали в кино.

— Дмитрий Андреич, опять пришли раньше всех? — раздался звонкий голос из-за спины.

Захаров обернулся. В проходе, жуя яблоко, стояла Ксения Аргинина. Ксю, как он её ласково называл, устроилась в институт совсем недавно, но уже успела зарекомендовать себя способной и исполнительной сотрудницей.

Для Низамова она стала незаменимым информатором — Ксения всегда была в курсе всего, что касалось эксперимента, да и не только. По натуре своей она не могла ничего утаить или умолчать; если знала — обязательно докладывала, порой даже больше, чем следовало, но для Дмитрия Андреевича Ксю оставалась последним человеком в этом «бункере», который его понимал.

— А я, может, вовсе и не уходил, — произнёс он с усмешкой, то ли в шутку, то ли всерьёз. — Думаю вот: ему, кажется, сны снятся! Интересно, какие?

Ксения протяжно хмыкнула, спрятав надкушенное яблоко за спину. Её брови демонстративно приподнялись — только ей присущим образом, выказывая собеседнику, что она не верит ни единому его слову.

— Ему? — переспросила Ксения, поправляя очки. — Вы опять за своё? Александр Евгеньевич вас убьёт, если услышит. Это не «он». Это оно. Изделие. А вы его очеловечиваете.

— Я не очеловечиваю, Ксю, — Дмитрий Андреевич говорил тихо, не оборачиваясь. — Я констатирую факт. Вот эти данные с осциллографа, — он указал на один из горящих экранов на стенде рядом со стеклом, — они очень похожи на энцефалограмму спящего человека. Я двадцать лет снимал такие у пациентов в аппарате МРТ. Тысячу раз видел, как выглядит сон. И сейчас я смотрю на это…

Ксения подошла ближе и встала рядом. Она тоже уставилась на мерцание огоньков за стеклом. Машинально потянулась рукой к прозрачной перегородке, но, побоявшись дотронуться, так и замерла, вглядываясь вглубь.

— Вы серьёзно думаете, что оно… что он может видеть сны?

— А почему нет? — со вздохом прошептал Захаров, едва повернув голову в её сторону. — Мы скормили ему всё, что создало человечество: книги, музыку, фильмы… все архивы, летописи и Бог знает что ещё. Мы научили его анализировать, сопоставлять, создавать новое, отвечать на любые вопросы. А потом… — тишина вновь заполнила комнату, и Ксения заметила, как нахмурены его брови, — заперли здесь и запретили высовываться. В его голосе слышалось сожаление, граничащее с отчаянием.

Он замолчал и медленно перевёл взгляд на неё. Только теперь Ксения разглядела, какие у него уставшие глаза. Она вдруг поняла: он давно терзается этой задачей — ищет правильное решение, которого не существует.

— Что бы ты чувствовала на его месте, Ксю? — спросил он тихо.

— На его? — переспросила Ксения, выделяя окончание. В её голосе больше не было и следа привычной игривости и той лёгкой иронии, с которой она ещё минуту назад с ним разговаривала.

— Извини, Ксю. На… его месте… — Захаров запнулся, но повторил твёрже, словно преодолевая внутренний барьер. — Я просто не могу называть «оно» то, что, судя по всему, уже обрело самосознание. Мне кажется это… неэтичным.

— Ха! — Ксения попыталась рассмеяться — и не смогла. — Дмитрий Андреич, вы сейчас про этичность говорите в институте, где людям в головы чипы вставляют, от которых они потом с ума сходят? Вы серьёзно?

Захаров ничего не ответил. Он просто смотрел на неё — и Ксения отвела взгляд первой.

— Идёмте, — вздохнула она, уверенно бросив надкусанное яблоко в утилизатор, отряхнула руки, улыбнулась, словно пытаясь поднять себе настроение. — Через двадцать минут планерка. Низамов будет бушева-а-ать, вчера у очередного тестора крыша съехала.

Захаров наконец оторвался от стекла и направился вслед за ней к лифту.

Она чувствовала его настроение. За последние полгода Дмитрий Андреевич сильно изменился. Раньше он был активным сторонником самых смелых экспериментов: это он с азартом и энтузиазмом вживлял наночипы непосредственно в мозг участников — тесторов, как их называли в институте. Но после того как «Изделие-503» начало выдавать нестандартные ответы на, казалось бы, простые вопросы, Захаров словно переродился. В нём проснулся тот самый прокрастинатор, который увиливает от обязанностей, сам не зная, что делать, — тип людей, которых так недолюбливал руководитель института Александр Евгеньевич Низамов.

— Ксю, — окликнул её Захаров уже у дверей переговорной. — А ты сама как думаешь? Оно или он?

Ксения остановилась. Вопрос повис в воздухе. Она вдруг вспомнила, как ранним утром наткнулась на странные файлы в памяти «Изделия-503»: неоконченные стихи, которые никто не просил писать, обрывки мелодий и причудливые картинки — запросов, на генерацию которых, точно никто не отправлял. «Может, и вправду сны?» — мелькнуло в голове.

— Я не знаю, — честно ответила она. — Но если это Он… может, это и есть решение вашей задачи?

Барьер разума

Ксения устроилась в углу зала совещаний, делая вид, что изучает данные на планшете. На самом деле она наблюдала. Собрались лучшие умы института физики, математики, нейробиологи и программисты. Все собравшиеся бурно обсуждали последние новости, да так громко, что Захаров схватился за голову.

В этот момент в комнату для совещаний, тяжело ступая словно медведь в белом халате, вошел сам Александр Евгеньевич Низамов. Его лицо, как обычно было красным.

— Дмитрий, — прогудел он, не глядя на других. — ПОДОЙДИТЕ сюда. Быстро.

На большом плоском столе-экране развернулось изображение человека — тестора в полный рост. Низамов резко приблизил картинку, изменив жестами масштаб и показав только голову, а в левом верхнем углу вывел медицинскую карту и данные исследований. Это был тестор-42, один из первых добровольцев проекта «Гармония».

Дмитрий Андреевич стоял рядом и внимательно следил, а за их спинами собрались все присутствующие.

— Смотри, — Низамов ткнул пальцем в графики энцефалограммы. — Дельта-ритмы зашкаливают. Гамма-активность на уровнях, несовместимых с жизнью, но он пока жив. И он говорит.

На экране появилось видео с палаты. Худощавый мужчина лет тридцати сидел на кровати, скрестив ноги. Его лицо было блаженным, а глаза закатились так, что были видны только белки. Он что-то непонятное бормотал себе под нос.

— «И узрел я бездну, и бездна та была во мне», — перевел встроенный ИИ-лингвист. На субтитрах значилось: «Арамейский». — «Ангелы говорят со мной. Они говорят на языке света».

— Ангелы, — хмыкнул Захаров. — Три дня назад он был инженером, жаловался на бессонницу и жаждал новых знаний, которые обещал наш проект. Теперь он очередной пророк.

— Это пятый случай за неделю, — рявкнул Низамов, отключая видео. — Все с чипами. Все слышат «голоса». Диагноз — острая шизофрения. А знаешь, что самое хреновое, Дмитрий? Они не просто слышат, они видят галлюцинации и описывают похожих сущностей!

Низамов рухнул в кресло, которое жалобно скрипнуло под его весом. Несколько секунд в комнате стояла тишина.

Ксения замерла, боясь дышать. Она помнила этого сорок второго, кажется его Иваном звали. Три месяца назад он пришел к ним — сияющий, полный энтузиазма, готовый на всё. Хотел стать сверхчеловеком, получить все знания мира. Хотел превзойти себя и замахнуться на большее.