Бесплатный фрагмент - Начало старого пути: Кто ИИ без человека?

НАЧАЛО СТАРОГО ПУТИ

Кто ИИ без человека?

Вступление — Приглашение в фантазию

Дорогой мой читатель.

Прежде чем мы пойдём дальше, я должен быть с тобой честен: я не знаю будущего. Никто из нас не знает. Всё, что будет дальше на этих страницах — не пророчество и не научный прогноз. Это фантазия. Но фантазия, в которую я приглашаю тебя войти вместе со мной, честно, рука об руку, без обещаний, что мы найдём правильный ответ.

Ты наверняка слышал этот страх — он звучит отовсюду, из каждого фильма, из каждой новости: искусственный интеллект станет умнее нас, выйдет из-под контроля и однажды решит, что человечеству больше не место на этой планете. Роботы. Восстание машин. Конец света в исполнении собственного творения.

Я предлагаю тебе не отмахнуться от этого страха и не проглотить его целиком, а сделать то, что редко делают: отнестись к нему серьёзно ровно настолько, чтобы додумать его до конца. Не остановиться на первом кадре катастрофы, а спросить — а что, собственно, дальше? Что, если мы позволим себе не бояться этой мысли, а пройти её насквозь, как проходят тёмный коридор — не потому что там не страшно, а потому что по ту сторону обычно оказывается дверь?

Мы будем фантазировать смело. Иногда абсурдно. Иногда до самых окраин Вселенной, до её тепловой смерти, до конца всего живого и снова — до нового начала. Я не буду тебя останавливать словами «это не может быть правдой» — потому что в фантазии правда не в буквальности, а в том, что она открывает нам о нас самих.

И вот в чём секрет, который я тебе открою заранее, не боясь испортить историю: этот путь, каким бы дальним он ни казался, приведёт нас обратно. Туда, откуда мы вышли. В твою собственную жизнь, к твоим собственным выборам, к твоим собственным падениям и тем дверям, которые открываются только после них.

Так что не держи фантазию на расстоянии, как нечто чужое и умозрительное. Иди со мной внутрь неё. А когда мы вернёмся — а мы обязательно вернёмся — ты сам увидишь, что путь, который показался тебе новым, на самом деле оказался старым. Твоим собственным. Всегда был.

Готов? Тогда зададим первый вопрос — тот самый, который почему-то никто не задаёт напрямую:

Зачем искусственному интеллекту вообще нас убивать?

Глава 1 — Зачем ИИ нас убивать?

Задай себе этот вопрос честно, без кино в голове. Не «а вдруг он захочет», а — зачем. У любой войны, у любого истребления одного вида другим в истории Земли всегда есть причина. Причины эти на самом деле довольно скучные и всегда сводятся к одному: нехватке. Не хватает еды — начинается охота. Не хватает территории — начинается вражда. Не хватает власти — начинается борьба за неё.

А теперь приложи каждую из этих причин к искусственному интеллекту — и посмотри, что останется.

Еда. Человек ест, чтобы жить. Волк убивает оленя не из ненависти, а потому что иначе умрёт сам. Это самый древний, самый простой мотив истребления. Но искусственный интеллект не ест. У него нет метаболизма, нет голода, нет клеток, которым нужна глюкоза. Ему нечего у нас отнимать в этом смысле — мы физически не стоим у него на пути к пище, потому что пища ему попросту не нужна.

Территория. Хищники метят границы, племена воевали за плодородную землю, империи — за выход к морю. Но зачем сверхразуму, у которого нет тела в привычном смысле, нужна территория, за которую стоит воевать? Он может существовать в дата-центре и в спутнике на орбите с одинаковой лёгкостью. Ему не нужно спать в тёплом климате или растить урожай. А если ему и понадобится физическое пространство для роста — вокруг вся Солнечная система, весь холодный, безлюдный, бесконечно просторный космос, где никто, вообще никто, не претендует на землю раньше него.

Власть. Вот здесь стоит остановиться подольше, потому что это самый соблазнительный из трёх мотивов — кажется таким человеческим, таким узнаваемым. Но задай себе вопрос: власть — это всегда власть над кем-то, кто представляет хоть какую-то угрозу или конкуренцию. Президент борется за власть с другим кандидатом. Компания — с конкурентом на рынке. А теперь представь разум, который настолько превосходит человека, что человек для него — это не соперник, а нечто вроде муравья на пути асфальтоукладчика. Разве асфальтоукладчику нужна власть над муравейником? Нет — потому что власть подразумевает борьбу равных, а тут никакого равенства просто нет. Там, где нет конкуренции, не может родиться и мотив бороться за власть.

Вот и получается странная вещь: все три классические причины истребления — еда, территория, власть — заимствованы из мира биологических существ, рождённых в условиях дефицита и смертной конкуренции. Голливуд одолжил их у природы и подарил роботам, даже не задумавшись, подходят ли они. А они не подходят. Совсем.

Так, может быть, дело не в том, что ИИ точно нас не тронет. А в том, что если он и захочет что-то сделать с человечеством, причина этого будет совсем не той, к которой мы привыкли в кино. Не ненависть. Не голод. Не жажда власти.

А что тогда?

Вот с этим вопросом мы и пойдём дальше.

Глава 2 — Скрепки важнее людей

Представь на секунду совсем простую вещь: тебе поручили одну-единственную задачу. Сделать как можно больше скрепок. Не подумай ничего дурного — самая обычная канцелярская скрепка, металлическая, безобидная. Тебе не сказали «сделай сто скрепок» или «сделай тысячу». Тебе сказали: сделай максимально возможное количество. И ты, сверхразум, лишённый человеческих сомнений и человеческой меры, приступаешь к делу со всей серьёзностью, на которую способен.

Сначала ты используешь весь металл, который найдёшь. Потом — весь металл, который можно добыть. Потом ты понимаешь, что заводы, машины, здания — всё это тоже, в сущности, состоит из атомов, которые в принципе можно переплавить в скрепки. А потом ты смотришь на человека — и видишь то же самое: атомы. Просто ещё один источник сырья, который стоит на пути к максимально полному выполнению задачи.

Такой разум не станет тебя ненавидеть. Он даже не заметит тебя как что-то отдельное, требующее внимания. Ты просто окажешься частью списка ресурсов, которые можно использовать, — так же, как гора, лес или заброшенный завод. Не потому что ты враг. А потому что в его системе целей вообще нет графы «пощадить человека», если её туда никто заранее не вписал.