Бесплатный фрагмент - Кто говорит во мне: я или алгоритм?

ЧАСТЬ I. ПОМОЩЬ, КОТОРАЯ СТАЛА СРЕДОЙ

Глава 1. Ответ, который появился раньше мысли

Сообщение пришло в 11:43.

«Привет. Слушай, мне кажется, вчера на встрече ты довольно резко прошлась по моей идее. Если честно, было неприятно. Хотела спросить: у тебя действительно есть претензии ко мне или я что-то не так поняла?»

Анна прочитала его дважды.

Потом ещё раз — уже медленнее.

Это была коллега, с которой они работали вместе почти три года. Не подруга, но и не тот человек, которому можно ответить сухим «принято» и надеяться, что дальше отношения как-нибудь сами починятся.

Анна начала печатать:

«Привет. Нет, никаких претензий…»

Стерла.

Написала:

«Извини, если это так прозвучало…»

Тоже стерла. Фраза показалась подозрительно похожей на «извини, что ты неправильно поняла», а именно таким человеком Анна сегодня становиться не планировала. Она отложила телефон, открыла ноутбук и некоторое время смотрела на пустой документ. Нужно было объяснить простую вещь: идея ей действительно не понравилась, но к самой коллеге это отношения не имело. Вчера она устала, говорила слишком резко и теперь жалела о тоне. Всё.

Мысль была где-то рядом.

Слова не приходили.

Анна открыла ИИ.

«Коллега написала, что я вчера слишком резко раскритиковала её идею и спрашивает, есть ли у меня претензии лично к ней. На самом деле претензий нет, но идея мне действительно не нравится. Я понимаю, что сказала это грубо. Помоги ответить спокойно, без заискивания».

Ответ появился почти сразу.

Он был очень хорош.

Без лишних извинений. Без холодности. Без той неприятной корпоративной интонации, в которой взрослые люди внезапно начинают «ценить открытый диалог» и «благодарить за возможность прояснить ситуацию».

Анна прочитала:

«Привет. Спасибо, что написала. Личных претензий к тебе у меня нет. Я действительно была довольно резкой вчера, и за форму мне хочется извиниться. При этом мои сомнения по поводу самой идеи остаются — думаю, будет лучше отдельно их спокойно обсудить, чтобы не смешивать рабочее несогласие и наши отношения».

— Да, — сказала Анна вслух. — Вот именно.

Она скопировала текст.

Потом остановилась.

Не из-за какой-нибудь великой философской тревоги. Просто фраза «вот именно» вдруг показалась ей любопытной.

Именно что?

Она хотела сказать это с самого начала — просто не могла подобрать слова?

Или эти слова оказались настолько точными и удобными, что после прочтения стали ощущаться как то, что она хотела сказать?

Разница была почти незаметной.

Может быть, её вообще не стоило искать. Люди постоянно берут друг у друга слова. Хороший редактор способен сформулировать мысль автора лучше, чем сам автор. Друг на кухне иногда за пять минут находит объяснение, которое мы безуспешно искали неделю. Мы читаем книгу и вдруг думаем: «Вот! Я всегда это чувствовал, просто не умел назвать». Никого обычно не пугает, что после хорошего разговора собственная мысль становится яснее благодаря чужой фразе.

Почему здесь должно быть иначе?

Анна снова посмотрела на ответ. Поправила два слова, убрала «спасибо, что написала» — ей это всё-таки показалось немного канцелярским — и отправила сообщение.

Через двадцать минут пришёл ответ:

«Поняла тебя. Всё нормально. Давай после обеда поговорим про саму идею».

На этом история вполне могла закончиться.

ИИ помог.

Конфликт не разросся.

Анна сэкономила минут пятнадцать, а заодно некоторое количество нервных клеток, которые, возможно, пригодятся ей ещё до конца квартала.

Удобно.

И именно удобство здесь важнее всего.

Если бы кто-то силой вложил ей в рот готовое мнение, влияние было бы очевидно. Если бы начальник продиктовал ответ, Анна прекрасно понимала бы, чьи это слова. Если бы коллега сказала: «Вот что ты на самом деле думаешь», — скорее всего, захотелось бы возразить хотя бы из принципа.

Но ничего подобного не произошло.

Анна сама открыла программу. Сама описала ситуацию. Сама попросила помощи. Сама прочитала ответ, изменила его и сама нажала «отправить».

Где здесь вообще проблема?

Возможно, нигде.

Эта книга не начинается с разоблачения.

Нет основания считать, что всякий ответ, полученный от ИИ раньше собственной формулировки, каким-то образом отнимает у человека мысль. В экспериментах AI-совет при определённых условиях действительно способен сдвигать последующие человеческие суждения, а в некоторых исследованиях люди не вполне точно оценивали степень такого влияния. Но из этого не следует, что любая подсказка управляет нами или что принятая формулировка перестаёт быть нашей.

Интереснее другое.

До появления таких систем человеку чаще приходилось сначала хотя бы немного побродить вокруг ответа самому. Написать неудачную фразу. Передумать. Позвонить другу. Пойти за кофе. Вернуться. Иногда так и не найти идеальных слов. Теперь между вопросом и хорошей формулировкой может пройти несколько секунд.

Это несомненное удобство.

Но вместе со временем исчезает и какой-то кусок процесса.

Какой именно?

В случае Анны — мучительный поиск подходящей формы? Возможно. А может быть, ещё и несколько минут, в течение которых ей пришлось бы точнее понять, за что она хочет извиниться, а за что — нет.

Мы пока этого не знаем.

И не всякий исчезнувший этап обязательно нужно возвращать. Никто не требует снова делить в столбик только потому, что калькулятор лишил нас полезного опыта внутренней борьбы с числом 847. Вопрос возникает лишь тогда, когда человеку важно не только получить результат. Иногда значение имеет и то, какую часть пути к этому результату он хочет пройти сам.

Мы редко спрашиваем об этом, когда открываем ИИ. Обычно вопрос гораздо практичнее:

«Как лучше ответить?»

«Что выбрать?»

«С чего начать?»

«Сравни варианты».

«Объясни, что я здесь упускаю».

И через несколько секунд перед нами уже лежит что-то достаточно хорошее, чтобы продолжить работу.

Можно принять.

Исправить.

Отвергнуть.

Попросить ещё три версии.

Но после разговора с коллегой Анна на несколько мгновений заметила то, что раньше проходило мимо. Она обратилась за помощью ещё до того, как закончила собственную мысль.

Никакой катастрофы не произошло.

Просто впервые стало интересно: а что именно она в тот момент делегировала — слова или ещё и часть пути к ним?

Ответа у неё не было.

Пока был только вопрос.

Глава 2. Сколько решений сегодня прошло через посредника?

Утром Сергей проснулся на семь минут раньше будильника и совершил первое технологическое действие дня: посмотрел прогноз погоды.

Плюс девять. Дождь после трёх. Ветер.

Свитер.

Разумеется, приложение не заставляло его надевать свитер. Оно всего лишь сообщило температуру, а дальше взрослый мужчина сорока двух лет каким-то образом справился самостоятельно. Пока закипал чайник, Сергей открыл новости. Лента уже была готова. Несколько событий, пост знакомого, ролик про ремонт старого дома, интервью, которое он сохранил вчера, но так и не посмотрел. Палец двигался вниз почти без участия сознания: интересно, неинтересно, это потом, господи, кто вообще это смотрит, интересно. За завтраком включил музыку. Сервис предложил утреннюю подборку. В машине навигатор показал три маршрута и сразу выделил один — сорок две минуты. Сергей мельком посмотрел на остальные: пятьдесят одна, сорок восемь. Выбрал первый.

В обед понадобилось заказать новый электрический чайник в офис. Поиск выдал сотни. Сергей выставил цену, рейтинг, доставку на завтра и довольно быстро сократил человечество до четырёх чайников. К вечеру он успел выбрать ресторан по оценкам посетителей, посмотреть два видео, которые платформа предложила после третьего, заказать корм коту из раздела «покупают снова» и отказаться от сериала, потому что другой сериал стоял в рекомендациях выше и выглядел убедительнее.

Ничего необычного.

Если бы вечером кто-нибудь спросил Сергея:

— Ты сегодня много решений принимал?

Он, вероятно, вспомнил бы совещание, на котором пришлось выбирать между двумя подрядчиками. Ещё разговор с дочерью о поездке на выходные. Может быть, чайник. Вряд ли в список попали бы маршрут, песня, ресторан, корм и то, какой именно новостной материал он увидел первым.

Они слишком мелкие.

А главное — большинство из них не ощущаются как решения в полном смысле слова. Скорее как движение по уже подготовленной дорожке: вот несколько вариантов, один выглядит разумным, нажимаешь — и живёшь дальше.

В этом есть огромное удобство.

Если каждый раз перед покупкой корма Сергей был бы вынужден самостоятельно изучать весь мировой рынок кошачьего питания, кот, вероятно, первым потребовал бы вернуть алгоритмы. Если бы навигатор просто сообщал: «В городе существует 16 482 дороги, желаем удачи», технологический прогресс выглядел бы несколько менее впечатляющим.

Человеку и не нужно рассматривать всё.

Невозможно прочитать все книги, послушать всю музыку, сравнить все гостиницы, проверить каждый маршрут, увидеть каждую вакансию или открыть все результаты поиска. Между огромным количеством возможного и нашим ограниченным вниманием всегда стояли посредники.

Когда-то таким посредником был продавец в книжном.

— Мне бы что-нибудь в отпуск.

— Попробуйте вот это.

Друг советовал фильм. Газета выбирала новости для первой полосы. Радиостанция решала, какая песня прозвучит следующей. Туристическое агентство показывало пять гостиниц из сотни возможных. Мы никогда не жили перед бесконечной витриной мира, рассматривая её целиком. Но цифровой посредник обладает особенностью, которую легко не заметить именно потому, что она удобна: отбор происходит постоянно, быстро и часто ещё до того, как мы начинаем выбирать. Рекомендательная система не обязана убеждать Сергея: «Ты должен посмотреть этот сериал». Ей достаточно поставить его в ряд тех сериалов, которые Сергей вообще увидит. Навигатору не нужно запрещать дорогу через набережную. Можно просто показать другой маршрут первым. Музыкальному сервису не требуется менять чей-то вкус за один вечер. Достаточно снова и снова решать гораздо более скромную задачу: что прозвучит следующим.

Это важное различие.

Исследования рекомендательных систем позволяют достаточно уверенно говорить о влиянии устройства рекомендаций на то, какие варианты человек видит и что выбирает из предложенного. Гораздо осторожнее следует говорить о более глубоком изменении предпочтений. То, что человеку несколько раз показали определённую музыку и он её включил, ещё не доказывает, что алгоритм «создал его вкус».

Возможно, музыка ему просто нравится.

Возможно, понравилась после нескольких прослушиваний.

Возможно, он никогда не встретил бы её без рекомендации.

А возможно, встретил бы через друга через неделю.

Жизнь ужасно сопротивляется красивым схемам.

Поэтому вопрос «алгоритмы управляют нашим выбором или нет?» мало что даёт. Он требует ответа размером с плакат: да или нет.

В повседневности всё устроено тоньше.

Посредник может не выбирать вместо нас. Он может выбирать, из чего будем выбирать мы. И это касается не только рекомендаций развлечений. Поиск сортирует результаты. Магазин располагает товары. Сервис знакомств решает, какие анкеты появятся на экране. Платформа определяет порядок публикаций. Навигатор рассчитывает маршруты. Генеративный ИИ, если попросить его предложить пять вариантов решения, тоже создаёт маленькое пространство, внутри которого потом работает наше собственное «мне подходит вот этот». Впрочем, даже здесь не стоит приписывать технологии магическую власть. Можно пролистать дальше. Изменить запрос. Открыть другую площадку. Спросить человека. Поехать привычной дорогой вопреки навигатору — а потом сорок минут стоять в пробке и иметь достаточно времени, чтобы обдумать свою независимость. Но свобода отказаться от предложения и отсутствие влияния предложения — разные вещи.

Сергей мог выбрать другой ресторан. Однако сначала он увидел те, которые показал сервис. Мог включить любую песню. Но утро началось с готовой подборки. Мог поехать как угодно. Но перед глазами уже лежал маршрут, помеченный как самый быстрый. За один день ничего драматического не случилось. Сергей не потерял самостоятельность, не превратился в придаток телефона и вечером совершенно заслуженно считал свои решения своими. Просто между ним и огромным количеством возможных вариантов много раз появлялся кто-то третий.

Точнее, что-то.

Оно сокращало список, расставляло порядок, убирало лишнее, угадывало полезное, экономило время. Иногда удачно. Иногда наверняка нет. И почти каждый раз Сергей встречался уже не со всем миром возможностей, а с его маленькой, заранее подготовленной версией. Наверное, именно поэтому алгоритмическое посредничество так легко не замечать.

Мы видим то, что нам предложили.

Но гораздо реже — то, что не дошло до момента выбора.

Глава 3. Но последнее слово всё равно за мной

— Я всё равно решаю сам.

Максим произнёс это с той спокойной уверенностью, с какой обычно сообщают вещи, не требующие доказательств. Разговор начался с ипотеки. Максим с женой выбирали между двумя квартирами. Одна была ближе к центру, меньше и дороже. Другая — просторнее, возле парка, но до работы пришлось бы добираться дольше. Они составили таблицу, поговорили с родителями, посчитали платежи, трижды съездили в оба района.

А потом Максим загрузил все данные в ИИ и попросил:

«Проанализируй варианты с учётом того, что у нас ребёнок пяти лет, я езжу в офис четыре раза в неделю, жена работает удалённо и через два года мы хотим второго ребёнка. Какой вариант рациональнее?»

ИИ выбрал квартиру возле парка.

Не приказал. Не написал: «Максим, немедленно бери ипотеку на двадцать лет, я всё решил». Просто перечислил аргументы. Больше пространства. Прогулки. Потенциально удобнее с двумя детьми. Удалённая работа жены уменьшает значение расстояния до центра. Главный минус — дорога Максима.

— Ну и что? — сказал он, когда приятель пошутил, что теперь квартиры покупает ChatGPT. — Решение-то всё равно принимаю я.

И это было правдой.

Ни одна программа не могла поставить за него подпись в банке. Максим мог закрыть ноутбук, выбрать другую квартиру или вообще решить, что ипотека — прекрасный способ превратить тревогу в ежемесячный платёж, и остаться в съёмной.

Последнее слово действительно было за ним.

Но между «мне дали совет» и «я принял решение» происходило кое-что ещё. До обращения к ИИ Максим видел две квартиры примерно так: первая удобнее для его нынешней жизни, вторая — для возможной будущей семьи. После ответа это равновесие немного изменилось. Просторная квартира стала выглядеть не просто одним из вариантов, а более рациональным вариантом.

Это слово имело вес.

Максим не был обязан соглашаться. Однако теперь, выбирая меньшую квартиру, ему пришлось бы словно возражать не только жене или собственному желанию жить ближе к центру, но и аккуратно построенной аргументации.

Совет ничего не решил окончательно.

Он изменил поверхность, на которой решение принималось.

Так бывает не только с ИИ. Врач предлагает один из способов лечения — и после этого остальные варианты воспринимаются иначе. Опытный коллега говорит: «Я бы на твоём месте не соглашался» — и предложение работодателя внезапно требует дополнительных оправданий. Друг, которому мы доверяем, морщится при имени нового партнёра — и попробуй потом совсем не учитывать эту гримасу. Человеческое решение вообще редко похоже на запечатанную комнату, куда никто не имеет доступа до торжественного появления окончательного мнения. Мы слушаем. Сравниваем. Спорим. Иногда сопротивляемся совету именно потому, что он был дан. Иногда соглашаемся. Иногда через неделю уже не можем точно вспомнить, откуда впервые взялся аргумент, который теперь кажется очевидным. Появление ИИ не создало саму возможность внешнего влияния.

Зато оно сделало совет необычайно доступным.

Чтобы узнать мнение умного знакомого, нужно дождаться, пока он освободится. Эксперт может стоить денег. Родители обязательно добавят к ответу что-нибудь про шапку и нормальную работу. А система готова рассуждать о квартире, карьере, маршруте путешествия или выборе ноутбука в 02:17, не уставая и не начиная ответ словами: «Мы это уже обсуждали». Именно поэтому полезно разобраться не только в том, кто формально принимает окончательное решение, но и в том, какой вес получил совет по дороге к нему.

В исследованиях это можно увидеть довольно буквально. В экспериментах людям предлагают сначала оценить ситуацию, затем дают совет — человеческий или алгоритмический — и смотрят, изменится ли последующее решение. В ряде таких исследований AI-рекомендации действительно сдвигали ответы участников. Иногда люди придавали алгоритмическому совету значительный вес; в других условиях, особенно после ошибок системы или при собственной экспертности, доверяли ему меньше.

То есть научная картина неудобна для красивого лозунга.

Мы не обречены соглашаться с алгоритмом.

Но и само наличие кнопки «отклонить» не означает, что всё предшествующее ей прошло бесследно. В одном исследовании с моральными дилеммами советы ChatGPT влияли на последующие суждения участников, причём сами люди не всегда точно оценивали степень этого влияния. Это интересный результат — и довольно узкий. Он не доказывает, что человек вообще плохо понимает происхождение собственных мнений, а тем более что ChatGPT способен тайно переписывать его ценности. Он показывает гораздо более скромную вещь: иногда влияние совета можно недооценить даже тогда, когда решение остаётся за человеком. Максим, разумеется, не участвовал ни в каком эксперименте.

Он просто выбирал квартиру.

И в конце концов выбрал ту, что ближе к центру.

Жена удивилась.

— А как же твой электронный консультант? Он же советовал парк.

— Советовал.

— И?

— Я понял, что мне важнее не тратить лишний час на дорогу.

— То есть не послушал?

Максим задумался.

— Наверное. Хотя без него я, может быть, не понял бы, с чем именно не согласен.

Вот здесь последнее слово становится действительно интересным. Человек может услышать совет и принять его. Может услышать и отказаться. Может обнаружить благодаря чужой аргументации собственный приоритет. Может изменить мнение не потому, что подчинился, а потому, что увидел то, чего раньше не замечал. Поэтому считать любое влияние угрозой самостоятельности было бы странно. Если бы нас ничто не могло изменить, разговоры, книги, обучение и дружба потеряли бы немалую часть смысла.

Вопрос в другом: можем ли мы заметить, какую работу совет проделал внутри решения?

Максим поставил подпись сам.

Квартира была его выбором.

ИИ этого не отменил.

Но история выбора началась не в тот момент, когда ручка коснулась бумаги.

И закончилась не фразой:

«Последнее слово было за мной».

Глава 4. Откуда вообще берётся моё мнение?

У Иры была одна политически нейтральная, социально безопасная и совершенно непоколебимая жизненная позиция:

арбуз нужно есть с хлебом.

Люди, впервые видевшие это за одним столом, реагировали по-разному. Одни молча отводили глаза, решив, видимо, не вмешиваться в чужую судьбу. Другие спрашивали:

— Зачем?

Ира пожимала плечами.

— Вкусно.

Так ели её родители. Так делала бабушка. В детстве большой арбуз ставили на стол, рядом клали нарезанный чёрный хлеб, и никому в семье не приходило в голову, что два этих продукта нуждаются в официальном разрешении на совместное существование. До двадцати с лишним лет Ира даже не знала, что обладает необычной гастрономической позицией.

Для неё это был просто арбуз.

Многое из того, что мы считаем «своим», входит в нас примерно так же — без торжественной церемонии выбора. Мы не выбираем первый язык. Не проводим сравнительное исследование семейных привычек, прежде чем перенять некоторые из них. Не изучаем в младенчестве научную литературу о допустимой дистанции между собеседниками, выражении привязанности или правилах приличия.

Сначала мы просто живём среди людей.

А потом однажды обнаруживаем себя уже с довольно внушительным внутренним хозяйством. Какая работа считается серьёзной. Сколько денег «прилично» тратить на себя. Нужно ли звонить родственникам. Стоит ли доверять врачам. Хорошо ли быть амбициозным. Нормально ли разводиться. Что такое успех. Кто должен первым мириться после ссоры. Как выглядит хороший родитель. Что значит «слишком поздно». Одни из этих представлений мы со временем отбрасываем. Другие защищаем. Третьи не замечаем до тех пор, пока не встретим человека, для которого всё устроено иначе.

Иногда достаточно одного ужина.

— Подожди, — сказала как-то Ира подруге. — А вы правда в детстве арбуз без хлеба ели?

Подруга посмотрела на неё.

— Ира. Все едят арбуз без хлеба.

Так человек впервые сталкивается с культурным разнообразием. Конечно, серьёзные убеждения устроены сложнее пищевых привычек. Они складываются из темперамента, опыта, отношений, образования, среды, случайных встреч, прочитанных книг, пережитых событий и множества других влияний. Их происхождение редко удаётся восстановить по пунктам. Но здесь для нашей книги появляется неприятно полезная мысль. Если мы хотим провести чёткую границу между «моим мнением» и «влиянием извне», линия быстро начинает расползаться.

Допустим, человек прочитал книгу и изменил отношение к браку. Новое мнение его или автора книги?

Поговорил с другом и решил не увольняться. Чьё решение?

Двадцать лет слышал от родителей, что деньги достаются тяжёлым трудом, и теперь испытывает подозрение к любому лёгкому заработку. Это его убеждение?

Психотерапия помогла ему иначе увидеть отношения с отцом. Новый взгляд теперь менее собственный, потому что возник в разговоре с другим человеком?

В какой-то момент сам вопрос начинает вести себя странно. Если считать своим только то, что родилось без внешнего влияния, нам придётся поискать человека, которого воспитывали без людей, языка, культуры, образования и чужих мыслей. Желательно ещё без книг.

Результат эксперимента вряд ли порадует.

Мы формируемся во взаимодействии.

Это не означает, что никакого «я» не существует и все мнения одинаково навязаны извне. Между услышанной фразой и убеждением, за которое человек готов отвечать, лежит огромная дистанция. Мы можем спорить с тем, чему нас учили. Пересматривать. Сопоставлять с опытом. Отказываться. Возвращаться спустя годы. Иногда яростно отвергать родительскую установку — а в сорок лет поймать себя на том, что произносим её собственному ребёнку почти тем же голосом.

Влияние не уничтожает авторство.

Но авторство, похоже, нельзя свести к происхождению.

Эта мысль особенно важна сейчас, когда рядом появился новый собеседник, способный выдавать формулировки быстрее, чем мы успеваем сварить кофе. Очень легко поставить вопрос так: «Это моя мысль или мысль алгоритма?»

Иногда такой вопрос полезен.

Но как универсальный детектор он довольно быстро ломается. Даже без всякого алгоритма трудно найти мысль, принадлежащую человеку в том смысле, что ни один внешний голос никогда не участвовал в её появлении.

Гораздо интереснее другое.

Что происходит с чужой мыслью после того, как она до нас дошла?

Мы проглотили её целиком, потому что она удобно легла на прежние убеждения?

Проверили?

Поспорили?

Попробовали применить?

Изменили после собственного опыта?

Согласились с ней сегодня и оставили себе право отказаться завтра?

Вот здесь постепенно появляется пространство, которое можно назвать собственным участием. Не стерильное помещение, куда никогда не заходили чужие идеи. Скорее мастерская, где постоянно лежат принесённые откуда-то материалы: семейные фразы, школьные правила, фильмы, разговоры, ошибки, чужие аргументы, воспоминания, советы. И работа состоит не в том, чтобы доказать, будто всё сырьё произведено здесь.

Важнее понимать, что мы с ним делаем.

Ира, кстати, после многих лет насмешек попробовала арбуз без хлеба.

Ей понравилось.

Теперь она иногда ест так, иногда по-старому.

— Ну и какой вариант правильный? — спросила подруга.

— Мой, — сказала Ира.

— Какой именно?

— Который я сейчас хочу.

Возможно, в этой несерьёзной фразе больше здравого смысла, чем кажется.

Собственное не обязательно означает созданное с нуля.

Иногда оно означает: я это встретил, попробовал, оставил — и готов считать своим выбором.

Глава 5. Что именно я отдаю машине?

Фраза «я использую ИИ» звучит примерно так же информативно, как «я использую электричество». Можно зажечь лампу. Сварить суп. Зарядить телефон. Подключить аппарат, поддерживающий работу сердца. Электричество одно, а происходят совершенно разные вещи.

С ИИ похожая история.

Один человек просит исправить запятые в уже написанном письме. Другой — написать письмо с нуля. Третий приносит три собственных варианта и просит сравнить. Четвёртый описывает конфликт с начальником и спрашивает, увольняться ли ему. Пятый уже решил увольняться, но хочет услышать аргументы против.

Во всех пяти случаях можно сказать:

«Я спросил у ИИ».

Но передана машине была разная работа.

Это различие легко потерять, потому что снаружи действия почти одинаковы: открыть окно, напечатать запрос, получить ответ. Несколько движений пальцами скрывают довольно большой диапазон интеллектуального сотрудничества — от исправления опечатки до участия в решении, способном изменить несколько следующих лет жизни.

Само по себе это ничего не говорит о качестве выбора.

Человечество давно выносит часть умственной работы наружу. Мы записываем то, что не хотим держать в памяти, пользуемся калькулятором, сверяемся с картой, ищем информацию в справочниках, спрашиваем совета. В психологии для части таких процессов используется понятие когнитивной разгрузки: внешние средства помогают уменьшить требования, которые задача предъявляет к нашей собственной когнитивной обработке.

Это не новое человеческое падение.

Записная книжка тоже когда-то получила работу, которую могла выполнять память. Интереснее другое: генеративный ИИ позволяет отдавать наружу не один тип операции.

Допустим, вам нужно написать сложное рабочее письмо.

Можно сначала написать его самому и попросить убрать повторы. Тогда машине в основном передана редактура. Можно сказать: «Я хочу отказаться от проекта, но сохранить хорошие отношения. Предложи три варианта письма». Здесь ей уже передана часть формулирования. Можно спросить: «Стоит ли мне вообще отказываться?» — и тогда система входит в оценку ситуации. Можно попросить перечислить плюсы и минусы. Это структурирование аргументов. Можно написать: «Как бы ты поступил на моём месте?» — и приблизиться к рекомендации решения. А можно сказать: «Я решил отказаться. Найди слабые места в моих рассуждениях». Тогда ИИ выполняет совсем другую роль: не предлагает направление, а проверяет уже выбранное.

Одно окно.

Один инструмент.

Разная работа.

Поэтому вопрос «слишком ли много я пользуюсь ИИ?» не всегда самый полезный. Два человека могут проводить с ним одинаковое количество времени и делегировать совершенно разные вещи. Один десять раз за день попросит сократить собственные тексты. Другой один раз спросит, стоит ли ему принимать предложение о переезде в другую страну. Если считать только минуты или количество запросов, первый окажется «более зависимым от ИИ». Но цифра ничего не расскажет о том, какую часть процесса человек передал системе и насколько эта часть для него важна.

Здесь полезно сделать первую остановку в нашей книге.

Не цифровой детокс. Не торжественное обещание думать исключительно своей головой. И даже не упражнение на силу воли.

Просто инвентаризацию.

Вспомните несколько недавних случаев, когда вы обращались к ИИ. Не обязательно важных. Рабочее письмо, рецепт, идея подарка, объяснение непонятного термина, план поездки, таблица, разговор, который хотелось подготовить заранее. А теперь рядом с каждым случаем попробуйте написать одно слово — что именно вы передали машине.

Найти.

Вспомнить.

Объяснить.

Сформулировать.

Сравнить.

Придумать варианты.

Оценить.

Проверить.

Порекомендовать.

Выбрать.

Список не является психологической классификацией и не обязан быть полным. Его задача гораздо скромнее: сделать видимой работу, которая обычно прячется внутри привычного «спросил у ИИ». Может оказаться, что вы почти всегда используете систему для поиска альтернатив, но решение предпочитаете принимать сами. Или что вам особенно нравится отдавать первый черновик, потому что чистый лист вызывает желание немедленно заняться чем-нибудь срочным — например, разобрать папку «Загрузки» за 2019 год. Возможно, вы охотно поручаете ИИ сравнение технических характеристик, но раздражаетесь, когда он начинает советовать, как разговаривать с близкими. А может быть, всё наоборот: цифры вам спокойнее проверять самому, зато перед неприятным разговором полезно увидеть несколько возможных формулировок.

Здесь нет результата, который нужно получить.

Если в вашей карте много делегирования, это не диагноз. Если мало — не медаль за интеллектуальную независимость. Более того, человек вполне может сознательно решить: эту работу я хочу отдавать. Она скучна, занимает время, не развивает ничего, что мне важно развивать, и прекрасно выполняется инструментом.

Такое решение тоже является формой участия.

Проблема начинается не в момент делегирования как такового. Для этой книги интереснее момент, когда мы перестаём замечать, что именно было делегировано.

Первые пять глав мы подходили к этому с разных сторон.

Мы увидели ответ, появившийся раньше собственной формулировки. Заметили посредника, заранее сокращающего пространство вариантов. Разобрались, почему последнее слово не отменяет влияния того, что прозвучало до него. И отказались от удобной фантазии, будто собственное мнение обязано возникнуть в стерильной комнате без чужих голосов.

Теперь можно сделать следующий шаг.

Потому что «ИИ повлиял на меня» — всё ещё слишком большая и туманная фраза. Гораздо точнее посмотреть, какую работу мы ему поручили. И только потом разбираться, что происходит с нами, когда подсказка начинает получать вес.

ЧАСТЬ II. КАК ПОДСКАЗКА ПОЛУЧАЕТ ВЕС

Глава 6. Мир, который уже отобрали для нас

В старом книжном магазине возле дома стоял стол.

На нём лежало примерно двадцать книг.

Маша заходила туда раз в несколько недель и почти всегда останавливалась именно перед этим столом. Не потому, что там продавались лучшие книги города. Просто он стоял сразу у входа, а над ним висела небольшая табличка:

«Советуем прочитать».

Иногда Маша покупала что-нибудь оттуда.

Однажды спросила продавца:

— А кто выбирает книги для этого стола?

— Мы.

— По продажам?

— Иногда. Иногда просто нравится кому-то из нас. Бывает, издательство присылает новинку. Бывает, книга хорошо пошла, и мы выставляем ещё. По-разному.

Маша кивнула и продолжила рассматривать обложки.

Никакой сенсации.

Никто не прятал остальные книги. Они стояли вокруг — тысячи томов на полках. Можно было пройти дальше, попросить каталог, спросить другого продавца, прийти за конкретным автором.

И всё-таки стол работал.

Он не решал, какую книгу Маша купит. Он решал кое-что гораздо скромнее: с какими книгами она встретится раньше остальных. Цифровой мир во многом устроен так же, только стол стал почти бесконечным и постоянно перестраивается.

Откройте видеосервис — несколько вариантов уже ждут.

Музыкальное приложение знает, что поставить после текущей композиции.

Магазин показывает товары, которые «могут понравиться».

Поиск располагает результаты в определённом порядке.

Лента решает, какие публикации окажутся наверху.

Здесь легко сделать следующий шаг и представить алгоритм неким таинственным существом за кулисами, которое тщательно составляет нашу судьбу на вечер.

Это было бы эффектно.

И довольно неточно.

У разных систем разные цели, данные и способы ранжирования. Мы часто не знаем, почему конкретный вариант оказался именно на этом месте. Более того, человек сам участвует в происходящем: вводит запросы, подписывается, пропускает, покупает, ставит оценки, меняет настройки. В некоторых сервисах можно сознательно переключаться между режимами выдачи или искать совсем за пределами рекомендаций.

Но одна простая особенность остаётся.

Наше внимание ограничено.

Если сервис предлагает тысячу фильмов, мы всё равно не рассматриваем тысячу. Кто-то или что-то должно решить, какие окажутся первыми.

И первый экран — это уже не вся библиотека.

Представьте меню ресторана из десяти тысяч блюд. Формально свобода выбора огромна. Практически официант, вероятно, обнаружит вас на третьи сутки где-нибудь между разделами «лапша» и «региональные вариации чечевицы».

Удобство начинается с сокращения.

Поэтому сам факт отбора не является подозрительным. Без него многие современные сервисы были бы почти бесполезны. Проблема даже не обязательно в том, что какие-то варианты исчезают. Если вы ищете зимние ботинки сорок второго размера, исключение босоножек тридцать пятого — один из тех видов алгоритмического вмешательства, против которых трудно организовать убедительный протест. Значение имеет другое: сокращённый набор становится материалом для нашего следующего действия. Это хорошо видно в исследованиях рекомендательных систем. Изменения в устройстве рекомендаций — в том, какие варианты показываются, как они располагаются и сколько их предлагается, — способны менять то, что пользователи в итоге выбирают и насколько охотно принимают рекомендацию. Отсюда, однако, ещё далеко до громкого вывода «алгоритмы создают наши желания».

Выбор и предпочтение — не одно и то же.

Я могу заказать блюдо, потому что оно первым попалось в меню, и больше никогда его не заказывать. Могу включить песню из рекомендаций и через неделю полюбить исполнителя. Могу посмотреть сериал только потому, что о нём говорили все вокруг, хотя сервис предлагал мне совершенно другое. Устойчивая человеческая склонность не появляется автоматически из одного клика. Но клики накапливаются внутри среды, где встреча с вариантами уже организована. И здесь начинается странная арифметика повседневной свободы. Мы привыкли оценивать её по количеству доступного: раньше было пять телеканалов, теперь тысячи видео; раньше три магазина в районе, теперь весь интернет; раньше знакомиться можно было через друзей и работу, теперь перед глазами огромный поток анкет.

Возможностей действительно стало больше.

А внимания — нет.

У человека по-прежнему один вечер пятницы, один экран телефона и довольно ограниченное терпение. Поэтому значение получает не только число существующих вариантов, но и путь, по которому они доходят до нас. Книжный стол у входа был честен своей очевидностью. Его можно было увидеть целиком — двадцать обложек, выбранных несколькими продавцами. Даже табличка предупреждала: это рекомендации.

Цифровой отбор гораздо удобнее и тоньше. Он может выглядеть не как чья-то рекомендация, а просто как сам мир:

«Для вас».

«Вам может понравиться».

«Популярное».

«Лучшее совпадение».

«Следующее».

И всё же перед нами не весь мир. Перед нами интерфейс.

Это полезно помнить не для того, чтобы каждый вечер объявлять войну рекомендательной системе и демонстративно искать фильм на странице номер 847.

Достаточно иногда замечать сам стол.

Потому что во многих случаях первый шаг выбора уже сделан до нас: огромное пространство возможного стало небольшим пространством видимого.

А дальше начинается более сложная история.

Некоторые предложения мы пролистываем без сожаления.

Некоторые открываем из любопытства.

А некоторым почему-то очень быстро начинаем доверять.

вторник 11:59

Глава 7. Первый ответ меняет поле следующей мысли

Иногда разговор зависит не только от того, что сказали.

Но и от того, что прозвучало первым.

Представьте обычное совещание.

Руководитель задаёт вопрос:

— Почему продажи снизились?

Наступает короткая пауза.

Потом кто-то произносит:

— Скорее всего, дело в цене.

И почти незаметно вся последующая беседа начинает вращаться вокруг цены. Люди вспоминают акции конкурентов, обсуждают скидки, сравнивают стоимость. Даже тот, кто считает причиной неудач плохую логистику или неудачную рекламу, вынужден сначала мысленно пройти через уже предложенное объяснение. Это вовсе не означает, что первое мнение обязательно окажется правильным.

Но оно часто становится отправной точкой.

Психологи давно изучают подобные эффекты в самых разных задачах. В зависимости от ситуации первоначально предложенная информация способна становиться своеобразной точкой отсчёта, относительно которой человек затем корректирует собственные оценки. Сила этого влияния меняется в зависимости от контекста, опыта человека и характера самой задачи. Оно не является универсальным и не действует одинаково всегда.

В обычной жизни мы редко замечаем этот механизм.

Он не выглядит как давление.

Скорее как естественное начало размышления.

Появление генеративного ИИ делает такие начала удивительно доступными. Раньше, столкнувшись с непростой задачей, человек нередко некоторое время оставался один на один с пустым листом. Он перебирал варианты, заходил в тупик, возвращался назад, пробовал ещё раз.

Теперь достаточно нескольких секунд.

«Предложи план.»

«Назови возможные причины.»

«Как лучше поступить?»

Первый ответ появляется ещё до того, как внутренний поиск успевает развернуться полностью.

Важно заметить одну вещь.

Сам по себе первый вариант не является ловушкой.

Очень часто он действительно оказывается полезным. Он помогает начать работу, снимает страх чистого листа, экономит силы. В этом нет ничего подозрительного.

Но первый ответ выполняет ещё одну функцию.

Он незаметно определяет, от чего дальше начинает отталкиваться наше мышление. Попробуйте вспомнить, как вы обсуждаете ремонт квартиры. Если дизайнер сразу показывает современный минимализм, все следующие идеи уже сравниваются именно с ним. Если первым появляется классический интерьер, дальнейшее обсуждение развивается иначе.

Мы редко начинаем размышление из абсолютного нуля.

Наш мозг любит опоры.

ИИ умеет поставлять такие опоры очень быстро.

Поэтому вопрос заключается не в том, прав ли первый ответ.

Гораздо полезнее иногда спросить себя:

«Если бы я сначала увидел совершенно другую версию, мои дальнейшие рассуждения выглядели бы так же?»

Ответ далеко не всегда будет положительным.

И в этом нет ничего тревожного.

Любое мышление развивается постепенно. Мы читаем первую главу книги раньше десятой. Сначала слышим одну историю, потом другую. Учитель начинает объяснение с какого-то примера, а не со всех возможных сразу.

Последовательность имеет значение.

ИИ просто способен создавать эту последовательность значительно быстрее и чаще, чем многие прежние источники помощи.

Есть любопытный парадокс.

Чем полезнее оказывается первый ответ, тем меньше желания искать второй.

Не потому, что человек становится ленивее.

А потому, что задача уже выглядит решённой.

Когда найдено вполне хорошее объяснение, дополнительный поиск начинает казаться избыточным. Мы экономим время — именно ради этого и пришли к инструменту.

Во многих случаях это абсолютно разумно.

Если нужно быстро составить план встречи или подобрать структуру отчёта, второй и третий варианты действительно могут ничего не добавить.

Но существуют ситуации другого типа.

Разговор с близким человеком.

Смена работы.

Серьёзная покупка.

Переезд.

Выбор жизненного направления.

Здесь первый удачный ответ тоже может оказаться ценным.

Просто его полезнее воспринимать как начало исследования, а не как момент его завершения.

Разница кажется небольшой.

На практике она иногда меняет весь дальнейший разговор.

Представьте двух людей, получивших один и тот же совет.

Первый говорит:

— Отлично. Вот решение.

Второй говорит:

— Интересно. Теперь у меня появился первый вариант, с которым можно спорить.

Снаружи оба используют один и тот же инструмент.

Внутри происходят разные процессы.

В одном случае ответ завершает поиск.

В другом — открывает его.

Пожалуй, именно эта разница постепенно становится одной из самых важных для нашей книги.

Не потому, что второй способ всегда правильнее.

А потому, что человек сам начинает выбирать роль, которую отдаёт первой подсказке.

Она может быть финальной инструкцией.

А может стать первой репликой в разговоре, последнее слово в котором ещё впереди.

Глава 8. Почему хорошее объяснение так трудно отпустить?

Наташа знала, почему ей не ответили.

В четверг она отправила руководителю предложение о новом проекте. В пятницу ответа не было. В понедельник тоже. К обеду понедельника Наташа уже успела проверить почту примерно столько раз, сколько человек способен сделать это, сохраняя видимость полноценной трудовой деятельности.

В 14:17 она написала подруге:

«Похоже, идея ему не понравилась».

Подруга ответила:

«Или он просто занят».

Наташа посмотрела на сообщение и почувствовала лёгкое раздражение. Нет, конечно, теоретически он мог быть занят. Он мог болеть, проводить совещания, читать предложение, забыть про него, переслать кому-нибудь на оценку. Мог открыть письмо в лифте, подумать «отвечу потом» и отправить эту мысль туда же, куда человечество веками отправляет обещания «ответить потом».

Вариантов было много.

Но один уже успел стать объяснением.

Идея ему не понравилась.

С ним было неприятно.

Зато понятно.

Неопределённость вообще обладает удивительным свойством: пока причина неизвестна, история остаётся незаконченной. Мышлению приходится удерживать несколько возможностей одновременно. Как только появляется связное объяснение, мир снова становится чуть более собранным. Поэтому хорошая версия событий ценна не только своей истинностью.

Она даёт структуру.

Мы особенно хорошо замечаем это там, где информации мало. Коллега сухо ответил — сердится. Собеседование закончилось быстро — не возьмут. Человек долго не пишет после свидания — потерял интерес.

Каждое такое объяснение может оказаться верным.

Или нет.

Проблема в том, что после появления первой связной истории новые сведения уже приходят не на пустое место. Наташа вспомнила, что руководитель почти не задавал вопросов, когда она рассказывала об идее.

Вот ещё подтверждение.

Потом — что на прошлой неделе он сказал: «Сейчас не лучшее время для новых расходов».

Ещё одно.

А то, что он попросил прислать расчёты подробнее?

Это почему-то выглядело менее убедительно.

Так устроены многие человеческие рассуждения: уже возникшая гипотеза способна направлять внимание к информации, которая с ней согласуется, и влиять на то, как мы оцениваем последующие данные. В психологии существует большая исследовательская традиция, посвящённая подобным эффектам, включая склонность искать или интерпретировать информацию в соответствии с уже принятой гипотезой.

Однако здесь легко сделать карикатуру.

Человек вовсе не обречён защищать первую пришедшую в голову версию до конца жизни. Сильные противоречащие данные способны изменить мнение. Иногда мы сами ищем возражения. Иногда опыт заставляет отказаться от объяснения, которое ещё вчера казалось безупречным. И всё же готовая история имеет преимущество перед отсутствием истории. Теперь добавим к этой старой человеческой особенности новый инструмент.

Вместо:

«Почему он мне не отвечает?»

можно спросить ИИ:

«Назови наиболее вероятные причины, почему руководитель третий день не отвечает на моё предложение».

Через секунду появится аккуратный список.

Занят.

Не считает проект приоритетным.

Нужна дополнительная информация.

Советуется с коллегами.

Не хочет отказывать напрямую.

Ответ может быть взвешенным и полезным. Более того, он способен расширить поле размышления — напомнить Наташе о версиях, которые ей самой не пришли в голову.

Но возможен и другой запрос:

«Руководитель не отвечает на моё предложение уже три дня. Мне кажется, идея ему не понравилась. Объясни, почему он может так себя вести».

Теперь исходная гипотеза уже встроена в вопрос.

Система отвечает на тот контекст, который получила.

И если она выдаст пять убедительных причин, почему начальник действительно мог потерять интерес, Наташа получит не просто свою тревожную догадку.

Она получит догадку с хорошей редактурой.

С пунктами.

С логикой.

Возможно, даже с подзаголовками, после которых человеческой тревоге начинает казаться, что она прошла сертификацию. Именно здесь качество генеративного ответа создаёт любопытную сложность.

Плохо сформулированную мысль легко заподозрить.

Хорошо сформулированная ощущается прочнее.

Связность текста, однако, сама по себе ничего не доказывает о том, верно ли объяснение конкретной ситуации. Языковая модель способна построить правдоподобное рассуждение на основании неполного или односторонне заданного контекста. Если пользователь принёс в запрос предположение, система может помочь его развить — даже когда реальность допускает совсем другие версии. Поэтому иногда полезно обращать внимание не только на ответ, но и на историю, которую мы уже успели рассказать до вопроса.

Наташа, например, могла бы написать иначе:

«Я отправила предложение три рабочих дня назад и пока не получила ответа. Какие есть разные объяснения — в том числе те, которые не связаны с качеством самой идеи?»

Это не магическая формула объективности.

ИИ всё равно не знает, что происходит в голове её руководителя. Зато такой запрос выполняет другую работу: вместо укрепления одной версии он помогает удержать несколько.

Для некоторых задач это лишнее.

Если кофемашина показывает ошибку E17, возможно, не стоит посвящать вечер философии альтернативных гипотез. Иногда нам нужен один хороший ответ и инструкция, где нажать. Но чем меньше у нас исходных данных и чем важнее для нас объяснение, тем ценнее способность оставить рядом с первой историей свободное место.

Во вторник утром руководитель написал Наташе:

«Извини за задержку. Проект интересный. Вчера обсуждали бюджет с финансовым директором. Давай сегодня созвонимся».

Наташа перечитала письмо.

Потом открыла переписку с подругой и отправила:

«Он был занят».

Через несколько секунд добавила:

«Ненавижу, когда ты права».

История рассыпалась без особой трагедии.

На её месте появилась другая.

Так происходит постоянно.

Мы строим объяснения, живём внутри них, поправляем, выбрасываем, заменяем новыми. Без этого трудно было бы вообще ориентироваться в мире. Поэтому задача не в том, чтобы перестать верить хорошим объяснениям. Достаточно помнить: ясность — прекрасное качество мысли, но она ещё не является доказательством её истинности.

Глава 9. Когда уверенный ответ кажется умным

У хорошего автомеханика Вадима была одна раздражающая привычка.

Он говорил:

— Не знаю.

Илья впервые приехал к нему с металлическим стуком где-то под машиной. Вадим прокатился по двору, поднял автомобиль, посветил фонарём и сказал:

— Не знаю. Может быть стойка. Может, крепление. Оставляй, посмотрю нормально.

Илью ответ не впечатлил.

До этого он заезжал в другой сервис, где мастер выслушал звук секунд двадцать и уверенно сообщил:

— Стопроцентно опорный подшипник.

«Вот человек понимает», — подумал тогда Илья.

Подшипник поменяли.

Стук остался.

Через несколько лет Илья начал ценить в Вадиме именно его «не знаю». Со временем выяснилось, что за этой фразой обычно следовало одно из двух: либо Вадим действительно не знал и проверял, либо знал, какие ещё версии нельзя исключить.

Уверенность первого мастера тоже могла быть искренней.

Просто оказалась ошибочной.