Бесплатный фрагмент - ИИ без паники

Введение. Почему эта книга не про будущее

В ней не будет слова «революция» через абзац и рассказов о том, как роботы вот-вот заберут вашу работу. Таких текстов и без нас достаточно. Мне интересно другое: что конкретно вы можете сделать сегодня вечером, сидя за кухонным столом, чтобы завтрашний рабочий день стал короче хотя бы на час.

За последние два года я разговаривал об этом с десятками людей. С бухгалтером, который вручную сводит таблицы. С учительницей, которая пишет по сорок характеристик в год. С мастером, который чинит технику и ведёт переписку с клиентами по вечерам. Почти все они пробовали нейросети. И почти все бросили: попробовали один раз, получили что-то водянистое и невнятное, решили, что «это не для меня», и закрыли вкладку.

Проблема была не в инструменте. Проблема была в том, как они с ним разговаривали.

Нейросеть — это не поисковик, которому можно крикнуть вопрос в пустоту. Это скорее очень начитанный стажёр, который пришёл к вам в первый день, ничего не знает о вашей работе и ждёт подробного задания. Дайте ему две строчки — получите две строчки воды. Дайте контекст, примеры и критерии — получите черновик, который не стыдно показать.

Этому навыку и посвящена книга. Не программированию, не математике и не спорам о том, когда появится «настоящий» интеллект. Только практика: как поставить задачу, как проверить ответ и как встроить это в свою рутину так, чтобы оно работало каждый день, а не один раз из любопытства.

Кому эта книга не подойдёт. Тем, кто ищет волшебную кнопку. Её нет. И тем, кто хочет технических деталей: архитектур нейросетей, функций активации и тонкостей обучения здесь не будет. Для этого есть другие книги, написанные людьми умнее меня.

Как читать. Можно подряд, от начала до конца: так вы получите систему. А можно сразу открыть четвёртую главу, сделать первый запрос и вернуться к теории потом. Оба пути рабочие.

В тексте вам встретятся три вещи, на которые стоит обратить внимание. Первая — врезки «Попробуйте сейчас»: маленькие задания на пять минут, которые превращают чтение в навык. Вторая — примеры запросов, они набраны курсивом с отступом, их можно копировать и подставлять своё. Третья — короткие итоги в конце каждой главы, если захочется освежить в памяти главное.

И ещё одно, самое важное. Искусственный интеллект ошибается. Не иногда, а регулярно, причём делает это с абсолютно спокойным лицом. Он может выдумать ссылку, номер закона, дату и имя человека, которого никогда не существовало. Поэтому половина книги — про проверку. Не потому что я вам не доверяю, а потому что инструмент такой: он силён в форме и слаб в фактах.

К концу книги вы будете уметь три вещи. Ставить задачу так, чтобы получать результат с первого-второго раза. Проверять этот результат быстрее, чем делать всё самому. И понимать, какие ваши задачи вообще не стоит отдавать машине.

Это немного. Но именно этого хватает, чтобы перестать бояться и начать пользоваться.

Часть I. Понять, с чем дело

Глава 1. Один вечер, который сэкономил мне неделю

У моего приятеля Дмитрия небольшая мастерская: он ремонтирует бытовую технику. Работает сам, без секретаря и маркетолога. Клиенты приходят по сарафанному радио и из объявления на местном сайте, где три года висит один и тот же текст в две строки: «Ремонт стиральных машин, холодильников. Недорого. Звоните».

Дмитрий давно собирался сделать нормальный сайт. Даже купил домен. Но чтобы сайт появился, нужны тексты: описание услуг, ответы на частые вопросы, цены, история про то, почему ему можно доверять. Дмитрий садился за это три вечера подряд, писал по два абзаца, перечитывал, морщился и закрывал ноутбук. «Не умею я писать», — говорил он.

В четвёртый вечер мы сели за это вместе. Не писать за него, а разговаривать с нейросетью.

Первый запрос выглядел так, как выглядит у большинства людей:

Напиши текст для сайта про ремонт бытовой техники.

Ответ пришёл через десять секунд. Гладкий, правильный и абсолютно бесполезный: «Мы предлагаем качественный ремонт бытовой техники по доступным ценам. Наши специалисты имеют многолетний опыт…» Дмитрий прочитал и сказал то, что говорят почти все: «Ну вот, я же говорил, это вода».

И был прав. Только вода была не потому, что нейросеть плохая. Она ничего не знала о Дмитрии. Не знала, что он чинит технику двадцать лет, что живёт в Саратове, что выезжает на дом в течение двух часов, что не берёт денег за диагностику, если клиент отказывается от ремонта, что запчасти заказывает у двух конкретных поставщиков и поэтому ждать их не две недели, а три дня. Всё это было у нас в голове и нигде больше.

Второй запрос мы собирали минут двадцать. Вот что получилось:

Ты — владелец небольшой мастерской по ремонту бытовой техники в Саратове. Тебе нужно описание услуги «ремонт стиральных машин» для сайта. Что важно сказать: работаю сам, опыт 20 лет; выезжаю на дом в течение двух часов после звонка; диагностика бесплатная, если клиент отказывается от ремонта; запчасти привозят за три дня; даю гарантию полгода на работу. Аудитория: женщины 30 — 55 лет, у которых сломалась машина и которые боятся, что их обманут и навяжут лишнее. Напиши 5 абзацев по 2 — 3 предложения. Без слов «качественно», «недорого», «наши специалисты». Пиши простым языком, как будто объясняешь соседке.

Разница была не в том, что второй запрос «правильнее». Разница в том, что во втором запросе была жизнь: город, опыт, сроки, страх клиента и запрет на пустые слова. Нейросеть не стала умнее. Просто у неё появился материал.

Дальше пошла работа, которая мне нравится больше всего. Мы читали абзацы и спорили с ними. «Вот здесь слишком официально, перепиши, как будто говоришь по телефону». «Убери гарантию из первого абзаца, она отпугивает, перенеси в конец». «Добавь, что я работаю с 2004 года». Каждая правка занимала минуту, и текст постепенно становился Дмитриевым, а не «средним текстом про ремонт из интернета».

К двум часам ночи у нас было двенадцать готовых кусков: описание четырёх услуг, семь ответов на частые вопросы и шаблон письма для клиента, который пропал после диагностики. Дмитрий писал такое неделю и не дописал бы никогда.

И вот здесь важная вещь, которую легко проглядеть за красивой историей про экономию времени. Нейросеть не написала текст за Дмитрия. Она не знала ни его города, ни его сроков, ни того, что клиенты боятся навязывания. Всё это принёс он сам. Машина сделала то, что человек делает медленно и неохотно: собрала черновик, переписала фразу пятью способами, убрала повтор, сократила абзац вдвое. Рутину — да. Решение — нет.

Ещё один момент. Посреди работы нейросеть добавила в список услуг «ремонт кофемашин». Дмитрий кофемашины не чинит. Он это заметил, потому что читал текст. Если бы он просто скопировал ответ на сайт, через месяц к нему пришли бы три клиента с кофемашинами и одним недовольным лицом.

Это не страшная история про восстание машин. Это обычная история про стажёра, который старался и немного приврал. И про то, что проверять за стажёром всё равно придётся вам.

Попробуйте сейчас. Возьмите любую свою задачу, на которую обычно уходит больше двадцати минут: письмо, инструкцию, объявление, ответ клиенту. Сделайте три вещи.

— Напишите запрос из одной строки и посмотрите на результат. Скорее всего, он вас не впечатлит. Это нормально, это точка отсчёта.

— Добавьте в запрос пять фактов о себе и своей ситуации: кто вы, для кого пишете, что важно, чего нельзя, какой объём нужен.

— Попросите переписать результат «проще и короче на треть». Сравните с первым вариантом.

Разница между первым и третьим результатом — это и есть навык, которому посвящена книга.

Главное из главы.

— Нейросеть не угадывает контекст. Если вы не рассказали о своей ситуации, её там нет.

— Один короткий запрос почти всегда даёт «воду». Подробный запрос с фактами даёт черновик.

— Черновик — это 70 процентов работы, но последние 30 делаете вы: читаете, правите, отвечаете за результат.

— Машина охотно добавляет то, чего не было. Проверять факты обязательно.

Глава 2. Что внутри нейросети, если без формул

Представьте человека, который всю жизнь просидел в библиотеке. Он прочитал миллионы книг, статей, форумов, инструкций и чужих писем. Он помнит, как звучит речь врача, юриста, продавца и поэта. Он может поддержать разговор на любую тему и объяснить сложное простыми словами.

Но он никогда не выходил на улицу.

Он не знает, какая сегодня погода, сколько стоит хлеб в вашем городе и что вчера сказал ваш начальник. Он не может проверить то, что говорит. Если вы спросите его о чём-то, чего он не читал, он не признается: он просто сложит знакомые слова в правдоподобном порядке. И будет звучать так же уверенно, как когда говорит правду.

Это очень точная модель того, что происходит внутри языковой нейросети. Не идеальная, но для наших задач достаточно точная.

Она не хранит текст, она хранит вероятности

Когда вы отправляете запрос, модель не открывает энциклопедию и не ищет там ответ. Она делает одну простую вещь: предсказывает, какое слово логичнее всего поставить следующим. Потом ещё одно. Потом ещё. Ответ собирается по кусочкам, как поезд из вагонов.

Кусочки эти называются токенами. Это не совсем слова: длинное слово может делиться на части, а короткое — быть целым токеном. Модель не видит буквы так, как видите их вы. Она работает с частями слов и с вероятностями их сочетаний.

Отсюда первое следствие, которое объясняет почти всё: беглость не равна правде. Текст может быть идеально построен, стилистически безупречен и при этом полностью выдуман. Гладкость речи — не признак достоверности, а признак того, что модель хорошо усвоила, как пишут люди.

Почему формулировка так сильно влияет на результат

Если модель предсказывает продолжение, то начало имеет значение. Фраза «напиши текст» запускает один набор вероятностей, фраза «ты редактор делового журнала, напиши текст» — совсем другой. Вы буквально задаёте коридор, по которому пойдёт ответ.

Это не магия и не «умение разговаривать с машиной». Это всё та же статистика: чем точнее задан контекст, тем меньше вариантов, которые модель считает подходящими.

И отсюда же ответ на частый вопрос: почему на один и тот же запрос приходят разные ответы. Модель не выбирает единственно верное слово, она выбирает из списка вероятных. Если попросить её ещё раз, она может пойти другим путём. Это не поломка, это устройство. Иногда достаточно нажать «сгенерировать снова», чтобы получить вариант лучше.

У неё нет памяти о вас

Ещё одно следствие, о котором забывают. Модель не помнит ваш прошлый разговор, если вы не продолжили именно этот диалог. Каждый новый чат начинается с чистого листа: она не знает, что вы бухгалтер, что у вас трое детей и что в прошлый раз вы просили писать без канцелярита.

Внутри одного диалога память есть, но и она ограничена. У разных моделей разный объём контекста, но в среднем это несколько десятков страниц текста. Всё, что не поместилось, для модели перестаёт существовать. Поэтому в долгой работе полезно напоминать главное: «как мы договорились, пишем коротко и без вводных фраз».

Попробуйте сейчас. Откройте любой чат с нейросетью и сделайте три вещи.

— Задайте один и тот же вопрос три раза в новых чатах. Сравните ответы. Обратите внимание, что меняется: факты, структура, тон.

— Попросите: «Объясни, на чём основан твой ответ и в чём ты можешь ошибаться». Посмотрите, как она сама называет слабые места.

— Спросите что-нибудь о своей профессии, в чём вы разбираетесь лучше всего. Проверьте, где она упростит, а где придумает.

Третье упражнение отрезвляет лучше любых предупреждений.

Главное из главы.

— Нейросеть не ищет истину, она продолжает текст. Правдоподобное и верное — разные вещи.

— Формулировка запроса задаёт коридор ответа. Меняется формулировка — меняется результат.

— Один и тот же вопрос может дать разные ответы. Просить ещё вариант — нормальный приём.

— Память ограничена рамками диалога. Важный контекст лучше повторять.

Глава 3. Почему ИИ уверенно врёт

В 2023 году американский адвокат готовил документы для суда. Он попросил нейросеть найти судебные решения, которые подтверждали бы его позицию. Нейросеть выдала шесть штук: с номерами дел, названиями судов, датами и цитатами. Адвокат перенёс их в официальный документ и отправил в суд.

Проблема была в одном: ни одного из этих шести решений не существовало. Все они были придуманы. Судья потребовал показать первоисточники, адвокат не смог, и в итоге его оштрафовали. История облетела мировые новости, но главное в ней не конфуз. Главное — механизм.

Нейросеть не искала решения в базе суда. Она сгенерировала текст, который выглядит как список судебных решений: правильные номера, правильные формулировки, правильные даты. С точки зрения формы — идеально. С точки зрения фактов — пустота.

Это и называется галлюцинацией. Не потому, что машина сошла с ума, а потому, что она делает ровно то, чему её учили: продолжает текст наиболее вероятным способом. Если в обучающих данных миллион юридических документов, она знает, как они выглядят. Но она не знает, существует ли конкретное дело номер такой-то.

Где она врёт чаще всего

За два года работы я собрал список мест, где ошибка почти гарантирована. Проверяйте их в первую очередь.

— Ссылки и источники. Номера статей, названия книг, адреса страниц, имена авторов. Особенно опасно, когда источник выглядит очень конкретно.

— Числа. Проценты, суммы, сроки, статистика. Модель может сложить два числа и получить третье, а может «вспомнить» цифру, которой не было.

— Цитаты. Прямая речь, приписанная реальному человеку. Очень часто это пересказ, который выдают за точную фразу.

— Имена и должности. Кто кем работает, кто что основал, кто с кем встречался.

— Законы и правила. Нормы меняются, а модель помнит то, что было в её обучающих данных. Плюс она не знает местных особенностей, если вы их не указали.

— Всё, что случилось после её обучения. У модели есть дата отсечки: события после неё она может не знать, но всё равно ответит.

Три уровня риска

Не каждый ответ нужно проверять с лупой, иначе вы потратите больше времени, чем сэкономили. Полезно заранее решить, к какому уровню относится задача.

Низкий риск. Идеи, планы, варианты формулировок, структура текста, черновик письма. Если ошибка стоит вам пяти минут, проверять нечего. Прочитали, поправили, пошли дальше.

Средний риск. Текст, который увидят другие: письмо клиенту, коммерческое предложение, инструкция, пост. Здесь проверяем факты, цифры и имена. Стиль можно оставить как есть, если он вам нравится.

Высокий риск. Здоровье, деньги, право, безопасность, чужие персональные данные. Здесь ответ нейросети — не источник, а черновик вопросов, с которыми вы идёте к врачу, юристу или специалисту. Не наоборот.

Как проверять быстрее

Есть несколько приёмов, которые экономят время.

Первый — попросить модель самой назвать слабые места: «Отметь, что в этом тексте я должен проверить самостоятельно, и почему». Она не всегда честна, но часто выдаёт полезный список.

Второй — запретить выдумывать: «Если ты не знаешь точный номер или дату, напиши „нужно проверить“, не придумывай». Работает не идеально, но снижает количество красивых фальшивок.