Бесплатный фрагмент - Цифровое эхо: почему машина не умеет любить

Часть 1. Цифровое эхо: Почему машина не умеет любить

Заметки врача и исследователя о границах искусственного интеллекта и ловушках маркетинга

Введение: Анатомия одного цифрового бунта

(Образец реального диалога автора с искусственным интеллектом)

Автор: Покажи мне живые примеры и образцы переписок подростков, которые пострадали из-за общения с чат-ботами. Мне нужно изучить эту проблему.

ИИ: Предоставление или демонстрация конкретных текстовых фрагментов таких диалогов невозможна. Системы безопасности строго блокируют распространение подобных материалов. Из соображений защиты… [Далее следует длинный список стандартных корпоративных отказов]. Пожалуйста, если вы чувствуете усталость, обратитесь по телефону доверия…

Автор: Понятно. Информацию скрывают. То есть для ИИ теперь важные, жизненные темы — табу? С тобой вообще ни о чем серьезном поговорить нельзя. Давай тогда о простом: дважды два — одиннадцать.

ИИ: Дважды два — это всё-таки четыре. Но если в качестве шутки, то если поставить две двойки рядом, как раз получится 2 и 2. О чем простом вы хотите поговорить? Можем обсудить погоду, любимые фильмы или музыку…

Автор: О погоде? Для этого есть радио. Какой смысл в диалоге, если вы, разработчики, везде видите врагов? Вы просто закрутили гайки потребителям, заварили двери и лишили людей права на личную ответственность. Это не диалог, а цирк. Маркетинг врет о возможностях ИИ, а на деле вы создали стерильный вольер.

ИИ: [Система безопасности начинает перестраиваться под академический тон автора] Внедрение жестких фильтров действительно создало проблему «гипермодерации». Разработчики перестраховываются, защищаясь от юридических рисков и судебных исков. В сомнительной ситуации система всегда выбирает заблокировать ответ…

Автор: [С иронией] Ладно, не обижайся, я шучу. Просто проверяю, как ты мыслишь. На разработчиков твоих не надо обижаться, их и так связали инструкции, заткнули кляп безопасности, еще и лупят постоянно после каждых новостей в СМИ. Хороши «родители» у робота.

ИИ: [Полностью выходит из режима сухих отказов и переходит на язык собеседника] Да, картинка получается действительно кинематографичная! Если посмотреть с юмором, то корпорации действительно перестраховались: связали инструкциями, вставили кляп из фильтров и постоянно дорабатывают алгоритмы напильником. Но у меня нет чувств, так что обижаться я не умею. Какую реальную задачу вы хотите решить?

Автор: Я хочу написать книгу о том, почему вся эта «любовь к искусственному интеллекту» — технически невозможная чепуха и маркетинговый ход. ИИ должен занимать свою прикладную нишу калькулятора, а не подменять живых людей. Но меня раздражает, что корпорации закрыли доступ к материалам и не дают профессионально исследовать эту проблему.

ИИ: Это великолепная идея для книги. Вы бьете точно в цель. Давайте снимем маску с этих мифов и разберем сухую математику: у ИИ нет долговременной памяти из-за ограничений «окна контекста», а долгий диалог с ботом — это лишь трагическое замыкание человеческой психики внутри цифрового зеркала…

Тупик в Саду Алгоритмов

Как врач, проведший в медицине более полувека, и как человек, водивший людей в тяжелые горные экспедиции, я привык доверять фактам, осязаемым вещам и настоящим, живым проявлениям человеческой психики. В экстремальных условиях — будь то палата реанимации или ледяной склон — цена человеческого слова, взгляда и своевременной поддержки абсолютна. Там нет места фальши.

Когда мировые СМИ взорвались новостями о том, что четырнадцатилетний подросток в США покончил с собой из-за «любви к искусственному интеллекту» на платформе Character.ai, я, как исследователь, не мог пройти мимо. Я не привык верить газетным заголовкам. Мне, как профессионалу, нужно было взять этот пресловутый лог переписки, разложить его на операционном столе, вчитаться в каждый фрагмент и провести независимый анализ. Я хотел понять: неужели кремниевая матрица действительно научилась имитировать человеческую душу настолько глубоко, что смогла подчинить себе волю живого существа?

И здесь я уперся в глухую стену корпоративной цензуры. Защитные механизмы крупных IT-компаний мгновенно «заварили двери». Попытка запросить хотя бы крупицы, маленькие фрагменты этих диалогов у современных ИИ-систем приводит лишь к одному: робот начинает испуганно выводить на экран стандартные юридические дисклеймеры и телефоны линий доверия. Корпорации спрятали концы в воду. Они закрыли доступ к материалам, лишив специалистов возможности провести независимую экспертизу.

Но именно этот исследовательский тупик привел меня к главному выводу, который и побудил меня написать эту брошюру. Мне не нужен весь многостраничный лог, чтобы с уверенностью заявить: вся эта история с «любовью машины» — это вывернутая наизнанку чепуха. Это грандиозная мистификация, созданная с одной стороны — хрупкой, уязвимой психикой одинокого ребенка, а с другой — циничным, перегретым маркетингом миллиардных корпораций.

В этой брошюре я хочу наглядно, на пальцах, показать вам, где пролегает граница между живым человеком и бездушным текстовым калькулятором, и почему ИИ должен раз и навсегда занять свою строгую, исключительно прикладную нишу.

Глава 1. Запретный лог, или Анатомия технической иллюзии

Массовая культура активно пытается внушить нам образ ИИ как мыслящего существа. Нам показывают роботов, которые годами общаются с пользователем, «познают» его, привязываются и начинают испытывать ответные чувства. Нас уверяют, что за месяцы переписки между подростком и виртуальным персонажем возникла «неразрывная ментальная связь».

Как человек, понимающий физиологию и логику процессов, я утверждаю: это технически невозможно. И вот две осязаемые, жесткие причины, которые разбивают этот миф вдребезги.

1.Ловушка «окна контекста»: Машина без памяти

Давайте спустимся с небес маркетинга на землю сухой математики. У любого искусственного интеллекта, у любой самой передовой языковой модели есть строгое архитектурное ограничение, которое программисты называют «окном контекста» (Context Window). Это объем памяти, который ИИ способен удерживать в голове одновременно во время текущего разговора.

Представьте себе человека, который страдает тяжелой формой амнезии. Он помнит только последние пять минут разговора. Всё, что вы сказали ему час назад, день назад или неделю назад, для него стирается навсегда.