Бесплатный фрагмент - Не верь голосу

От автора

Когда в трубке плачет сын, мысль о подделке приходит не первой. Сначала нужно понять, где он и как успеть помочь. Знакомый голос уже сделал главное: превратил незнакомый звонок в личное событие, в котором надо действовать.

Именно в такой точке находятся люди в этой книге. Они не решают аккуратно сформулированную задачу «распознать обман». Перед ними всегда конкретная ситуация, требующая ответа здесь и сейчас, и они действуют в пределах того, что успели узнать. Для меня было важно задержаться именно в этом моменте — до того, как расследования, документы и судебные решения объяснят, что произошло.

Поэтому эта книга шире темы синтезированного голоса. В одной истории убедителен звонок, в другой — письмо от начальника, номер на экране, видеовстреча, судебная ссылка, ответ нейросети. Подделать можно не только тембр. Убедительность создают привычные реквизиты: имя, должность, номер дела, банковская процедура, интерфейс, уверенный ответ системы. Мы привыкли доверять не одному человеку. Мы доверяем тому, как обычно выглядит настоящее.

Но возможность подделки меняет и само сомнение. Если голос можно синтезировать, значит ли это, что любую неудобную запись теперь можно объявить ненастоящей?

Я сознательно не превращала эти случаи в уроки о том, как «надо было поступить». Мне было важнее восстановить последовательность событий: что человек знал в тот момент, что узнал позже и когда у него действительно появилась возможность пересмотреть решение.

Фактическую основу книги составляют судебные документы, показания, официальные материалы, научные публикации и журналистские источники. Я не присутствовала при описанных событиях и не проводила собственных интервью с участниками. Поэтому версия стороны остаётся версией стороны; если технология изготовления записи не установлена, я не называю её установленной; если судебный акт отвечает на один вопрос, я не заставляю его отвечать на другой. Присуждённые деньги не равны полученным деньгам. Прекращённое дело не всегда объясняет, что произошло. Экспертное заключение важно вместе с теми ограничениями, с которыми оно было сделано.

Название «Не верь голосу» звучит как простое правило. После работы над этой книгой мне оно кажется слишком простым.

Глава 1. Номер суда

Пока сын не может ответить

Гэри Шилдхорн почти не успел поговорить с сыном.

Человек в трубке плакал и говорил об аварии. Его задержали; нос, возможно, сломан, болит рука. В другой машине была беременная женщина, и она тоже пострадала. Ему уже назначили защитника — адвоката Барри Голдстейна.

Гэри решил сначала позвонить Голдстейну, а потом снова Бретту. В своих позднейших показаниях он воспроизводил последние слова первого разговора:

— Не сможешь. Телефон у меня забрали. Вытащи меня отсюда, пожалуйста.

Это было в феврале 2020 года. Гэри, практикующий адвокат, ехал в свой офис в Филадельфии. Он ответил на незнакомый номер с местным кодом: звонить мог кто-нибудь из клиентов.

В тот момент Гэри был уверен, что говорит с Бреттом. Сын, как он думал, был травмирован, задержан и просил помощи.

Гэри начал искать сведения о назначенном защитнике. Прежде чем он успел что-либо найти, телефон зазвонил снова.

Звонивший представился Барри Голдстейном. Он говорил спокойно — по воспоминаниям Гэри, это вызывало доверие. Сначала сообщил, что видел Бретта и что его повреждения не опасны для жизни. Затем объяснил, почему того задержали: Бретт не прошёл проверку на алкоголь.

Гэри возразил. Сын не стал бы пить перед поездкой. Голдстейн ответил, что утром Бретт выпил энергетический напиток, а прибор мог показать неверный результат.

Сначала Голдстейн назвал высокую сумму залога, затем сообщил, что её можно уменьшить. Он дал Гэри телефон суда округа Монтгомери, где тот мог сам всё уточнить.

Гэри позвонил.

Ответивший подтвердил и задержание, и сумму залога. Гэри предложил выступить поручителем: он адвокат и может оформить необходимое обязательство. Ему объяснили, что он ещё не вступил в дело как защитник Бретта. На замену адвоката уйдёт время, и сыну придётся провести ночь в заключении. Голдстейн уже представляет его и сможет добиться освобождения быстрее.

Гэри пытался проверить услышанное, но звонил по номеру, который ему дал сам Голдстейн. Независимого подтверждения он так и не получил.

После разговора с «судом» Гэри снова связался с Голдстейном. Тот согласился помочь и объяснил, как передать девять тысяч долларов. Он называл места, где стояли специальные терминалы. Лишь позднее Гэри понял, что речь шла о биткоин-киосках.

Теперь нужно было торопиться. По словам Голдстейна, он находился на выездной конференции и через два часа должен был отправиться в аэропорт. До этого времени требовалось успеть с деньгами, чтобы Бретт вышел на свободу в тот же день.

К этому моменту Гэри уже поговорил с человеком, которого принял за сына, выслушал защитника, позвонил в суд и предложил собственную помощь. На его вопросы отвечали, а когда он предлагал другой способ внести залог, ему объясняли, почему это задержит освобождение. Он направился в банк.

В перерыве между звонками Гэри связался с невесткой Ким. Попросил её предупредить работодателя Бретта об аварии и о том, что муж не придёт на работу. Затем позвонил знакомому адвокату в округе Монтгомери. Того рассказ насторожил, и он обещал разобраться.

Ким тем временем позвонила на работу мужа. Там ей дали с ним поговорить.

Вскоре Бретт позвонил отцу по видеосвязи. По воспоминаниям Гэри, сын сказал:

— Тебя обманывают. Видишь, со мной всё в порядке.

Бретт был на работе. Его не задерживали, залог ему не требовался. Теперь Гэри не только слышал сына, но и видел его.

Позднее Шилдхорн вспоминал, что сказал Бретту: «Это был твой голос». Он перечислял чувства, сменившие друг друга после видеозвонка: потрясение, облегчение, гнев. По его словам, первый голос совпадал с голосом сына и привычным ритмом его речи. Из этого свидетельства, однако, нельзя установить, чем объяснялось такое сходство.

Человек, который ещё брал трубку

Гэри не успел перевести деньги. Но человек, называвший себя Голдстейном, ещё отвечал на звонки.

Гэри решил не говорить ему, что связался с настоящим Бреттом. Он хотел удержать собеседника на линии и привлечь правоохранителей. По свидетельству Шилдхорна, обращение в полицию его разочаровало: денег он не потерял, а установить людей, стоявших за звонками, по использованным ими средствам связи было трудно.

Гэри продолжил расспрашивать Голдстейна о работе. Задавал вопросы о профессиональной биографии, сверял ответы со сведениями в юридическом справочнике. Собеседник отвечал достаточно уверенно, и разговор продолжался.

Когда Гэри потребовал назвать номер социального страхования, Голдстейн выругался, обвинил его в том, что он не любит сына, и прекратил общение.

Гэри обратился в редакцию филадельфийской газеты The Philadelphia Inquirer.

Журналистка Элли Рашинг не ограничилась беседой с ним. Примерно через неделю после происшествия она сама позвонила человеку, представлявшемуся Барри. Номер всё ещё работал.

Теперь собеседник предлагал другое объяснение: задержанный якобы сам назвался именем Бретта. Он утверждал, что работает государственным защитником в нескольких штатах, но назвать работодателя не смог.

— Если поищете меня, я лучший адвокат страны, — сказал он журналистке.

Через два дня номер отключили.

Репортаж сохранил не только версию Шилдхорна. В нём был и разговор журналистки с человеком, который всё ещё выдавал себя за защитника. Но происхождение первого голоса по-прежнему оставалось неизвестным.

В беседе с Рашинг Гэри допускал, что плач мог скрыть различия между голосом настоящего Бретта и голосом звонившего. Три года спустя, в ноябре 2023-го, выступая перед сенатским комитетом по проблемам пожилых людей, он уже объяснял случившееся клонированием голоса с помощью искусственного интеллекта.

Это было объяснение самого Шилдхорна. Технического заключения, которое подтверждало бы применение такой технологии, к его свидетельству не приложено. Его поздняя уверенность не отменяет сомнения, высказанного вскоре после звонка.

После выхода статьи Гэри начали звонить люди, которым повезло меньше. Они рассказывали о похожих звонках: близкий человек попал в беду, ему назначили защитника, нужно срочно внести деньги. Эти люди уже заплатили и теперь хотели узнать у настоящего адвоката, можно ли вернуть средства.

В сенатском свидетельстве Шилдхорн рассказывал об их стыде, гневе и растерянности. Многие не хотели говорить о случившемся публично. Самому Гэри удалось избежать потери денег, но помочь вернуть их тем, кто обращался к нему после публикации, он не мог.

Пять дней

За полтора года до звонка Шилдхорну Эльфриде Флавин позвонил человек, которого она приняла за внука.

В письменном свидетельстве семьи сохранился короткий разговор:

— Бабушка, ты занята? Можно поговорить?

— Для тебя я никогда не занята.

Он рассказал, что поехал с другом в Теннесси: у того умер отец. Они выпили пива и попали в аварию. Теперь он задержан, и ему нужны десять тысяч долларов.

Эльфрида предложила позвонить его родителям. Собеседник отказался. Он обещал всё объяснить сам, когда вернётся, а пока попросил никому не рассказывать о случившемся. Затем дал номер человека, который должен был помочь.

Когда Томас вернулся после работы в местном отделении Американского легиона, жена рассказала ему о звонке. Первого разговора он не слышал. В своём письменном свидетельстве Томас отдельно пояснил: Эльфрида действительно считала, что говорила с внуком, а у него не было причин ей не верить.

Самого голоса Томасу слышать не понадобилось. О беде ему сообщила жена.

Позднее человек, изображавший защитника, заявил, что суд запретил разглашать сведения о деле. Просьбу внука сохранить всё в тайне теперь подкрепляли якобы существующим судебным запретом. Родителям по-прежнему не звонили.

Флавины стали отправлять деньги.

Однажды им сообщили, что в полученной сумме недостаёт пяти тысяч долларов. Томас возразил: он точно помнил, сколько денег положил в отправление. Собеседник ответил, что лишь уточняет, и сказал, что потерю покроет страховка.

Томас не согласился с тем, что денег было меньше, чем он отправил. Но спор касался только этой суммы. В самом рассказе о задержанном внуке супруги ещё не сомневались.

За пять дней Флавины передали 80 544 доллара.

Томас двадцать пять лет работал гражданским служащим в системе армейского резерва и откладывал деньги в федеральную пенсионную программу; к его взносам добавлялись государственные. По свидетельству их дочери Эрики, после мошенничества была потеряна большая часть этого накопленного резерва.

Последняя просьба уже не касалась освобождения внука. По семейному свидетельству, мнимый адвокат рассказал о собственных неприятностях. Он будто бы успешно защитил их родственника, а теперь сам нуждался в помощи: требовались деньги, чтобы сохранить лицензию и карьеру.

Томас отказал.

Он объяснил, что соглашался оплатить залог и ущерб, причинённый автомобилю. Других обязательств перед этим человеком он на себя не брал. Если внуку и дальше нужен адвокат, обсуждать это следует с его родителями.

После этого супруги всё-таки позвонили дочери, несмотря на мнимый судебный запрет. Они сообщили, что её сын сидит в тюрьме в Теннесси и ему срочно нужен защитник.

Настоящий внук в это время учился в колледже в Буффало.

Обман раскрылся после разговора с дочерью — той самой, которой супруги несколько дней не звонили по просьбе мнимого внука и указанию его «адвоката».

Дом у озера

В январе 2019 года дочь Флавинов Эрика выступила перед сенатским комитетом.

Она уже предупреждала родителей о подобных звонках. После случившегося Эрика присутствовала при их беседе с местным детективом и слушала, как они объясняют, почему отправляли деньги. Позднее она вспоминала, что ей хотелось крикнуть: «Нет, так не бывает». Но родители рассказывали о решениях, которые уже приняли, и о деньгах, которые уже отдали.

К своему выступлению Эрика приложила письменное свидетельство родителей. Ошибки и опечатки отца она оставила без исправлений. Томас любил сочинять фантастические истории о космических путешествиях, и дочь считала его хорошим рассказчиком. По её оценке, то, как был написан этот текст, показывало, насколько сильно случившееся его потрясло.

В своём рассказе Томас снова и снова возвращался к потерянной сумме. Писал, как обычный разговор или случайное напоминание заставляли его вновь переживать случившееся. Перечислял то, что осталось в его жизни: ипотека, две старые машины, кошки, семья.

Семье пришлось задуматься о продаже участка с домом у озера.

Подростком Томас помогал отцу строить этот дом. За прошедшие годы там побывали четыре поколения семьи. Место, связанное с его детством и жизнью детей и внуков, теперь, возможно, нужно было продать.

Именно о такой необходимости они говорили в январе 2019 года. Подтверждения, что дом впоследствии продали, в доступных материалах нет.

Через два года Томас вновь рассказал о мошенничестве — на этот раз корреспонденту местного телеканала.

В феврале 2021 года ему пришло сообщение о покупке в Amazon примерно на 1 700 долларов. Он ничего такого не покупал и позвонил по указанному в сообщении номеру поддержки.

Ответивший заявил, что компьютер Томаса взломан. Под видом помощи он установил программу и получил доступ к данным. Затем начались операции, затронувшие в том числе счёт Эльфриды.

Томас сам напомнил корреспонденту о прежнем обмане, когда ему сообщили, будто внук задержан в Теннесси. Он не скрывал, что уже терял деньги из-за мошенников.

По словам Томаса, банк остановил большинство операций, но ему пришлось заново оформлять банковские счета. Отдельных выписок или других независимых подтверждений в репортаже нет, поэтому точный размер ущерба по этому эпизоду установить нельзя.

Разговаривая с корреспондентом, Томас сказал: «Чувствовать себя дураком в таком возрасте — нелегко».

Глава 2. Перевод приостановлен

Поручение на утро

8 июля 2015 года в 9:10 Лоанн Лиен получила письмо, которое выглядело отправленным Джошем Назарианом, одним из управляющих директоров Principle Solutions Group.

В письме говорилось о важном приобретении. Сделку просили держать в тайне, а деньги отправить в тот же день. Подробности должен был передать адвокат Марк Лич. По этому вопросу Лиен велели работать только с ним.

В судебном решении сохранилась и формулировка из письма:

«Мне нужно, чтобы вы как можно скорее провели первый перевод. Даю вам на это полное разрешение».

Лиен занималась финансами компании. Именно такие платежи входили в её работу. Письмо пришло будто бы от руководителя и сразу объясняло, почему об операции пока нельзя говорить с другими сотрудниками. Она ответила, что займётся вопросом.

Через пять минут написал Лич. Он представился партнёром лондонской юридической фирмы Bird & Bird, сослался на просьбу Назариана и спросил, может ли компания провести международный перевод в другой валюте.

Лиен стала выяснять, возможна ли такая операция. Пока всё, что подтверждало полномочия Лича, находилось внутри той же переписки: письмо от имени Назариана называло его адвокатом, а сам Лич ссылался на Назариана. Независимого подтверждения не было.

Настоящего Назариана в офисе не было.

Лич прислал реквизиты банка в Китае. В 10:15 он позвонил, напомнил, что платёж необходимо провести сегодня, и заверил Лиен, что руководитель всё одобрил.

Лиен вошла в банковский кабинет, проверила возможность международного перевода и сообщила Личу, что компания может его выполнить.

В Principle подготовкой и одобрением платежа занимались разные люди. Другая сотрудница, Андреа, подготовила перевод на 1 миллион 717 тысяч долларов. Лиен его одобрила.

Менее чем через пятнадцать минут Wells Fargo остановил операцию.

Настоящий банк

На этот раз письмо пришло от настоящего специалиста по предотвращению мошенничества. Брайан Чу сообщил Лиен, что перевод приостановлен до проверки, указал номер дела и телефон банковского подразделения. Он также обещал сам с ней связаться.

Под подписью было предупреждение о росте мошенничества с подменой личности. Одна рекомендация выделялась особенно ясно: «Проверьте инициатора запроса». В приложенной памятке описывался человек, который выдаёт себя за руководителя компании и требует крупный перевод вне обычного порядка. Для таких платежей банк советовал позвонить тому, от чьего имени поступило распоряжение.

Позднее именно это предупреждение станет одним из центральных эпизодов судебного спора. Но утром 8 июля важнее было другое: деньги ещё не ушли.

Лиен позвонила по указанному номеру и поговорила с сотрудником по имени Дэниел. По её показаниям, он попросил выяснить у Марка Лича, откуда тот получил платёжные инструкции.

Пока она говорила с Дэниелом, Чу оставил голосовое сообщение и отправил ещё одно письмо. Запись Лиен тогда не прослушала.

Закончив разговор с банком, она попросила Лича перезвонить. Он позвонил сразу. На вопрос о происхождении инструкций ответил, что Джош передал их устно, по телефону.

Лиен передала этот ответ банку. Ограничение сняли, и в 11:21 деньги ушли.

С первого письма прошло два часа одиннадцать минут. С самим Назарианом Лиен так и не связалась.

На следующий день она сказала Назариану, что выполнила его распоряжение. Он ничего не знал ни о платеже, ни о письмах, ни о Марке Личе.

Назариан немедленно обратился в банковскую службу борьбы с мошенничеством. Вернуть деньги не удалось.

После потери

У Principle был страховой полис Ironshore Indemnity. Компания заявила об убытке и представила необходимые документы. 24 июля страховщик отказал в возмещении.

Сам факт мошенничества не был главным предметом спора. Спорили о другом: обещал ли страховой полис покрыть именно такую потерю.

Полис распространялся на убыток, непосредственно возникший из мошеннического распоряжения о переводе средств. Principle считала, что это точное описание случившегося. Ironshore возражала: между ложным письмом и уходом денег произошло слишком много самостоятельных действий.

Лиен выясняла условия перевода. Лич прислал реквизиты. Андреа подготовила платёж, Лиен его одобрила. Затем банк остановил операцию. После этого Лиен снова связалась с Личем и передала его ответ в Wells Fargo, где разрешили отправить деньги.

По мнению страховщика, после всех этих промежуточных действий потерю уже нельзя было считать непосредственным результатом исходного письма.

Компания обратилась в суд. Теперь утро 8 июля пришлось разбирать шаг за шагом: от последовательности событий зависело, должен ли страховщик возместить потерю.

30 августа 2016 года судья Ричард Стори вынес решение в пользу Principle по вопросу страхового покрытия. Он счёл формулировку договора неоднозначной. Её можно было прочесть так, как предлагала Ironshore, но можно было и иначе: обычные действия сотрудников, исполняющих ложное распоряжение, не обязательно исключали покрытие. Неоднозначность истолковали в пользу страхователя.

Стори обратил внимание и на практическую сторону спора. Компания не может перевести деньги без участия своих сотрудников. Если уже само выполнение необходимых действий разрывает связь между обманом и потерей, страховое покрытие трудно применить именно к тем случаям, ради которых оно существует.

При этом суд не признал отказ страховщика недобросовестным. У Ironshore были основания добиваться судебного толкования договора.

Страховщик подал апелляцию.

Одиннадцать шагов

9 декабря 2019 года апелляционный суд оставил решение в пользу Principle в силе. Судьи, однако, не были единодушны. Большинство пришло к тому же результату, что и первая инстанция, но обосновало его иначе.

Уильям Прайор, автор мнения большинства, счёл условия полиса ясными: они покрывали эту потерю.

Сначала суд рассмотрел переписку. Ironshore предлагала оценивать письма по отдельности. Сообщение от имени Назариана выглядело как распоряжение сотрудника компании, но не содержало всех сведений для перевода. Письмо Лича содержало реквизиты, однако пришло будто бы от внешнего юриста. При таком прочтении ни одно сообщение само по себе не отвечало всем условиям договора.

Большинство судей не согласилось разделять переписку таким образом. В первом письме от имени Назариана Лиен поручали работать с Личем. Поэтому она и вступила с ним в контакт. Во втором письме Лич передавал подробности, которые, согласно первому, и должен был сообщить. Суд рассматривал эти сообщения вместе, как одно поручение.

Сложнее было оценить вмешательство Wells Fargo. Банк распознал риск, остановил платёж и предупредил Лиен о схеме, похожей на то, что происходило с ней в тот момент.

Большинство сочло банковскую проверку предсказуемым продолжением той же цепочки событий. С самого начала Лиен велели общаться по сделке только с Личем. Когда банк запросил подтверждение, она вновь обратилась к нему, и его ответ позволил завершить перевод. По мнению большинства, это не разорвало юридически значимую связь между исходным обманом и потерей денег.

Судья Джеральд Тьофлат не согласился с большинством и подробно объяснил свою позицию. Особое внимание он уделил предупреждениям Wells Fargo: выделенной рекомендации в письме и приложенной памятке. Банк прямо предупреждал о мошенниках, выдающих себя за руководителей, и советовал связаться с настоящим инициатором необычного платежа.

Тьофлат разделил события на одиннадцать последовательных шагов. Первоначальное распоряжение привело к подготовке перевода, однако деньги были отправлены лишь после того, как банк приостановил платёж, а затем разрешил его. К этому моменту Лиен получила новые сведения и возможность изменить решение.

Судья перечислил возможные действия: позвонить Назариану, обратиться к другим руководителям, связаться с юридической фирмой по другому номеру. Но его вывод не сводился к обвинению Лиен в неосторожности. Тьофлат считал, что вопрос о том, прервалась ли причинная связь, должны решить присяжные.

Доводы Тьофлата не изменили решения большинства. Вывод о страховом покрытии остался в силе.

В одном судьи были согласны: вмешательство банка действительно произошло и перевод на некоторое время был остановлен. Разошлись они в другом — меняло ли это юридическую связь между первым ложным письмом и последующей потерей.

Судебные документы подтверждают право Principle на страховое покрытие. Сведений о том, что возмещение было фактически выплачено, в использованных материалах нет.

Записанная встреча

Почти через девять лет после этой истории сотрудник другой компании получил письмо от человека, представлявшегося финансовым директором британского головного офиса. Речь снова шла о конфиденциальных операциях. Подтвердить поручение должна была видеоконференция.

В конце января 2024 года компания сообщила о мошенничестве полиции Гонконга. К тому времени сотрудник разрешил перечислить около двухсот миллионов гонконгских долларов на пять местных счетов.

Видеоконференция выглядела как дополнительное подтверждение поручения. Но официальный ответ властей Гонконга Законодательному совету уточнял важную деталь: это был не живой разговор с человеком, который мог отвечать на вопросы, а заранее подготовленная запись.

Живого взаимодействия с изображённым человеком не происходило. После передачи указаний встречу завершили под предлогом, а сведения о переводах продолжали присылать через мессенджер. По версии полиции, для подготовки записи использовали общедоступные видео и записи голоса руководителя.

Позднее Arup подтвердила, что пострадавшей компанией была она. В интервью, опубликованном в феврале 2025 года, директор по информационным технологиям Роб Грейг рассказал, что делала компания после обнаружения потери.

Сначала проверяли, затронуты ли корпоративные системы, сведения о клиентах и данные сотрудников. По словам Грейга, системы компании не были скомпрометированы. Сотрудников убедили выполнить операции, которые те считали настоящими.

После обнаружения обмана Arup пришлось разбираться не только с технической безопасностью. Нужно было понять, как сотрудника, имевшего законные полномочия проводить переводы, убедили воспользоваться ими для чужого поручения.

В Principle и Arup деньги отправляли настоящие сотрудники, пользуясь своими рабочими средствами. Лиен опиралась на письмо от имени руководителя и последующее общение с мнимым адвокатом. Сотрудник Arup, помимо письменных сообщений, увидел запись с изображением финансового директора. В обоих случаях подтверждение не было получено непосредственно от настоящего руководителя.

Образец и новая фраза

Как именно мошенники подготовили изображение и голос для этой видеозаписи, из опубликованных материалов установить нельзя.

В январе 2023 года исследователи Microsoft опубликовали работу о модели VALL-E. Она описывала один из способов создавать речь, похожую на голос человека, по короткому образцу.

Для обучения модели использовали около шестидесяти тысяч часов англоязычной речи. Короткий образец не учил систему говорить с нуля: он задавал, каким голосом уже обученная модель должна произнести новый текст.

На вход подавали текст будущей фразы, образец голоса и его расшифровку. Система строила последовательность числовых кодов, из которых затем получался звук.

Нужную фразу не требовалось искать в старой записи. Модель могла произнести голосом человека предложение, которого он никогда не говорил.

Авторы демонстрировали работу с трёхсекундным образцом, но одновременно описывали ограничения: повторы, пропуски, ошибки произношения, разное качество для разных акцентов. Результат исследования не означал безошибочного воспроизведения любого голоса в любых условиях.