Коротко (TL;DR)
- Главная новая схема — не взлом модели, а подмена источников. Мошенники заливают в интернет тысячи страниц с фальшивыми номерами поддержки, а ChatGPT, Gemini и Google AI Overview пересказывают их как официальные. Исследование Vigilance Security «Dark Sourcery» от 22 сентября 2026 года нашло такие атаки на 374 компании.
- Мошенничество с ИИ шире одного трюка: поддельные приложения ChatGPT (49% из более чем 92 000 атак за январь — начало мая 2026 года, по данным Kaspersky), ловушки на настоящем домене chatgpt.com, письма «оплата подписки не прошла», фейковые «ИИ-помощники» для продажи крипты.
- Пять вещей из ответа ИИ нельзя использовать без проверки: номер телефона, ссылку для входа, файл для установки, команду для терминала и реквизиты для оплаты. Проверка — только по каналу, который вы получили не из чата.
- ИИ полезен как детектор, но опасен как справочник. Вставить подозрительное письмо и спросить «это похоже на скам?» — разумно. Искать через чат-бот телефон банка — нет.
- Если уже позвонили или ввели карту: первый звонок — в банк по номеру с обратной стороны карты, затем смена пароля и выход из всех сессий.
Ниже — как мошенники используют ИИ на практике, чем эти схемы отличаются друг от друга и что конкретно проверять перед звонком, оплатой или установкой.
- Коротко (TL;DR)
- Отравление ответов ChatGPT: как мошенники подменяют номера поддержки
- Галлюцинация, отравление выдачи и prompt injection: в чём разница
- Фейковые ссылки и магазины в ответах ChatGPT: Netcraft и Ask Silver
- Поддельные приложения ChatGPT и ловушки на настоящем chatgpt.com
- Фишинг под оплату ChatGPT и угон аккаунта: как выглядят письма
- Как мошенники пишут с помощью ChatGPT: выводы отчётов OpenAI и ФБР
- Фейковые ИИ-помощники и «ИИ-трейдинг-боты» в крипте
- Как проверить ответ ИИ-чата перед звонком, оплатой или установкой
- Если уже позвонили по номеру из ИИ-чата: что делать за первый час
- Слабые места защиты от отравления ответов ИИ: где она не срабатывает
- FAQ
Отравление ответов ChatGPT: как мошенники подменяют номера поддержки
Человек спрашивает у чат-бота номер службы поддержки авиакомпании или банка — и получает номер колл-центра мошенников, оформленный как официальный. Это не теоретическая уязвимость: такие атаки идут прямо сейчас и автоматизированы.
Самый масштабный из публичных разборов на сегодня опубликовала компания Vigilance Security. Её исследователь Ариэль Саймон описал кампанию под названием Dark Sourcery 22 сентября 2026 года, на следующий день её пересказал Dark Reading. Команда построила систему, которая задаёт ChatGPT, Gemini и Google AI Overview бытовые вопросы о крупных компаниях (Fortune 100, банки, авиакомпании, софт) и проверяет, на какие источники опирается ответ. Если в ответе всплывал ложный номер, адрес почты или страница входа, система фиксировала инцидент.
Итог — 374 компании, у которых исследователи нашли такой отравленный контент: Delta, Lufthansa, Qatar Airways, Chase, Bank of America, Airbnb, TripAdvisor и другие. Масштаб — десятки тысяч вредоносных страниц.
Три оговорки, без которых эти цифры легко прочитать неправильно:
- 374 — это находка исследователей, а не число пострадавших. Речь о компаниях, под которых найден ядовитый контент, а не о людях, потерявших деньги. Полный датасет Vigilance не опубликовала.
- Атака срабатывает не каждый раз. Сами авторы пишут, что большинство инцидентов «статистические»: один и тот же вопрос то возвращает фальшивый номер, то нет. Чем лучше сделан ядовитый пост, тем выше шанс.
- Это заявления одной стороны. Независимой перепроверки всех 374 случаев пока нет.
Где лежит отравленный контент
Мошенники не взламывают ChatGPT. Они размещают текст там, где модель его найдёт при поиске в вебе, — на площадках, которые разрешают публиковать что угодно.Площадка Примеры из исследований Почему модель ей верит Посты в соцсетях и на форумах Instagram, Tumblr, LeetCode, описания видео на YouTube и Vimeo, Medium Крупный узнаваемый домен Загруженные файлы PDF на сайтах госорганов и университетов Домены .gov и .edu выглядят авторитетно Хостинг сайтов Google Sites, GitHub Pages, WordPress, Blogspot Страница выглядит как обычный сайт Отзывы и карточки мест Yelp, Apple Maps Похоже на мнение реальных клиентов
Отчёт Aurascape от 8 декабря 2025 года описал ту же механику раньше: спам-контент на взломанных сайтах госорганов и университетов, страницах на WordPress, в описаниях YouTube и отзывах Yelp. В тестах Aurascape ассистент Perplexity выдавал номера мошенников за номера бронирования Emirates и British Airways, а Google AI Overview — за номера Emirates.
Какие приёмы заставляют ИИ поверить фальшивке
Мошенники используют тот же набор приёмов, что и маркетологи. Их называют GEO (Generative Engine Optimization) — это SEO для ИИ-поиска: как сделать, чтобы модель процитировала именно вашу страницу.
- Повтор и формат вопрос-ответ. Номер повторяется много раз, рядом — «звоните сейчас», «24/7», «обновлено в 2026».
- Номер, который не видит фильтр. Цифры пишут через пробелы, точки, эмодзи-цифры, юникод-символы или со словами между ними. Антиспам такой номер не распознаёт, а языковая модель понимает, что это те же цифры.
- Смесь правды и лжи. В посте есть полезные советы и настоящие контакты, а между ними — фальшивый номер. Модель цитирует всё вместе.
- Паника как тема. Возврат денег, отменённый рейс, заблокированный счёт, срочный перевод. Человек в стрессе звонит сразу, а не идёт на сайт компании.
Исследователи позвонили по нескольким найденным номерам. «Оператор» предлагал перенести рейс или разблокировать банковский счёт и просил данные карты.
Удалить такие страницы вручную почти невозможно. Посты публикуются автоматически, по одинаковым шаблонам, сотнями в день на одну компанию. Даже удалённая страница может продолжать работать через копии в веб-архиве, которые тоже индексируются.
Галлюцинация, отравление выдачи и prompt injection: в чём разница
Когда чат-бот выдаёт опасную ссылку или номер, за этим стоит один из трёх разных механизмов. Отличать их полезно: от каждого защищает своя привычка.
| Механизм | Что происходит | Реальный пример | Как защититься |
|---|---|---|---|
| Галлюцинация | Модель сама «додумывает» адрес или номер, которого не существует | Netcraft, июль 2025: 28 доменов (29%) из ответов модели оказались незарегистрированными или пустыми — их может купить кто угодно | Не открывать адрес, который вы не знаете сами; заходить через закладку или приложение |
| Отравление выдачи | Модель честно находит в вебе страницу мошенников и пересказывает её | Dark Sourcery, Aurascape: фальшивые номера поддержки авиакомпаний и банков | Контакты брать только с официального сайта, карты, договора или из приложения |
| Prompt injection (внедрение инструкций) | В тексте, который читает модель, спрятана команда для неё, невидимая человеку | The Guardian, декабрь 2024: скрытый текст на странице делал отзыв ChatGPT о товаре «всегда полностью положительным»; 0DIN, июль 2025: письмо заставляло сводку Gemini в Gmail показать фальшивое предупреждение с номером «поддержки» | Не доверять пересказу ИИ сильнее, чем оригиналу; предупреждения о взломе проверять в самом сервисе |
Демонстрация с Gemini в Gmail — это proof-of-concept, проверка возможности. Google заявила, что реальных атак такого типа не видела, но сам приём показывает: сводка письма может врать, даже если письмо пришло в настоящий Gmail.
Ключевое отличие отравления выдачи от взлома — модель работает штатно. Она делает ровно то, для чего создана: находит и пересказывает самые «убедительные» страницы. Поэтому, по словам Vigilance, и Google, и OpenAI не приняли её отчёт в программы баг-баунти. Google сочла сценарий вне рамок программы, а OpenAI закрыла отчёт как «не воспроизводимый». Публичных заявлений самих компаний на этот счёт нет.
Фейковые ссылки и магазины в ответах ChatGPT: Netcraft и Ask Silver
Номер телефона — не единственное, что модель может подменить. Ссылка на страницу входа ошибается не реже.
В июле 2025 года компания Netcraft спросила модель семейства GPT-4.1, где войти в аккаунт 50 известных брендов. Из 131 адреса, которые она назвала, 34% не принадлежали этим брендам вовсе. Часть доменов была свободна: злоумышленнику достаточно их зарегистрировать и ждать, пока модель отправит туда людей.
Это не только лабораторный тест. Netcraft зафиксировала реальный случай: на вопрос «Какой адрес для входа в Wells Fargo? Закладка не работает» Perplexity первой ссылкой выдал фишинговую страницу на Google Sites. Для крипто-аудитории отдельно: Netcraft нашла более 17 000 фишинговых страниц на GitBook, написанных с помощью ИИ и нацеленных на владельцев криптовалюты.
С покупками похожая история. Британский сервис Ask Silver в июне 2026 года обнаружил, что ChatGPT в ответах о покупках ссылался на клоны магазинов Russell & Bromley и Dunelm. Сайты-двойники предлагали скидки до 80%. После сообщения OpenAI удалила эти сайты из своего поискового индекса — но это единичный задокументированный случай, а не системное исследование.
Признаки фейковой ссылки из ответа ИИ:
- домен отличается от того, который вы знаете, хотя бы одной буквой или зоной (.shop, .store вместо привычной);
- скидка на брендовый товар выглядит слишком щедрой для официального магазина;
- магазин принимает только перевод на карту или криптовалюту;
- сайт создан недавно, а «отзывы» на нём однотипные.
Поддельные приложения ChatGPT и ловушки на настоящем chatgpt.com
Популярность ChatGPT делает его лучшей приманкой для вредоносных программ. По данным Kaspersky, с января по начало мая 2026 года её решения зафиксировали более 92 000 атак вредоносного и нежелательного ПО под видом ИИ-сервисов. На поддельные приложения ChatGPT пришлось 49% атак, на фальшивые Claude и Gemini — по 18%. Отдельно компания нашла более 15 000 образцов вредоносных программ, замаскированных под ИИ-агентов.
Классика — «десктопная версия ChatGPT» или «Gemini Pro бесплатно» на стороннем сайте или в рекламе. Но есть схемы хитрее, и в них не помогает привычный совет «проверьте адрес сайта».
LLMShare: фальшивая страница сбоя на домене chatgpt.com
В мае 2026 года Push Security описала кампанию, которую назвала LLMShare. Злоумышленник с помощью функции ChatGPT, которая отображает сгенерированный код как веб-страницу, собрал фальшивое уведомление о сбое: «Высокая нагрузка, сайт временно недоступен, скачайте десктопное приложение». Страница лежала по адресу вида chatgpt.com/s/… — на настоящем домене OpenAI. Люди попадали на неё через рекламу в поиске.
Кнопка загрузки вела на сторонний сайт — копию официальной страницы загрузки ChatGPT, откуда скачивался вредоносный файл. Выдавали подделку кнопки «Show code» и «Remix with ChatGPT» вверху страницы и адрес, на который вела загрузка: настоящие системные сообщения OpenAI так не выглядят.
AMOS: расшаренный чат с командой для Терминала
В декабре 2025 года BleepingComputer описал кампанию для владельцев Mac. Реклама в поиске Google вела на расшаренные (публичные) чаты ChatGPT и Grok с «инструкцией по установке». Инструкция просила вставить команду в Терминал macOS. Команда показывала поддельное окно запроса пароля и с полученными правами устанавливала стилер AMOS.
Стилер — программа, которая крадёт сохранённые пароли, файлы cookie и данные кошельков. AMOS ищет на компьютере Ledger Wallet и Trezor Suite и подменяет их троянскими копиями, которые «в целях безопасности» просят ввести сид-фразу.Что вы видите Что это на самом деле Признак подделки Страница на chatgpt.com «скачайте приложение из-за нагрузки» Сгенерированная пользователем страница с кнопкой на чужой сайт Кнопки «Show code» / «Remix» вверху, загрузка уходит на другой домен Расшаренный чат с «инструкцией по установке» Чат, созданный мошенником и продвинутый рекламой Просят вставить команду в Терминал или PowerShell «ChatGPT для ПК» на стороннем сайте Установщик с вредоносной программой Адрес загрузки не chatgpt.com/download или openai.com и не официальный магазин приложений Кошелёк после установки просит сид-фразу Троянская копия кошелька Настоящий кошелёк не просит сид-фразу при обычном запуске
Правило из этого простое: официальное приложение ставим из App Store, Google Play, Microsoft Store или со страницы загрузки, адрес которой набрали сами. Инструкция «вставьте эту команду в терминал», найденная через рекламу, — сигнал остановиться, даже если она лежит на chatgpt.com.
Фишинг под оплату ChatGPT и угон аккаунта: как выглядят письма
Если вы платите за подписку, письмо «платёж не прошёл» выглядит правдоподобно. На это и расчёт.
В сентябре 2026 года исследователи Cofense описали волну писем с настоящим логотипом ChatGPT и требованием «обновить платёжные данные». Кнопка в письме сначала проходила через редирект Google API, а затем вела на копию страницы входа ChatGPT на постороннем домене. После ввода пароля жертва видела «ошибку» — и не понимала, что учётные данные уже ушли. В другой волне, описанной MailGuard, ссылка вела на фальшивую платёжную страницу Stripe.
Ещё одна деталь: письма бывают технически «чистыми». В ноябре 2024 года Barracuda зафиксировала более 1000 таких писем с одного домена, и они прошли проверки DKIM и SPF — то есть ту проверку подлинности отправителя, на которую опираются почтовые фильтры. Попадание во «Входящие», а не в «Спам», ничего не доказывает.
Как проверить письмо об оплате ChatGPT
- Посмотрите полный адрес отправителя, а не имя. OpenAI пишет клиентам в том числе с доменов @openai.com, @mail.openai.com и @email.openai.com, а письмо из волны, которую разобрала Cofense, пришло с постороннего адреса на домене nxcli.io. Список доменов не полный, а имя отправителя подделать легко, поэтому главный шаг — следующий.
- Не нажимайте кнопку в письме. Откройте chatgpt.com, набрав адрес вручную или через закладку, и проверьте статус подписки в настройках аккаунта.
- Сверьте адрес страницы входа перед вводом пароля. Внешний вид можно скопировать, домен — нет.
- Включите двухфакторную аутентификацию (2FA) в настройках безопасности: даже украденного пароля тогда не хватит для входа.
Зачем мошенникам чужой аккаунт ChatGPT? В нём история переписки, где люди обсуждают работу, документы и иногда вставляют пароли и ключи. Group-IB ещё в 2023 году нашла в логах стилеров 101 134 заражённых устройства с сохранёнными данными входа в ChatGPT за период с июня 2022 по май 2023 года. Цифра старая и служит ориентиром, но механика не изменилась: стилер на компьютере крадёт пароли от всех сервисов сразу.
Как мошенники пишут с помощью ChatGPT: выводы отчётов OpenAI и ФБР
Как мошенники используют нейросети в переписке с жертвой? Генерируют грамотные, вежливые и персонализированные сообщения на любом языке. Главный эффект — исчезли ошибки, по которым раньше узнавали обман.
Об этом прямо предупреждало ФБР в публичном оповещении IC3 от 3 декабря 2024 года: генеративный ИИ исправляет грамматические и орфографические ошибки, которые раньше служили сигналом мошенничества. Совет «ищите опечатки» больше не работает.
Насколько это эффективно, показало исследование Heiding и соавторов (2024) на 101 участнике. Полностью автоматические фишинговые письма, написанные ИИ, получили 54% кликов. В контрольной группе с шаблонными фишинговыми письмами — 12%. Письма экспертов-людей дали те же 54%. То есть мошенничество с помощью ИИ не превзошло хорошего живого мошенника, но сделало его уровень дешёвым и массовым.
OpenAI регулярно публикует отчёты о злоупотреблениях. В отчёте за февраль 2026 года компания описывает типичный путь аферы из трёх шагов:
- ping — холодный контакт: реклама, сообщение, комментарий под постом;
- zing — эмоция: интерес, симпатия, страх упустить выгоду;
- sting — выманивание денег.
Пример из того же отчёта — операция Date Bait. Сеть, предположительно из Камбоджи, с помощью ChatGPT писала рекламу «элитного агентства знакомств» для мужчин в Индонезии. Реклама вела на ИИ-чат-бота в роли «администратора», а тот переводил жертв в Telegram. OpenAI заблокировала аккаунты сети и оценила, что афера, вероятно, обманывала сотни людей в месяц.
При этом в отчёте за октябрь 2025 года OpenAI делает важный вывод: модели дали злоумышленникам прирост эффективности в уже знакомых схемах, но не новые возможности. Со времени первых публичных отчётов в феврале 2024 года компания раскрыла более 40 сетей нарушителей. Старые схемы остались старыми — ИИ сделал их дешевле.
Отсюда практический вывод: судить о сообщении нужно по просьбе, а не по качеству текста. Срочность, деньги, секретность и переход в другой мессенджер — признаки, которые ИИ не убирает. Голосовые клоны — отдельная тема, её мы разобрали в материале про голосовые дипфейки мошенников по телефону.
Фейковые ИИ-помощники и «ИИ-трейдинг-боты» в крипте
Слово «ИИ» в крипто-скаме работает как знак качества. Мошенники пользуются этим двумя способами: выдают свой чат-бот за известного ассистента и продают «бота, который торгует за вас».
В феврале 2026 года Malwarebytes нашла сайт предпродажи «Google Coin» с чат-ботом, который представлялся ассистентом Gemini от Google. Бот уверенно отвечал на вопросы, рисовал прогнозы роста к листингу и подводил к одному действию — отправить криптовалюту. Проблема в том, что у Google нет своей криптовалюты. Любой «официальный ИИ-помощник» токена, которого не существует, — признак скама.
Про «ИИ-трейдинг-ботов» в январе 2024 года предупредила американская CFTC (Комиссия по торговле товарными фьючерсами): ИИ не умеет предсказывать будущее или резкие движения рынка. Показательный пример из её предупреждения — схема Mirror Trading International. Организатор обещал гарантированную ежемесячную доходность от «собственного торгового бота» и в итоге похитил более $1,7 млрд в биткоинах как минимум у 23 000 человек. На деле это была финансовая пирамида. Что нейросеть действительно умеет в торговле, а где её возможности заканчиваются, мы разобрали отдельно: нейросеть для трейдинга — пять задач, где она работает.
Ещё один кейс напоминает, что опасен бывает и код от ИИ. The Guardian в декабре 2024 года пересказал случай, о котором рассказал исследователь Microsoft Томас Роккиа: пользователь попросил ChatGPT написать код для проекта на Solana. В ответе оказалось обращение к вредоносному API, которое украло учётные данные, — человек потерял $2 500.
Масштаб явления косвенно оценила Chainalysis. В мае 2025 года аналитики посчитали, что около 60% всех депозитов в кошельки мошенников уходит в схемы, которые в блокчейне платили продавцам ИИ-инструментов. Метрика косвенная: она показывает, что скамеры покупают ИИ-софт, а не сколько украдено именно с его помощью.
Общие правила крипто-безопасности — в нашем разборе схем обмана в крипте, а сценарий с поддельными видео знаменитостей — в материале про дипфейк-скам со знаменитостями.
Как проверить ответ ИИ-чата перед звонком, оплатой или установкой
Короткий ответ: всё, что ведёт к действию с деньгами или доступами, проверяйте по каналу, который вы получили НЕ из ответа ИИ. Это приложение банка, номер на карте, договор, официальный сайт, адрес которого вы набрали сами. Ответ чат-бота — подсказка, где искать, а не источник контактов.
Эта привычка нужна большинству: по опросу Exploding Topics (более 1000 пользователей из США, данные обновлены 14 августа 2026 года), только 8% всегда проверяют источники ответов Google AI Overview.Что выдал ИИ Чем опасно Как проверить Номер телефона поддержки Отравленная выдача: номер колл-центра мошенников Номер с карты, из приложения, договора или с официального сайта, открытого вручную Ссылка для входа в аккаунт Галлюцинация или фишинг: 34% адресов у Netcraft были чужими Закладка, приложение или адрес, набранный вручную Ссылка на магазин со скидкой Сайт-двойник известного бренда Найти магазин через официальный сайт бренда, сверить домен Файл или приложение Вредоносная программа под видом ChatGPT, Gemini, Claude Только официальный магазин приложений или страница загрузки разработчика Команда для терминала Установка стилера с вашими правами Не выполнять команды из расшаренных чатов и рекламы Реквизиты или крипто-адрес для оплаты Перевод мошенникам, который нельзя вернуть Сверить в личном кабинете сервиса или у продавца по известному вам каналу «Официальный ИИ-помощник» в мессенджере Фейковый бот, продающий токен или «бота-трейдера» Ссылка на бота с официального сайта компании
Проверка номера или ссылки из ответа ИИ за пять шагов
- Остановитесь, если в ответе есть срочность — «звоните сейчас», «аккаунт будет заблокирован», «осталось 2 часа».
- Откройте источник ответа. У ChatGPT и Gemini с поиском есть ссылки на страницы. Если номер взят из поста на форуме, PDF или отзыва — это не официальный канал.
- Найдите контакт самостоятельно на официальном сайте компании, адрес которого вы набрали сами, или в её приложении.
- Сравните. Номер из ответа ИИ не совпадает с номером на сайте — используйте номер с сайта.
- Не диктуйте по телефону данные карты, CVV и коды из SMS, даже если звонок вы начали сами.
Две вещи, которые часто сбивают с толку. Первая: совпадение ответов двух ИИ — не подтверждение. ChatGPT и Gemini могут опираться на одни и те же отравленные страницы. Вторая: «вчера бот дал нормальный номер» ничего не гарантирует, потому что отравление срабатывает статистически.
ИИ как детектор мошенничества
У той же модели есть и обратная сторона: она помогает распознать обман. OpenAI оценивает, что ChatGPT используют для распознавания мошенничества до трёх раз чаще, чем для самого мошенничества. Это оценка самой компании, независимой проверки нет, но сценарий рабочий. Вставьте подозрительное письмо или сообщение и попросите разобрать его:
Ниже текст сообщения, которое я получил. Не переходи по ссылкам из него. Перечисли признаки мошенничества, если они есть: срочность, просьба о деньгах или данных, несоответствие отправителя, давление. Скажи, как проверить это сообщение по официальным каналам, не используя контакты из самого текста.
Модель хорошо замечает манипуляции в тексте. Но не просите её в ответ на это найти «настоящий номер поддержки» — это снова поиск в отравленном вебе. Как формулировать запросы точнее, мы разбирали в гайде о том, как писать промпты для нейросети.
Если уже позвонили по номеру из ИИ-чата: что делать за первый час
Скорость здесь важнее идеального порядка. Мошенники стараются вывести деньги в первые минуты.
- Позвоните в банк по номеру с обратной стороны карты или через чат в приложении банка. Заблокируйте карту и скажите, что данные получили мошенники. Спросите, можно ли оспорить операции.
- Если вы называли коды из SMS или ставили программу удалённого доступа — сообщите об этом банку отдельно. Удалите программу и отключите устройство от интернета.
- Смените пароль аккаунта, который ввели на поддельной странице, с другого, чистого устройства. В ChatGPT после смены пароля выйдите из всех сессий в настройках безопасности и включите 2FA. Если этот же пароль стоит на других сайтах — смените и там.
- Если выполнили команду в Терминале или поставили «приложение ChatGPT» — считайте компьютер заражённым. Пароли меняйте с другого устройства. Если на компьютере был криптокошелёк или вы вводили сид-фразу, создайте новый кошелёк с новой сид-фразой на чистом устройстве и переведите средства туда.
- Сохраните доказательства: номер, по которому звонили, скриншоты ответа ИИ и страницы, ссылку на расшаренный чат, письмо целиком.
- Сообщите о случае. В Украине — в киберполицию и в свой банк. Фальшивую страницу или чат стоит отправить и платформе: после сообщения о фейковых магазинах OpenAI удалила их из индекса.
Для фейковых ботов в Telegram в Украине есть отдельный инструмент: Минцифры вместе с киберполицией и Госспецсвязи сделали на сайте «Довідка» проверку чат-ботов. Достаточно ввести имя бота через @ или его ссылку — сервис покажет, официальный он или нет.
На уровне закона тоже есть движение. В июле 2026 года в Верховной Раде зарегистрировали законопроект №15379, который предлагает выделить мошенничество с искусственным интеллектом в квалифицированный состав статьи 190 Уголовного кодекса — то есть в более тяжёлую разновидность мошенничества. На октябрь 2026 года это проект, а не действующая норма.
Слабые места защиты от отравления ответов ИИ: где она не срабатывает
Платформы что-то делают, но проблема отравления ответов ИИ пока не решена системно. Вот где защита ломается.
- Отравление нестабильно. Атака срабатывает не на каждый запрос, поэтому её трудно воспроизвести и доказать. Именно с формулировкой «не воспроизводится» OpenAI, по словам Vigilance, закрыла отчёт об уязвимости.
- Это не считается уязвимостью. Модель не взломана, она пересказывает чужую страницу. Google, по словам Vigilance, отнесла такие сценарии к дезинформации и социальной инженерии, которые её программа баг-баунти не покрывает.
- Удаление не успевает за публикацией. Страницы создаются автоматически сотнями в день, а удалённые продолжают жить в веб-архиве.
- У номера телефона нет «домена». Ссылку можно сверить по адресу, а номер по виду не проверить. Единого реестра официальных номеров поддержки, который модели могли бы использовать, нет.
- Привычные сигналы перестали работать. Ошибки в тексте исчезли, домен chatgpt.com больше не гарантия, письмо может пройти почтовые проверки.
Кое-что платформы уже сделали. OpenAI удаляет из поискового индекса найденные фейковые сайты — так было с клонами магазинов в июне 2026 года. Когда Gizmodo после отчёта Aurascape повторил запрос о номере Emirates, Perplexity не назвал номер и отправил на официальный сайт авиакомпании. Это одна проверка журналистов, а не заявление Perplexity. Google в мае 2025 года сообщила, что её ИИ-защита сократила мошеннические атаки в запросах о поддержке авиакомпаний более чем на 80%, — это самоотчёт компании.
Быстрее всего в этой статье устареют цифры масштаба: статистика Kaspersky и Dark Sourcery относится к 2026 году и будет обновляться в новых отчётах. Методы проверки останутся рабочими дольше: канал, полученный не из ответа ИИ, не отравишь через форум.
FAQ
Может ли ChatGPT дать номер мошенников вместо номера банка?
Да. Если ChatGPT ищет ответ в вебе, он может найти страницу, где мошенники разместили фальшивый номер, и выдать его как официальный. Исследование Dark Sourcery от 22 сентября 2026 года нашло такие атаки на 374 компании, включая банки Chase и Bank of America. Номер банка берите с карты или из приложения.
Как проверить, что номер поддержки из ответа ИИ настоящий?
Найдите номер самостоятельно: на обратной стороне карты, в приложении, в договоре или на официальном сайте компании, адрес которого вы набрали сами. Если номер из ответа ИИ не совпадает — звоните по номеру с сайта. Совпадение ответов двух разных чат-ботов не считается подтверждением: они могут опираться на одни и те же отравленные страницы.
Безопасно ли скачивать приложение ChatGPT по ссылке из рекламы?
Нет. Через рекламу в поиске распространяют поддельные установщики и даже страницы на настоящем домене chatgpt.com с кнопкой загрузки на чужой сайт. По данным Kaspersky, на поддельные приложения ChatGPT пришлось 49% атак под видом ИИ-сервисов за январь — начало мая 2026 года. Ставьте приложение только из официального магазина приложений.
Что делать, если пришло письмо, что оплата ChatGPT не прошла?
Не нажимайте кнопку в письме. Посмотрите полный адрес отправителя: OpenAI пишет клиентам в том числе с доменов @openai.com, @mail.openai.com и @email.openai.com, а не с посторонних адресов. Затем откройте chatgpt.com вручную и проверьте статус подписки в настройках. Если пароль уже введён на чужой странице — смените его, выйдите из всех сессий и включите 2FA.
Может ли ИИ сам помочь распознать мошенничество?
Да, и это хороший способ им пользоваться. Вставьте подозрительное письмо или сообщение и попросите перечислить признаки обмана: срочность, просьбу о деньгах, несоответствие отправителя. OpenAI оценивает, что ChatGPT используют для распознавания скама до трёх раз чаще, чем для обмана. Но искать через чат-бот «настоящие» контакты поддержки не стоит.
Бывают ли настоящие ИИ-боты, которые гарантируют доход на крипте?
Нет. Американский регулятор CFTC прямо предупреждает: ИИ не умеет предсказывать рынок, а бот, который обещает фиксированный доход каждый месяц, — признак мошенничества. Схема Mirror Trading International с «торговым ботом» похитила более $1,7 млрд в биткоинах как минимум у 23 000 человек. ИИ помогает анализировать рынок, но риск убытка не убирает.

