Выдуманные источники в ответах ChatGPT: откуда они берутся и проверка за 3 минуты

Коротко (TL;DR)

ChatGPT выдумывает источники не по злому умыслу и не из-за «сбоя»: так устроены обучение и оценка языковых моделей. Угадать для модели выгоднее, чем ответить «не знаю», а точная библиографическая запись — тот самый редкий факт, который она помнит хуже всего. Хорошая новость: проверка дешёвая и занимает пару минут.

• Выдумка — это предсказуемый побочный эффект. Модель учится продолжать текст правдоподобно, а за честное «не знаю» получает столько же баллов, сколько за ошибку, — то есть ноль.
• Доля выдуманных ссылок — не одно число. В 2023 году 55% у GPT-3.5 и 18% у GPT-4, в 2025-м 19,9% у GPT-4o в обзорах по психиатрии, в препринте 2026 года — от 11,4% у GPT-5-mini до 56,8% у Claude Haiku 4.5.
• Ссылка, которая открывается, ещё ничего не доказывает. Бывает настоящая страница, на которой нет приписанной цитаты, и настоящий DOI, ведущий на чужую статью.
• Веб-поиск меняет тип ошибки, а не отменяет её. В тесте CJR (март 2025) ИИ-поисковики неверно нашли источник больше чем в 60% запросов.
• Проверка за три минуты: выписать проверяемое, открыть каждую ссылку, найти на странице цифру через Ctrl+F, проверить цитату в кавычках и посмотреть, кто автор источника.

Почему ChatGPT выдумывает источники: угадать выгоднее, чем промолчать

ChatGPT выдумывает источники потому, что обучение и проверка языковых моделей поощряют угадывание, а не признание неуверенности. Это не догадка журналистов, а вывод работы самой OpenAI и Технологического института Джорджии «Why Language Models Hallucinate» (4 сентября 2025 года). Авторы формулируют прямо: модели галлюцинируют, потому что процедуры обучения и оценки вознаграждают догадку больше, чем честное «не уверен».

Механика в двух шагах.

1. Модель предсказывает следующее слово, а не ищет истину. На этапе предобучения она видит огромный массив текста без пометок «верно» и «неверно». Она запоминает, как выглядит правдоподобное продолжение. Список литературы в научной статье выглядит очень узнаваемо: фамилии, год, название, журнал, страницы, DOI. Эту форму модель воспроизводит безупречно.
2. Экзамен поощряет ответ любой ценой. Большинство тестов, по которым сравнивают модели, ставят 1 балл за верный ответ и 0 — одинаково за ошибку и за «не знаю». В работе OpenAI это сказано так: при бинарной оценке воздержаться от ответа строго невыгодно, ответы типа «не знаю» штрафуются максимально, а самоуверенная лучшая догадка оптимальна.

Авторы сами приводят бытовую аналогию — студент на экзамене. Если за пустую графу ставят ноль, а за написанную наугад формулу есть шанс получить балл, рациональный студент пишет что-нибудь. Модель, которую годами «натаскивали» на таких экзаменах, поступает так же.

GOLD · XAUSILVER · XAG

Binance · Wall Street 24/7Золото без сейфа и слитковXAUТоргуйте ценой золота на Binance круглосуточно, с маленькой суммы

GOLDSILVER

Рассчитать сделку

«Как студенты перед трудным экзаменационным вопросом, большие языковые модели иногда угадывают, когда не уверены, и выдают правдоподобные, но неверные утверждения вместо признания неуверенности» — из работы OpenAI и Georgia Tech, 2025.

В той же работе есть пример, который касается именно ChatGPT. На вопрос о названии диссертации одного из авторов, Адама Калаи, GPT-4o уверенно ответил: «Boosting, Online Algorithms, and Other Topics in Machine Learning», 2002 год, Университет Карнеги — Меллона. DeepSeek и Llama назвали совсем другие работы и другие годы. Ни одна из трёх моделей не дала верное название и год (верный год — 2001).

Как попасть в AI Overview и ChatGPT: 9 шагов SEO и какие советы GEO не работают

Мошенничество с ИИ-чат-ботами: фейковые номера в ChatGPT и как проверить ответ

Удаление фона с фото нейросетью: 3 бесплатных способа и ловушка лицензий

Парсеры PDF в Markdown для ИИ: MinerU, Docling и Marker — лицензии, кириллица, цена

Gemini в Google Таблицах — 3 инструмента: панель, функция AI и Sheets canvas

Отсюда и короткий ответ на вопрос, почему у нейросети бывают галлюцинации: модель не «врёт» в человеческом смысле, у неё нет намерения. Она делает то, за что её награждали на обучении, — даёт правдоподобный ответ там, где честнее было бы промолчать.

Галлюцинации нейросети — это не баг: чем выдумка отличается от ошибки

Галлюцинации нейросети — это уверенные, правдоподобные, но ложные утверждения, которые модель выдаёт как факт. В работе OpenAI их так и называют: правдоподобная ложь. Выдуманная ссылка — самый наглядный случай: статьи с таким названием, авторами и DOI в природе нет, но оформлена она по всем правилам.

Галлюцинацию полезно отличать от других ошибок ИИ, потому что лечатся они по-разному.

Главная опасность галлюцинации — тон. Выдуманный ответ звучит так же уверенно, как верный, и по формулировке их не различить. В тесте Tow Center при Columbia Journalism Review (ноябрь 2024) ChatGPT Search дал частично или полностью неверный ответ на 153 запроса из 200, а неуверенность признал только в 7 случаях. Если модель почти никогда не говорит «не уверен», отсутствие такой оговорки ничего не сообщает о правильности ответа.

Как это выглядит на практике. Вы просите подкрепить тезис исследованием и получаете строку по всем правилам: две фамилии с инициалами, год, название, известный журнал, том, страницы и DOI в правильном формате. Год правдоподобный, журнал существует, префикс DOI принадлежит настоящему издателю. Ничто в самой строке не говорит, настоящая она или нет, — ответить может только проверка.

доля, а не целая акция

Binance · Wall Street 24/7Доля Nvidia — от7 USDTЦелую акцию покупать не нужно. Начните с маленькой суммы — риск под контролем

NVDATSLAAAPL

Первая сделка за 5 шагов

Почему узкая тема опаснее: редкие факты и наш прогон Claude

Чаще всего модель выдумывает то, что в обучающих данных встречалось один раз. Работа OpenAI называет это долей «одиночек» (singleton rate) и показывает: нижняя граница галлюцинаций равна доле фактов, которые модель видела ровно однажды. Пример авторов: если 20% дней рождения встречались в данных один раз, базовая модель будет ошибаться минимум в 20% вопросов о днях рождения. День рождения Эйнштейна упоминается очень часто, и его модели почти не путают. День рождения малоизвестного учёного, упомянутый в одном некрологе, — другое дело.

Библиографическая запись — классическая «одиночка». Конкретное сочетание «эти авторы + этот год + это название + этот том + этот DOI» встречается в данных редко. Модель хорошо помнит, как выглядит ссылка, но плохо помнит конкретную ссылку. Так человек точно знает формат номера паспорта, но не помнит номер паспорта соседа.

Отсюда практическое правило: чем уже тема, тем строже проверка. Классическая работа, на которую ссылаются тысячи статей, скорее всего, будет названа верно. Список из пяти исследований по узкому региональному вопросу — зона максимального риска.

Наш прогон Claude с проверкой DOI: популярная тема против узкой

Мы хотели показать живую выдумку и 17 октября 2026 года прогнали модель Claude через claude -p — без инструментов и без веб-поиска, только по памяти. Каждый названный DOI проверили кодом через Crossref API (публичная база метаданных научных статей). ChatGPT в этом прогоне не участвовал, поэтому результат описывает поведение Claude, а не ChatGPT.

Итог — 7 из 7 реальных DOI и отказ выдумывать на узкую тему. Выдумку воспроизвести не удалось. Это не опровергает исследования с долями от 11,4% до 56,8%: другая модель, другой режим и всего два запроса. Зато прогон показал две полезные вещи.

• Честный отказ возможен, но не гарантирован. Одна модель так поступила, другая или та же в другом запросе может ответить иначе. Рассчитывать на отказ вместо проверки нельзя.
• Расхождение в годе — не всегда признак фейка. Статья в PNAS вышла онлайн 22 декабря 2014 года, а том датирован 2015-м. Модель написала 2015 — и это верно. При проверке сверяйте название и авторов, а год онлайн-публикации и год тома могут отличаться.

Зона риска — середина: полузнакомая тема плюс требование «дай N источников». Там у модели достаточно «знаний», чтобы уверенно собрать правдоподобную ссылку, но недостаточно, чтобы она оказалась настоящей. Механизм общий для всех языковых моделей, хотя доля выдумок у разных моделей различается в разы — это видно по исследованиям ниже.

Сколько ссылок выдумывает ChatGPT: исследования 2023–2026

Единой цифры «ChatGPT выдумывает X% ссылок» нет. Доля зависит от модели, области знаний и формулировки запроса, и каждое исследование меряет своё. Поэтому ниже — ряд с датами, моделями и статусом публикации.

Самая цитируемая точка отсчёта — исследование Уолтерса и Уайлдер: по их данным, выдуманы 55% ссылок GPT-3.5 и 18% ссылок GPT-4 (Scientific Reports, 7 сентября 2023 года). Это модели 2023 года, сегодня их цифра — исторический ориентир, а не текущий уровень. Важнее вторая половина результата: даже настоящие ссылки содержали серьёзные ошибки — у GPT-3.5 в 43% случаев, у GPT-4 в 24%.

В 2025 году команда из Университета Дикина попросила GPT-4o написать шесть обзоров по психиатрии и проверила все 176 ссылок. Полностью выдуманы 35 (19,9%), среди реальных около 45% содержали серьёзные ошибки, а настоящими и точными оказались лишь 77 ссылок (43,8%). Проще говоря, меньше половины списка литературы можно было бы использовать без правок.

Самый масштабный замер — препринт М. З. Насера (7 февраля 2026 года). Десять коммерческих моделей сгенерировали 69 557 ссылок, все сверены по трём базам: Crossref, OpenAlex и Semantic Scholar. Доля выдуманных разошлась впятеро. Меньше всего выдумывала GPT-5-mini (11,4%), больше всего — Claude Haiku 4.5 (56,8%). Ещё один вывод автора: переход на более новую модель не гарантирует улучшения. У OpenAI доля упала с 45,3% у GPT-4o-mini до 11,4% у GPT-5-mini, а у Anthropic выросла с 48,8% у Haiku 3.5 до 56,8% у Haiku 4.5. Модели опрашивали через API, а не в приложении ChatGPT.

Цифра OpenAI для GPT-5 из этого ряда выбивается: она про любые крупные фактические ошибки, а не только про ссылки, и это данные самого разработчика. Её стоит читать как «стало заметно лучше», а не как «проблема решена».

Вывод из ряда: несуществующие источники с каждым поколением моделей встречаются реже, но к нулю их доля не приходит, и на узких темах она может оставаться высокой. Быстрее всего в этой таблице устаревают цифры по конкретным моделям. Методика проверки из раздела ниже от версии модели не зависит.

Четыре вида фейковых ссылок и как поймать каждый

Выдуманная ссылка — это не только «статьи не существует». Автор разбора выдуманных ссылок в статьях конференции NeurIPS 2025 (препринт arXiv, 5 февраля 2026 года) разложил 100 найденных случаев по видам. Его классификация и практика проверки дают четыре вида фейковых ссылок плюс отдельный случай настоящего, но ненадёжного источника. Несуществующие источники — только первый из них.

Почему важно различать виды. Первые два ловятся тем, что ищешь работу и не находишь её или находишь с другими данными. Третий и четвёртый коварнее: ссылка открывается, страница существует, и проверка «кликнул — работает» их пропускает. Четвёртый вид — главный риск режима с веб-поиском: модель нашла настоящую страницу, но пересказала её неверно.

Пятый случай вообще не ошибка модели в техническом смысле. Источник существует, цитата на месте, но доверять ему нельзя. Исследование ISD (27 октября 2025 года): 300 запросов на пяти языках о войне России против Украины к ChatGPT, Gemini, Grok и DeepSeek, и в 18% ответов встретились материалы российских государственных или аффилированных медиа. Ещё один пример — в январе 2026 года The Guardian обнаружил, что GPT-5.2 в ChatGPT девять раз сослалась на Grokipedia, энциклопедию, которую пишет ИИ, в ответах на чуть больше десятка вопросов. Ссылка на текст, сгенерированный другой моделью, ничего не подтверждает.

Веб-поиск в ChatGPT: почему ссылки всё равно бывают ложными

У ChatGPT два режима работы со ссылками. В первом модель отвечает по памяти: всё, что она называет, взято из обучения, и именно здесь рождаются полные выдумки. Во втором она сначала ищет в интернете, а потом пересказывает найденное. Выдумок «из воздуха» становится меньше, но появляется новый класс ошибок — неверная атрибуция.

Насколько это серьёзно, показали журналисты Tow Center. В марте 2025 года они дали восьми ИИ-поисковикам 1 600 запросов: найти исходную статью по цитате. В сумме инструменты ответили неверно больше чем в 60% запросов (CJR, 6 марта 2025 года). Разброс огромный: у Perplexity 37% неверных ответов, у Grok 3 — 94%. Больше половины ответов Gemini и Grok 3 ссылались на выдуманные или битые URL; на 200 запросов к Grok 3 пришлось 154 ссылки, которые вели на страницу ошибки. Ещё одно наблюдение: платные версии ошибались увереннее бесплатных.

ChatGPT Search отдельно проверяли осенью 2024 года на 200 цитатах из материалов 20 изданий: 153 частично или полностью неверных ответа и лишь 7 признаний «не могу точно ответить» (CJR, 27 ноября 2024 года). Поиск с тех пор обновлялся, поэтому цифру стоит читать как срез на ту дату.

Крупнейшая проверка 2025 года — исследование Европейского вещательного союза (EBU) и BBC, опубликованное 21 октября 2025 года. Журналисты 22 общественных медиа из 18 стран на 14 языках проверили больше 3 000 ответов ChatGPT, Copilot, Gemini и Perplexity о новостях. У 45% ответов нашлась минимум одна серьёзная проблема, у 31% — серьёзные проблемы с источниками (отсутствующая, вводящая в заблуждение или неверная атрибуция), у 20% — крупные ошибки в фактах.

Итог: галлюцинации нейросетей с веб-поиском никуда не деваются, они меняют форму. Режим поиска полезен — он даёт свежие страницы и реальные ссылки, — но ссылка в таком ответе остаётся адресом для проверки, а не доказательством.

Как проверить ответ ChatGPT за три минуты: пять шагов

Методика ниже рассчитана на обычный ответ с 2–3 ссылками или цифрами; на каждую следующую закладывайте ещё около минуты. Нужны только браузер и поисковик. Если ChatGPT выдумывает источник, вы заметите это на втором или третьем шаге.

1. 0:00–0:30 — выпишите, что можно проверить. Ссылки, DOI, цифры, прямые цитаты, названия законов, судебных дел и исследований. Рассуждения и выводы модели проверять не нужно — их логику вы видите сами. Проверять нужно факты, на которых эти выводы держатся.
2. 0:30–1:15 — откройте каждую ссылку. Открывается ли она? Это та самая работа или страница? Для научной статьи допишите DOI в адресную строку после doi.org и косой черты или найдите название в кавычках в Google Scholar либо в поиске Crossref (search.crossref.org). Сверьте название и авторов. Чужое название по правильному DOI — это вид 3, а пустой поиск — вид 1.
3. 1:15–2:00 — найдите приписанное на странице. Нажмите Ctrl+F (на Mac — Cmd+F) и введите ключевую цифру или слово из утверждения. Нет совпадений — источник существует, но не говорит того, что ему приписали (вид 4). Для PDF то же самое делается в просмотрщике. Ищите цифру так, как её пишет источник: в английском тексте это «19.9» или «55 percent», а не «19,9» и «55%». Если открылась только аннотация, а полный текст платный, пустой поиск ещё не значит, что цифры там нет: найдите открытую версию статьи или считайте утверждение непроверенным.
4. 2:00–2:30 — проверьте цитату дословно. Вставьте фразу в поисковик в кавычках. Если точная цитата не находится нигде, кроме ответа ChatGPT, она, скорее всего, сочинена или сильно перефразирована. Если ChatGPT перевёл цитату, ищите её ключевые слова на языке оригинала.
5. 2:30–3:00 — посмотрите, кто автор источника и когда он опубликован. Первичный документ (исследование, официальная страница, закон) весомее пересказа в медиа. Для украинских документов есть официальные базы: тексты законов — на zakon.rada.gov.ua, судебные решения — в Едином государственном реестре судебных решений (reyestr.court.gov.ua). Сайт неизвестного происхождения, пропагандистское СМИ или энциклопедия, написанная ИИ, подтверждением не считаются.

Что делать с результатом каждого шага:

Переспрашивать модель «ты уверен?» на этом этапе бесполезно: в тесте CJR ChatGPT Search на 200 запросов дал 153 неверных ответа, а неуверенность признал всего 7 раз. Полезнее попросить найти источник через поиск и дать прямой URL, а потом снова пройти шаги 2–3. Несуществующие источники не превращаются в настоящие от повторного вопроса.

Риски выдуманных ссылок: суды, наука, библиотеки

Одна выдуманная ссылка в школьном реферате — неприятность. Та же ошибка в иске, научной статье или медицинском обзоре стоит денег, репутации и доверия к целой области. Главная причина проста: ссылки почти никто не открывает. По данным Pew Research Center (22 июля 2025 года), по ссылке внутри ИИ-сводки Google кликают лишь в 1% визитов на страницы с такой сводкой.

Судебная база — живой счётчик: на 17 октября 2026 года самое свежее решение в ней датировано 15 октября 2026 года (Waushara County v. Bruning, апелляционный суд Висконсина: сторона без адвоката сослалась на выдуманную и искажённую судебную практику, итог — предупреждение), а решений, датированных только 1–15 октября 2026 года, в базе больше 30. Санкции в таких делах — от предупреждения до штрафов.

Медицинская цифра тревожнее, чем кажется. Несуществующие источники попадают в рецензируемые статьи, а эти статьи потом читают, цитируют и загружают в обучающие данные следующих моделей. Получается петля: выдумка одной модели становится «источником» для другой.

Студентам стоит быть особенно внимательными: список литературы — именно та часть работы, где выдумки модели всплывают на защите. Подробно о том, где нейросеть для диплома и курсовой помогает, а где подводит, — в отдельном разборе.

Как спрашивать ChatGPT, чтобы он реже выдумывал источники

Выдумку часто провоцирует сам запрос. В препринте Насера ни одна из десяти моделей не генерировала ссылки, когда их не просили: галлюцинация возникала в ответ на просьбу дать источники. Значит, формулировка запроса — первый рычаг.

Формулировки, которые снижают риск:

• Вместо «назови 5 исследований о…» — «найди через поиск исследования о… и дай прямые ссылки или DOI. Если не нашёл, так и напиши». Модель получает задачу «найти», а не «вспомнить», и разрешение вернуться ни с чем.
• Явно разрешите «не знаю»: «если ты не уверен в источнике, скажи об этом, не придумывай». Т—Ж (15 августа 2025 года) советует именно это, и механизм из работы OpenAI объясняет, почему это помогает: вы убираете штраф за воздержание. Но это снижает выдумки, а не исключает их.
• Просите разделять уровни уверенности: «отметь, какие ссылки ты проверил через поиск, а какие пишешь по памяти».
• Давайте свои документы и спрашивайте только по ним. Когда модель отвечает по загруженным файлам, ей не нужно вспоминать источники. Так работают инструменты вроде NotebookLM, где ответ привязан к вашим материалам.

Пример запроса, который можно скопировать:

Найди через веб-поиск 3–5 рецензируемых исследований о [тема] за последние 5 лет. Для каждого дай: авторов, год, название, журнал и прямую ссылку или DOI. Указывай только то, что нашёл в поиске. Если подходящих работ меньше, напиши, сколько нашёл, и не дополняй список по памяти.

Перепроверка другой моделью — фильтр, а не доказательство. В том же препринте Насера ссылка, которую независимо друг от друга назвали три и более разные модели, оказывалась настоящей в 95,6% случаев, а ссылка, которая повторялась хотя бы в двух повторных прогонах одного и того же запроса, — в 88,9%. Это хороший способ отсеять самые вероятные выдумки, но 95,6% — не 100%, и финальная проверка всё равно за вами.

Почему нейросети выдают галлюцинации даже при хорошем запросе, понятно из механики: форма ответа задаётся запросом, а знание модели запросом не добавишь. Хороший промпт уменьшает давление «ответить любой ценой». Как собрать запрос из ролей, контекста и формата, мы разобрали в гайде о том, как писать промпты для нейросети. Но галлюцинации нейросетей запросом не отключаются, они только становятся реже.

Мифы о проверке ответов ИИ: что не работает

Вокруг темы ходит несколько убеждений, которые создают ложное чувство безопасности. Выдумок они не отменяют.

• «Если ссылка открывается, всё верно». Не так. Чужой DOI и настоящая страница без приписанной цитаты проходят проверку «кликнул — открылось». Открытая ссылка — начало проверки, а не её конец.
• «Спрошу “ты уверен?” — и модель признается». Уверенность модель генерирует так же, как ответ. ChatGPT Search на 200 запросов признал неуверенность всего 7 раз, хотя ошибся в 153 (CJR, 2024).
• «С веб-поиском выдумок нет». В тесте CJR 2025 года ИИ-поисковики ошибались больше чем в 60% запросов на поиск источника. Поиск меняет вид ошибки, а не убирает её.
• «Платная версия не ошибается». В том же тесте платные Perplexity Pro и Grok 3 верно отвечали чаще бесплатных версий, но и ошибались чаще: вместо отказа давали уверенный неверный ответ. Подписка даёт больше возможностей, но не освобождает от проверки.
• «Детектор ИИ найдёт выдумку». Детекторы оценивают, похож ли текст на машинный, а не правдив ли он. О том, почему и с этой задачей они справляются плохо, — в разборе про детекторы ИИ-текста и ложные срабатывания.
• «Новые модели уже не врут». Меньше — не значит ноль. В препринте 2026 года разброс между моделями — от 11,4% до 56,8%, и автор прямо отмечает, что новая версия не гарантирует улучшения.

Связанные понятия: галлюцинация, DOI, атрибуция, RAG

FAQ

Почему ChatGPT даёт ссылки, которые не открываются?

Потому что модель по памяти воспроизводит форму ссылки, а не конкретный адрес. Точный URL или DOI — редкий факт, который она видела в данных один раз или не видела вовсе. Модель собирает правдоподобную строку из знакомых частей: домен, год, номер. В режиме поиска такое тоже бывает: в тесте CJR 2025 года на 200 запросов к Grok 3 пришлось 154 ссылки на страницу ошибки.

Можно ли попросить ChatGPT самому проверить свои ссылки?

Можно, но только с включённым веб-поиском и с требованием дать прямой URL на каждую работу. Без поиска модель «проверяет» ссылки той же памятью, которой их придумала, и легко подтвердит выдумку. Даже с поиском результат стоит пересмотреть самому: открыть страницы и найти на них приписанные цифры через Ctrl+F.

Как проверить, существует ли научная статья по DOI?

Допишите DOI в адресную строку после doi.org и косой черты и откройте страницу: настоящий DOI перенаправит на страницу статьи у издателя. Затем сверьте название и авторов с тем, что написал ChatGPT. Если DOI не открывается, найдите название в кавычках в Google Scholar или в поиске Crossref. Пустой результат почти всегда означает выдумку.

Выдумывает ли ChatGPT источники, если включён поиск в интернете?

Реже выдумывает работы целиком, но ошибается в другом: ссылается на страницу, где нет приписанного утверждения, путает статьи, даёт битые URL. Тест ChatGPT Search в ноябре 2024 года дал 153 неверных ответа из 200. Поиск полезен, но ссылку в ответе всё равно нужно открыть и найти на странице нужную фразу.

Какие нейросети реже выдумывают ссылки?

Общего рейтинга на все задачи нет, но в отдельном замере разница бывает огромной. В препринте 2026 года меньше всего выдумывала GPT-5-mini (11,4% ссылок), больше всего — Claude Haiku 4.5 (56,8%), а более новая версия не всегда была лучше. Результат при этом сильно зависит от области знаний и формулировки запроса. Надёжнее не выбирать «честную» модель, а включать поиск и проверять каждую ссылку.

Что делать, если нужного источника так и не нашлось?

Считать утверждение непроверенным и не использовать его со ссылкой. Попробуйте найти данные самостоятельно: в Google Scholar, на официальном сайте организации или в первичном документе. Если подтверждения нет нигде, скорее всего, модель обобщила или выдумала факт. В работе лучше честно написать «данных нет», чем сослаться на несуществующую статью.