Чому ШІ забуває й плутається в довгому діалозі: контекстне вікно простими словами

Контекстне вікно — це максимальний обсяг тексту (у токенах), який мовна модель може «тримати в голові» за один запит. Важливо одразу вкласти в голову одну думку: це не пам’ять моделі, яка накопичується з часом, а разовий бюджет на кожне звернення. Модель без стану (stateless): між запитами вона нічого не пам’ятає, і все, що вона «знає» про ваш діалог просто зараз, — це те, що вмістилося в поточне вікно.

І ось несподіване: модель починає плутатися й «тупіти» задовго до того, як вікно фізично заповнилося. Причина — не в тому, що «пам’ять скінчилася», а в тому, що якість уваги моделі тане в міру зростання контексту. Наскільки це відчутно, видно з одного факту: на тесті пошуку фактів у мільйонному контексті модель Claude Opus 4.6 набрала 76%, а Sonnet 4.5 на тому ж тесті — лише 18,5% (за даними Anthropic, березень 2026). Тобто «заявлений розмір вікна» і «обсяг, яким модель реально надійно користується» — це два різні числа. Розберемося, чому так, що таке context rot і «втрачена середина», чи працює «правило 40%» і що робити на практиці, щоб ШІ не «тупів» у довгому діалозі.

Простими словами: ліхтар із фіксованим запасом світла

Уявіть ліхтар, у якого фіксований запас світла. Спрямуйте його вузьким променем — пляма яскрава, кожна деталь у ній видна чітко. Розширте промінь на всю кімнату — світла рівно стільки ж, але розмазане воно тонким шаром, і розгледіти в дальньому кутку потрібну дрібницю вже важко.

Контекстне вікно працює схоже. Що більше ви в нього накидаєте, то «тьмяніша» увага моделі до кожного окремого шматка. Формально все ще «вміщується», але модель починає втрачати деталі — як око губить дрібницю в розмазаному світлі. Тому довгий, захаращений діалог часто працює гірше за короткий і сфокусований, навіть на одній і тій самій моделі.

Із цієї картинки одразу випливають два висновки. Перший: справа не в тому, що «світла мало» — вікна в сучасних моделей величезні, — а в тому, як воно розподілене. Другий: щоб важливе було видно чітко, промінь краще звузити, тобто тримати у вікні лише те, що стосується справи, а не освітлювати всю кімнату разом. До цього ми ще повернемося в практичній частині.

Як влаштовані ліміти Claude Code і як їх розтягнути

Як диктувати промпти та вставляти скріншоти в Claude Code

Як зробити сайт за допомогою Claude Code за 30 хвилин

Скільки коштує Claude Code і як оплатити підписку

Як встановити Claude Code: повний гайд для всіх систем

Як це працює

Щоб зрозуміти механізм, потрібні три шматочки: токени, context rot і «втрачена середина».

Токени — одиниця вимірювання вікна

Нейромережа бачить текст не літерами й не словами, а токенами — шматочками слів. Одне англійське слово — це часто один токен, а от українське слово майже завжди розбивається на кілька. Практичний висновок для нас: україномовний текст займає приблизно вдвічі більше токенів, ніж такий самий за змістом англійський. Отже, в одне й те саме вікно україномовного тексту влазить помітно менше. Простіше кажучи: якщо стаття англійською вкладається у вікно із запасом, її переклад може вже впертися в ліміт. Це варто тримати в умі, коли прикидаєте, скільки «поміститься» і в скільки це обійдеться.

Context rot — «загнивання контексту»

Головний механізм. У липні 2025 дослідники Chroma протестували 18 моделей і показали: у міру зростання числа токенів у контексті здатність моделі точно знаходити й використовувати потрібну інформацію падає — причому нерівномірно й навіть на простих завданнях. Anthropic незалежно визнає той самий ефект у своєму інженерному блозі (вересень 2025). Контрінтуїтивна деталь зі звіту Chroma: деградація проявляється, навіть коли потрібний факт лежить у контексті один і сформульований прямо, без пасток. Тобто проблема не в «складності запитання», а в самому обсязі — моделям важче працювати в довгому контексті як такому.

Чому так? Спрощено: механізм уваги в моделях влаштований так, що кожен токен «звіряється» з усіма іншими. Що довший контекст, то більше цих звірянь — навантаження зростає не лінійно, а приблизно як квадрат довжини. Грубо кажучи, якщо подвоїти довжину контексту, обсяг цих звірянь зростає приблизно вчетверо — тому довгий контекст обходиться непропорційно дорого і за увагою, і за часом відповіді. Це і є та «тьмяність променя» з аналогії, тільки на рівні математики.

Lost in the middle — «втрачена середина»

Другий, окремий ефект (його часто плутають із першим). Ще у 2023 році дослідники зі Стенфорда й Берклі (Liu et al., пізніше опубліковано в TACL 2024) виявили: якщо потрібний факт лежить у середині довгого контексту, модель знаходить його гірше, ніж якщо він на початку або в кінці. Крива точності виходить U-подібною: краї пам’ятаються краще, серединка «провалюється». Практичний сенс: важливе краще ставити на початок або в кінець запиту, а не топити в середині простирадла тексту. Це саме працює й у довгому діалозі: інструкцію, яку модель має тримати у фокусі, корисно повторити ближче до кінця, а не розраховувати, що вона «запам’ятала» її з першого повідомлення десять реплік тому.

Правило 40%: звідки воно і чи працює

Ви могли зустріти пораду «тримай заповнення контексту приблизно до 40%». Ідея слушна, але єдиного «закону 40%» не існує, і це не офіційна позиція Anthropic: вона взагалі не називає конкретний відсоток, а описує деградацію якості як плавний градієнт, а не різкий обрив (Anthropic Engineering).

«Правило 40%» — це community-евристика, і в різних практиків цифри різні.

Чому цифри так розходяться? Тому що «правильний» поріг залежить від завдання (просте запитання модель витягне і з забитого вікна, складне — ні), від конкретної моделі (в одних деградація м’якша, в інших різкіша) і від того, наскільки «чистий» контент лежить у вікні. Єдиного магічного числа тут у принципі бути не може — звідси й різнобій у порадах.

Що з цього випливає. Не сприймайте «40%» як магічне число — сприймайте як принцип: не набивайте вікно вщент. Поріг у кожного завдання й моделі свій, але напрямок один — що чистіший і коротший контекст, то надійніша модель. Простіше тримати в голові орієнтир «приблизно до половини вікна», а точну межу намацати на практиці.

Навіщо це знати практично

Розуміння механізму дає три відчутні вигоди.

Ви економите гроші й час. Довгий контекст — це не лише ризик деградації, а й прямі витрати: у низки моделей понад певний поріг токенів діє підвищений тариф, а час відповіді (латентність) зростає швидше, ніж лінійно, — те саме квадратичне навантаження. Простий приклад: якщо кожен запит тягне за собою всю історію довгого діалогу, ви платите за ці токени знову і знову на кожному кроці — і чекаєте відповіді довше. Свіжий короткий діалог за тим самим завданням обходиться в рази дешевше. Коротший контекст — дешевше й швидше.

Ви знаєте, коли «діалог протух». Є практичні маркери: модель починає повторювати вибачення, забуває деталі з нещодавніх повідомлень, плутає те, що ви обговорили пару реплік тому. Це сигнал, що вікно засмітилося. Найкращий хід — не боротися з цим умовляннями, а почати новий діалог під нове завдання чи очистити контекст.

Ви вмієте чистити контекст. У Claude Code для цього є команди: /compact — стиснути історію в короткий підсумок, зберігши суть, і /clear — повністю очистити контекст під свіже завдання. По суті це ручне керування тим самим бюджетом уваги. А загалом за те, щоб подавати моделі лише потрібне, відповідає обв’язка (harness) — те, як влаштований агент навколо моделі; керування контекстом — одне з її головних завдань.

На практиці це складається в кілька простих звичок: під нове завдання — новий діалог, а не безкінечна стрічка; подавайте моделі лише те, що стосується справи, а не «весь проєкт про всяк випадок»; великий документ дробіть і обговорюйте частинами; помітили, що модель почала повторюватися й забувати, — не вмовляйте її, а стисніть або очистіть контекст. Ці звички економлять і токени, і час, і часто працюють краще, ніж перехід на дорожчу модель.

Обмеження та слабкі місця

Важливо розуміти межі самого поняття «велике вікно» — інакше легко переоцінити можливості моделі.

• Великий розмір не дорівнює надійності. Заявлений вендором обсяг і обсяг, яким модель реально користується без втрати якості, — різні числа. Не будуйте роботу на припущенні, що модель однаково добре «тримає в голові» весь мільйон токенів.
• Довгий контекст — це гроші й час. Підвищені тарифи за токени понад поріг і квадратично зростаюча латентність роблять звичку «пхати все у вікно» дорогою.
• Керування контекстом не скасовує помилок моделі. Навіть ідеально чисте вікно не врятує від галюцинацій: контекст впливає на те, що модель бачить, але не на те, помиляється вона чи ні.
• Маркетинговим цифрам вікна не можна вірити на слово. Реальну корисну місткість показують незалежні тести (на кшталт пошуку фактів у довгому контексті), а не пресрелізи з рекордними числами.

Часті хибні уявлення

• «Вікно побільше — значить, модель розумніша по всьому обсягу». Ні. Заявлений розмір вікна і обсяг, яким модель реально надійно користується, — різні речі. Показовий приклад: на тесті пошуку фактів (за даними Anthropic) Opus 4.6 тримає 76% у мільйонному контексті, а Sonnet 4.5 — 18,5% на тому ж тесті. Той самий ефект у конкурентів: за власною модель-картою Google, Gemini 3 Pro на цьому типі тесту дає близько 77% при 128 тис. токенів, але просідає приблизно до 26% на повному мільйоні. І там, і там це вендорські цифри про свої ж моделі, не незалежний тест, — але напрямок вони показують однаково. Велике вікно — запрошення, а не гарантія якості по всій довжині. Здоровий скепсис до цифр вікна не завадить: улітку 2026 в соцмережах розійшовся пост про «вікно на 12 мільйонів токенів, у 52 рази потужніше за конкурентів». Навіть якщо таке вікно фізично існує, з розібраного вище випливає головне — великий заявлений розмір сам по собі нічого не гарантує; важливо, яким обсягом модель реально користується без втрати якості.
• «Контекстне вікно — це пам’ять ШІ». Не зовсім. Пам’ять — це те, що зберігається між сесіями (і її забезпечує обв’язка окремими механізмами). Вікно — разовий робочий буфер на один запит; закрили діалог — воно обнулилося.
• «Якщо факт вліз у вікно, модель його точно врахує». Не обов’язково. Через context rot і «втрачену середину» факт може фізично бути в контексті, але модель його «не побачить» — особливо якщо він у середині довгого тексту серед безлічі інших.
• «Щоб модель не забувала, треба просто згодувати їй весь проєкт цілком». Зазвичай навпаки: що більше зайвого у вікні, то гірше. Корисніше подавати лише релевантні шматки.

Пов’язані поняття

Короткий словничок за темою:

• Токен — мінімальний шматочок тексту, яким оперує модель; в українській одне слово — зазвичай кілька токенів.
• Context rot — поступове падіння якості відповідей у міру зростання обсягу контексту, навіть до його фізичного заповнення.
• Lost in the middle — ефект, за якого модель гірше пам’ятає інформацію із середини довгого контексту, ніж із початку й кінця.
• Компакція (compaction) — стиснення історії діалогу в короткий підсумок, щоб звільнити вікно, не втративши суть.
• Обв’язка (harness) — інфраструктура навколо моделі, яка зокрема керує контекстом; докладний розбір — у статті про відмінність Claude Code від чату.

FAQ

Що таке контекстне вікно простими словами? Це максимальний обсяг тексту (у токенах), який модель утримує за один запит. Не пам’ять, а разовий робочий буфер: між запитами модель нічого не пам’ятає сама по собі. Усе, що вона враховує просто зараз, — це те, що вмістилося в поточне вікно.

Чому ШІ «тупіє» в довгому діалозі? Через ефект context rot: що більше токенів у контексті, то гірше модель знаходить і використовує потрібне — якість уваги «розмазується» по обсягу. Плюс ефект «втраченої середини»: факти в середині довгого контексту пам’ятаються гірше. Тому проблеми починаються ще до того, як вікно фізично заповниться. Простіше кажучи, справа не в тому, що «пам’яті не вистачило», а в тому, що увазі моделі важко працювати у великому обсязі.

Скільки токенів пам’ятає ШІ? Залежить від моделі. На 10 липня 2026 у Claude Opus 4.8, Sonnet 5 і Fable 5 вікно — 1 млн токенів, у Haiku 4.5 — 200 тис. (у Fable 5 при цьому відповідь обмежена 128 тис. токенів). У конкурентів співставно: GPT-5.5 — близько 1,05 млн. Але пам’ятайте: «вміщується» не дорівнює «надійно використовується» — реально корисний обсяг зазвичай менший за заявлений. Практичний орієнтир — розраховувати не на весь заявлений розмір, а на його комфортну частину.

Чи правда, що треба тримати контекст до 40%? «Правило 40%» — не суворий закон і не офіційна рекомендація Anthropic, а популярна евристика; у різних практиків цифри від 40% до 80%. Корисніше розуміти принцип: не набивайте вікно вщент, тримайте контекст чистим, а точний поріг намацайте під своє завдання.

Як очистити контекст у Claude Code? Командою /clear — повністю очистити вікно під нове завдання, або /compact — стиснути історію в підсумок, зберігши головне. Якщо помічаєте, що модель почала забувати й повторюватися, це сигнал зробити одне з двох.

Як зрозуміти, що пора починати новий діалог? За поведінкою моделі: вона повторює вибачення, забуває деталі з нещодавніх повідомлень, плутає вже обговорене, відповідає все загальніше й «водянистіше». Це ознаки, що вікно засмітилося. Надійніше не «дотискати» той самий діалог умовляннями, а почати свіжий під конкретне завдання чи стиснути історію командою /compact.