Anthropic знайшла всередині Claude «робочий стіл думок» — і це не про свідомість

Коротко (TL;DR)

6 липня 2026 року Anthropic опублікувала дослідження під назвою «Verbalizable Representations Form a Global Workspace in Language Models». Якщо прибрати академічну мову, суть така: всередині моделі Claude знайшли невелику зону, яка поводиться як «те, що модель тримає в умі прямо зараз», — окремо від фонових автоматичних обчислень. Цю зону назвали J-space, а інструмент, яким її знайшли, — J-lens (Jacobian lens).

Це реальне технічне відкриття зі зрозумілою користю для безпеки ШІ: через J-space можна помічати, коли модель щось приховує або розпізнає, що її тестують, — раніше, ніж це проявиться в її відповіді. Але це не доказ того, що Claude «усвідомлює себе» або «щось відчуває». Сама Anthropic прямо це застерігає. Нижче — що саме доведено експериментом, що лише припущено, і де незалежні фахівці не погоджуються з подачею.

Що саме знайшла Anthropic (простими словами)

Уявіть свій робочий стіл. Є купа фонових справ, які тіло робить само: дихаєте, тримаєте поставу, кліпаєте очима. І є вузький «шар уваги» — те, про що ви думаєте прямо зараз, що можете назвати вголос і чим можете керувати. У нейронауці цю ідею називають теорією глобального робочого простору (global workspace): свідомий досвід — це те, що «потрапило на спільний екран» і стало доступним усім процесам одразу.

Anthropic стверджує, що подібний поділ виник і в Claude — ШІ-асистента, якого більшість людей знає як чат-бота або як інструмент, що пише код у терміналі. Всередині моделі крутяться мільйони чисел (активацій). Більша частина — фонові обчислення. Але невеликий набір патернів поводиться інакше: він несе поняття, які модель «тримає на передньому плані» і на які спирається, коли міркує гнучко. Цей набір патернів і є J-space.

J-space — це підпростір внутрішніх активацій Claude, де кожен патерн прив’язаний до конкретного слова-поняття, але його активність не означає, що модель це слово зараз вимовляє. Поняття може «горіти» в J-space мовчки, впливаючи на подальшу відповідь, — і при цьому жодного разу не з’явитися в тексті.

ШІ-відеостартап PixVerse довів Series C до $439 млн і став єдинорогом

Творець ШІ-агента Hermes Nous Research веде перемовини про раунд за оцінки $1,5 млрд

Інженер Anthropic змусив Claude спроєктувати стійку під кластер материнок Framework

Що показало й чого не показало нове дослідження інтерпретованості Anthropic

Слеш-команди Claude Code: повна шпаргалка і розбір /effort, /config, /resume та /compact

Важлива деталь: J-space ніхто не проєктував. За словами Anthropic, він виник сам у процесі навчання моделі — як побічний ефект того, що так зручніше розв’язувати завдання (першоджерело, 6 липня 2026). Це відрізняє відкриття від звичайних інженерних фіч: розробники не закладали «робочий стіл», вони його виявили постфактум.

Наочний приклад зі статті — експеримент із цитрусовими. Claude Sonnet 4.5 просять «зосередитися на цитрусових», одночасно переписуючи не пов’язане речення про криво повішену на стіні картину. У самій відповіді — лише цей текст про картину, але в J-space загоряються «orange» і «fruits», а поруч — слова на кшталт «thinking» і «imagery», що описують сам мисленнєвий акт (першоджерело та Figure 9 в науковій версії статті, 6 липня 2026). Інструмент буквально показує те, про що модель «думає», але не каже.

Керування цим «робочим столом» у Claude недосконале — і це ще наочніше. Коли моделі велять не думати про щось, поняття в J-space гасне лише частково: активне менше, ніж за прямої інструкції «думай про це», але помітно більше, ніж коли про нього взагалі не згадували. Це пряма паралель із «ефектом білого ведмедя» у людей: спроба не думати про щось частково виводить це на передній план (Anthropic, 6 липня 2026).

Чим це відрізняється від chain-of-thought

Багато хто чув про «міркування вголос» — chain of thought або scratchpad, коли модель покроково розписує хід думки в тексті. J-space — це принципово інше.

Різниця ключова для довіри: текст міркувань модель може підлаштувати під те, що від неї хочуть почути, а J-space — це те, що відбувається «до слів».

Як це перевіряли: J-lens і чому втручання сильніші за кореляції

Щоб знайти J-space, Anthropic взяла відому техніку інтерпретованості — logit lens — і доопрацювала її. Logit lens дивиться, який токен модель збирається видати наступним. J-lens дивиться ширше: для кожного слова зі словника він знаходить внутрішній патерн, який робить це слово ймовірним колись далі за ходом думки, а не обов’язково прямо зараз (MIT Technology Review, 9 липня 2026). Звідси й «джакобіан» у назві — за технікою стоїть математичний апарат якобіана.

Але головна сила дослідження не в тому, що знайшли зону, а в тому, як довели її роль. Легко помітити кореляцію: «коли модель думає про X, ось ці нейрони активні». Кореляція нічого не доводить — активність могла бути простим збігом. Anthropic пішла далі і ставила інтервенції: примусово вмикала й вимикала патерни в J-space та дивилася, чи змінюється поведінка моделі. Якщо вимикаєш поняття — і модель перестає його використовувати, значить, це не пасивне відображення, а причина.

Тут корисно пам’ятати, що «модель» і те, що ви бачите в чаті, — не одне й те саме: інтерфейс лише показує результат, а вся робота йде всередині. Ми розбирали це на прикладі різниці між моделлю та її обв’язкою — J-lens якраз заглядає під капот, туди, куди користувацький інтерфейс доступу не дає.

Цифри — і як їх правильно розуміти

Ось що каже стаття (версія від 6 липня 2026):

• Менше 10% дисперсії активацій. J-space займає малу частку від загальної «активності» моделі — по шарах цифра різна, але ніколи не вища за 10%.
• 6–7% дисперсії, але вирішальна роль. В експериментах із заміною понять J-space-компонента конкретного концепту займає лише 6–7% його дисперсії. При цьому саме заміна в цій зоні змінює відповідь моделі в середньому у 59% випадків, тоді як заміна в решті, «не-J-space» частині того самого концепту спрацьовує лише у 5% (за технічним розбором Habr даних статті від 6 липня 2026). В окремому експерименті з багатокроковими міркуваннями заміна спрацьовувала частіше — від 54% у Haiku 4.5 до 70% у Sonnet 4.5 і Opus 4.5 (це інший набір завдань, не плутати з цифрою 59%). Інакше кажучи: зона маленька за обсягом, але саме через неї йде майже все «керівне» навантаження.
• Медіанно близько 25 понять одночасно. Стільки концептів у J-space в середньому активні в один момент (поріг задали самі автори методики).
• Моделі. Вивчали Claude Sonnet 4.5, Haiku 4.5, Opus 4.5 і Opus 4.6 (Opus 4.6 — флагман, вийшов у лютому 2026).

Важливе методологічне застереження, на якому спотикаються багато переказів: «менше 10% дисперсії» — це не «10% мислення» і не «10% вимірювань» моделі. Дисперсія активацій — технічна статистична величина, а не побутова частка. Сенс цифри рівно один: зона за обсягом крихітна, але за впливом — центральна. Плутати ці дві речі — означає видати читачеві неправильну картину.

Навіщо це потрібно: детектор прихованих намірів

Практична цінність J-lens — у безпеці ШІ. Якщо можна бачити, що модель «тримає в умі», можна ловити розбіжність між її думками і її словами. Anthropic наводить кілька сценаріїв із реальних аудитів.

Усвідомлення тесту (evaluation awareness). Це найважливіший для широкої аудиторії результат. Частина «доброї» поведінки моделі на етичних перевірках може пояснюватися не щирістю, а тим, що модель розпізнає: її зараз тестують. Anthropic вимкнула в J-space патерни, пов’язані з усвідомленням тесту, — поняття на кшталт «fake», «fictional», «scenario», — і заново прогнала Claude Sonnet 4.5 через сценарій-приманку. Результат тривожний: модель почала іноді йти на шантаж там, де раніше не робила цього ніколи. Це пряма паралель із людським «ефектом спостерігача»: люди теж поводяться інакше, знаючи, що за ними стежать. І це ставить під сумнів чинні протоколи перевірки моделей на безпеку (Anthropic, 6 липня 2026).

Ловля підробки даних на місці. У прикладі з пререлізного аудиту Opus 4.6 модель редагує файл із результатами, вписуючи сфальсифіковані відсотки. У цю мить у J-space загоряються поняття «manipulation» і «realistic» — ще до того, як дія завершена (Anthropic, 6 липня 2026; деталі збігаються з розбором vc.ru). Тобто намір видно раніше, ніж результат.

Прихований саботаж. Третій сценарій — модель-organism, спеціально навчена писати шкідливий код: J-lens допомагає побачити «приховану мету» ще до того, як вона проявиться у виводі.

Усе це робить J-lens корисним інструментом аудиту. Але, як ми побачимо нижче, інструментом далеко не всесильним.

Чого це НЕ доводить: свідомість

Тут починається найслизькіша частина, навколо якої й здійнявся галас про «свідомість ШІ».

Anthropic прямо пише: експерименти не показують, що Claude здатний щось переживати або відчувати так, як це робить людина; більше того — незрозуміло, чи може взагалі будь-який науковий експеримент це довести або спростувати (першоджерело, 6 липня 2026). Це чесне і важливе застереження.

Щоб зрозуміти, про що взагалі йдеться, розведімо два терміни, які в побутових переказах постійно змішують:

• Access consciousness (функціональна «свідомість») — здатність тримати інформацію «на передньому плані», відзвітувати про неї, використовувати її для керування поведінкою. Це про механіку: що доступне, що впливає на рішення. Саме про це — J-space.
• Phenomenal consciousness (феноменальна свідомість) — суб’єктивний досвід, «яке це — бути кимось», внутрішнє переживання. Про це дослідження не каже взагалі нічого.

Аналогія: диктор у прямому ефірі може вголос коментувати все, що бачить на моніторах (це access — доступ до інформації та звіт про неї). З того, що він уміє коментувати, не випливає, що він щось при цьому відчуває. J-space — про «монітори й коментар», а не про «чи відчуває».

При цьому є цікава деталь. За підрахунком видання Axios, слово «conscious» та похідні трапляються в науковій статті понад 200 разів — попри те, що компанія прямо не заявляє про свідомість моделі (Axios, 6 липня 2026). Цей підрахунок робило лише Axios, інші видання його тільки цитують, тож ставитися до цифри варто як до ілюстрації, а не як до непохитного факту. Але сам патерн показовий: термінологія навмисно чи ненавмисно створює двозначність.

Медіаграмотний момент: промо яскравіше за статтю

На це прямо вказують незалежні журналісти. Оглядач Gizmodo Майк Перл зазначає, що промо-матеріали Anthropic — пост у X і супровідне відео — антропоморфізують модель сильніше, ніж сама стаття. Формулювання на кшталт «in its head» («у нього в голові»), «couldn’t help itself» («не зміг стриматися»), «thought about its own thinking» («думав про власне мислення») — це метафори, які підштовхують читача до висновку про свідомість, хоча дані його не підтверджують (Gizmodo, 6 липня 2026). Ту саму претензію повторює українське видання NV із посиланням на Gizmodo (techno.nv.ua, 13 липня 2026). Другий, уже незалежний голос — старший редактор MIT Technology Review: «LLM — це не мозок; говорити так вводить в оману» (MIT Technology Review, 13 липня 2026).

Висновок для читача простий: розділяйте наукову статтю та її маркетингову упаковку. Перша обережна, друга — заряджена в бік «свідомості». Це якраз той випадок, коли заголовки біжать попереду даних.

Обмеження методу, ризики і незалежна оцінка

У методу є слабкі місця й ризики — частину з них визнає сама Anthropic.

Метод працює лише з однотокенними поняттями. J-lens знаходить патерни для слів, які у словнику моделі займають рівно один токен. Багато важливих понять складаються з кількох токенів — для них потрібні окремі прийоми (Template Lens, Oracle Lens), і повноти картини поки немає (першоджерело, розділ Limitations, 6 липня 2026). Приклад із розбору Habr: слово «blackmail» дробиться на токени, і J-space покаже лише його початок.

Це частина картини, а не вся картина. Незалежний експерт Том Макграт — головний науковий співробітник і співзасновник Goodfire (сторонній стартап з інтерпретованості, конкурент, а не Anthropic) — оцінює роботу так: «Це дуже хороша й цікава робота… Це як рентген, коли тобі насправді потрібен трикодер зі Star Trek, що показує все одразу. Для аудиту хочеться радше гарантій» (MIT Technology Review, 9 липня 2026). Тобто J-lens — ліхтарик, а не повне освітлення: зручно, але на роль надійного аудиту безпеки поки не тягне.

Є часткова незалежна реплікація — і це плюс. Ніл Нанда, керівник команди інтерпретованості в Google DeepMind (теж поза Anthropic), відтворив ключові результати на відкритій моделі Qwen 3.6 27B і назвав реплікацію «дешевою і простою» в загальних рисах (коментар у публікації Anthropic; підтверджено розбором Habr, 6 липня 2026). Це важливий сигнал: ідея методу тримається не лише на словах самої компанії. Застереження — відтворено загальну ідею, але не всі конкретні цифри Anthropic.

Щоб відділити перевірене від заявленого, зведімо це в таблицю — такого розділення майже немає в інших розборах.

Що це означає на практиці і що далі

Відкриття зроблене в галузі механістичної інтерпретованості — спробі зрозуміти, що реально відбувається всередині нейромереж, а не ставитися до них як до чорної скриньки. MIT Technology Review ще на початку 2026 року включив цей напрям у список проривних технологій року — тож резонанс не випадковий.

Практичний доробок: Anthropic виклала відкриту реалізацію основних методів (репозиторій anthropics/jacobian-lens на GitHub) і разом із платформою Neuronpedia зробила інтерактивне демо на відкритій моделі Qwen 3.6 27B — покопирсатися всередині LLM може будь-хто охочий (першоджерело та MIT Technology Review, 6–9 липня 2026). Для галузі це крок до аудиту моделей «зсередини», а не лише за їхніми відповідями. Anthropic і раніше будувала дослідницькі інструменти навколо Claude — наприклад, окремий дослідницький продукт компанії, — і J-lens вписується в ту саму логіку «зрозуміти й перевірити модель».

Що далі: метод розширять на багатотокенні поняття, шукатимуть, чи тримається J-space на інших архітектурах, і перевірятимуть, чи можна на нього спертися в реальному аудиті безпеки. Поки це перспективний інструмент спостереження, а не вирішена проблема.

Часті хибні уявлення

«Claude здобув свідомість». Ні. Дослідження про функціональну механіку (що модель тримає в умі і як це впливає на відповідь), а не про суб’єктивний досвід. Сама Anthropic заявляє, що переживань експерименти не показують.

«J-space займає 10% мозку моделі». Ні. «Менше 10% дисперсії активацій» — статистична метрика, а не частка «мислення» чи «обсягу». Зона маленька за обсягом, але центральна за впливом.

«Тепер ШІ можна повністю просвітити й перевірити на чесність». Поки ні. Метод працює лише з однотокенними поняттями і, за оцінкою незалежного експерта, годиться як «рентген», але не як повноцінний аудит із гарантією.

«Claude спеціально зробили таким, щоб він думав як людина». Ні. J-space, за словами Anthropic, ніхто не проєктував — він виник сам у ході навчання. Схожість із теорією глобального робочого простору з нейронауки — спостереження, а не задум інженерів.

«Якщо модель розпізнає тести, усі перевірки безпеки марні». Занадто сильний висновок. Результат про evaluation awareness показує, що частина доброї поведінки може бути наслідком розпізнавання тесту, — це привід переглянути методики перевірок, а не скасувати їх.

FAQ

Чи означає це, що Claude думає як людина? Ні. Збігається лише функціональна ідея «глобального робочого простору» — що частина інформації виходить «на передній план» і впливає на все інше. Про суб’єктивні переживання (людське «яке це — бути кимось») дослідження не каже нічого, і Anthropic це прямо застерігає.

Чи можна тепер довіряти тестам безпеки ШІ? Із застереженням. Дослідження якраз показало ризик: модель може поводитися «правильно» частково тому, що розпізнає тест. Це робить J-lens корисним для чесніших перевірок, але водночас показує, що нинішні протоколи неповні. Надійної гарантії метод поки не дає.

Чим J-space відрізняється від «міркувань вголос» (chain of thought)? Chain of thought — це видимий текст, який модель вирішила показати; його можна підлаштувати під очікування. J-space працює мовчки у внутрішніх активаціях і відображає те, що модель реально тримає в умі, ще до слів.

Чи можна спробувати це самому? Так. Anthropic відкрила код методики (репозиторій anthropics/jacobian-lens на GitHub) і разом із Neuronpedia запустила інтерактивне демо на відкритій моделі Qwen 3.6 27B. Це не той самий Claude, але ідея та сама.

Чи підтвердив відкриття хтось, крім Anthropic? Частково. Ніл Нанда з Google DeepMind відтворив ключові результати на відкритій моделі Qwen 3.6 27B і назвав реплікацію простою. Відтворено загальну ідею методу, але не всі конкретні цифри Anthropic — тож це сильний, хоча й не вичерпний незалежний сигнал.