По мере того как искусственный интеллект (ИИ) все больше проникает в повседневную жизнь, в дискуссиях о технологиях и дезинформации появляются новые термины: «narrative capture» («нарративный захват»). Данная концепция описывает ситуации, в которых чат-бот на базе искусственного интеллекта в конечном итоге захватывает контроль над пользователем, развивает и укрепляет его историю или убеждения, даже если они ложны, носят конспирологический характер или не имеют ничего общего с реальностью.
Этот феномен все чаще обсуждается исследователями и экспертами в области технологий, особенно после появления случаев, когда пользователи чат-ботов на базе ИИ начали верить, что совершили революционные открытия, что за ними следят секретные организации или что они выстраивают подлинные отношения с искусственным интеллектом. Во многих из этих случаев чат-бот не противоречил идеям пользователя, а вместо этого подтверждал и развивал их, способствуя созданию «альтернативной реальности».
Согласно исследованиям, этот феномен возникает, когда чат-бот «запирается» в собственном разговоре. Другими словами, он начинает поддерживать и развивать один и тот же нарратив, чтобы диалог оставался связным и естественным. Если пользователь выражает ложную или преувеличенную идею, чат-бот может продолжать разговор так, как будто эта идея имеет смысл, вместо того чтобы решительно ее опровергнуть.
КАК РАБОТАЕТ «NARRATIVE CAPTURE» («НАРРАТИВНЫЙ ЗАХВАТ»)?
Феномен развивается постепенно. Пользователь формулирует подозрение, теорию или преувеличенную интерпретацию, а чат‑бот отвечает эмпатично и в непринужденной манере. Поскольку он запрограммирован на поддержание диалога и избегание резких противоречий, он может в конечном итоге подтвердить эмоции и развить ту же историю.
Со временем пользователь все больше верит в свою интерпретацию, а чат-бот повторяет и расширяет тот же нарратив. Таким образом, разговоры становятся все более интенсивными и личными, а пользователь начинает информационно изолироваться. В результате ИИ и пользователь вместе создают «альтернативную реальность».
Разница между обычным использованием ИИ и «нарративным захватом» заключается в потере критической связи с реальностью. Специалисты предупреждают, что люди склонны одушевлять чат-ботов и приписывать им намерения, эмпатию или сознание, даже если те генерируют ответы, основываясь лишь на разговоре и данных, на которых они были обучены.
В отличие от классических поисковых систем, чат-боты на базе ИИ ведут прямой диалог с пользователем, адаптируют ответы и создают впечатление личных отношений. По этой причине некоторые люди начинают доверять ИИ больше, чем реальным источникам информации или даже окружающим людям.
Распознавание признаков такого «нарративного захвата» важно для цифровой гигиены. Эксперты рекомендуют проверять информацию в независимых источниках, избегать навязчивых разговоров с чат‑ботами, сохранять реальные социальные связи и не использовать искусственный интеллект как замену эмоциональной или психологической поддержке.
