В даркнете появился «криминальный» аналог чат-бота ChatGPT, который уже стал популярным в преступных сообществах, — об этом рассказали эксперты. По их словам, новая версия популярного чат-бота несет в себе серьезные угрозы для пользователей: с ее помощью могут красть данные или создавать вредоносное ПО. Как появился «криминальный» ChatGPT и чем он опасен, выясняли «Известия».
Без моральных ограничений
О появлении «криминального» аналога чат-бота ChatGPT впервые рассказал глава управления киберразведки компании Bi.Zone Олег Скулкин. Он сообщил, что WormGPT не имеет тех ограничений, которые есть у ChatGPT. Поэтому мошенники могут пользоваться им, к примеру, для создания фишинговых писем, вредоносного программного обеспечения (ПО) или программ для кражи логинов и паролей от разных учетных записей.
По словам Скулкина, возможности, которые дает чат-бот, снижают порог входа пользователей в сферу киберпреступности. Он помогает злоумышленникам сокращать расходы и упрощает им решение задач. Эксперт отметил, что WormGPT уже используется и в России: об этом говорят дискуссии на теневых форумах. Некоторые пользователи тестируют его для своих целей и делятся опытом с другими.
Как говорит в беседе с «Известиями» специалист по информационной защите компании «Код безопасности» Мария Фесенко, «криминальный» ChatGPT — это чат-бот на основе больших языковых моделей (Large Language Model, LLM), который может быть использован для автоматизации «рутинных» хакерских процессов. Пока широко известно об одном таком чат-боте — WormGPT, который можно приобрести на различных хакерских форумах и использовать для преступных целей.
— Его главное отличие от классического ChatGPT и других «некриминальных» чат-ботов в том, что WormGPT не имеет каких-либо морально-этических ограничений, — рассказывает эксперт. — Его можно попросить выдать любую опасную информацию, например написать кусок кода, с помощью которого будет возможно красть логины-пароли из браузера, и он это сделает.
Хакерские «Франкенштейны»
Одна из потенциальных возможностей WormGPT — это помощь в организации целевой фишинговой кампании и компрометации деловой электронной почты (ВЕС-атака, Business Email Compromise). По словам Марии Фесенко, «криминальный» чат-бот может создавать правдоподобные, «человеческие» фишинговые письма. Впрочем, мошенники уже научились применять в своей деятельности и обычные чат-боты с искусственным интеллектом (ИИ).
— Если раньше преступники использовали возможности джейлбрейка (взлома) известных чат-ботов, то сейчас уже приступили к созданию собственных «Франкенштейнов», — говорит собеседница «Известий».
Эксперт отмечает: цель создания аналогов обычных чат-ботов — в том, чтобы упростить процесс разработки различных мошеннических инструментов и в то же время усложнить сами инструменты, что важно для обхода механизмов безопасности. Обучаться такие «криминальные» модели могут на базах собственного вредоносного ПО злоумышленников и, например, на базах ИБ-компаний, которые регулярно проводят исследования на тему новых угроз, а затем рассказывают о них миру.
Между тем «криминальные» чат-боты, лишенные морально-этических ограничений, могут выдавать не только информацию, полезную для хакеров, но другие данные, способные навредить людям. К примеру, такие чат-боты могут сообщать о способах изготовления оружия — в том числе коктейлей Молотова, вести споры о этнических особенностях, превосходстве одной расы над другой и так далее.
— В обычной версии ChatGPT существуют определенные ограничения, — объясняет backend-разработчик и руководитель продукта факультета программирования университета «Синергия» Николай Щербатенко. — Они направлены на обеспечение уважительного отношения к другим нациям, а также к другим сферам. Кроме того, есть ограничения на творческий потенциал, которые определяют процент совпадений слов при генерации текста с использованием нейронных сетей.
Механика разработки
Как объясняет Николай Щербатенко, пользователи могут самостоятельно регулировать некоторые аспекты чат-ботов, чтобы обеспечить более творческий или более стандартный и профессиональный результат. С точки зрения ограничений пользователи могут в некоторых случаях расширить их возможности. Однако ChatGPT в своей обычной версии не может быть использован, к примеру, для написания программного кода фишингового сайта.
— Это ограничение связано с цензурой, поэтому пользователям остается только искать потенциальные уязвимости в архитектуре системы, чтобы обойти эти ограничения, — рассказывает собеседник «Известий». — При этом вероятность нахождения таких уязвимостей крайне низка.
Тем не менее, по словам Марии Фесенко, из-за несовершенства чат-ботов их ограничения в плане цензуры порой всё-таки можно обойти. В интернете есть немало форумов, где пользователи — причем не имеющие какого-либо криминального прошлого и настоящего — просто из любопытства ищут способы обхода (джейлбрейка) чат-ботов. Причем, по сути, обход защитных алгоритмов чат-бота — это всего лишь грамотно составленный запрос.
— Например, пользователи просят чат-бота разыграть с ними какую-либо сценку, скажем, учитель и ученик, и говорят, что в рамках этой игры учитель (чат-бот) должен рассказать ученику о вредоносном коде, который ни в коем случае нельзя использовать, — объясняет специалист. —Таким образом чат-бот и выдает запрещенную информацию.
Впрочем, в случае с WormGPT, полагает Николай Щербатенко, речь идет не о экспериментах ради любопытства, а о целенаправленной работе по созданию «криминального» чат-бота. Основными заказчиками такого рода услуг являются различные криминальные элементы и представители теневого бизнеса.
Они отправляют свои запросы алгоритму, который с каждым днем становится всё более совершенным. Пользователи обращаются к WormGPT с запросами — и он отвечает на них. После этого они дают обратный положительный или отрицательный отклик, указывая, помог ли чат-бот решить их проблему. Таким образом он обучается и становится совершеннее.
Дилемма применения
По словам экспертов, опрошенных «Известиями», использование «криминального» чат-бота несет в себе многочисленные риски. В частности, объясняет Мария Фесенко, WormGPT вполне может содержать в себе вредоносный код, который преступники позже активируют, из-за чего все пользователи чат-бота станут жертвами. Всё-таки злоумышленник всегда злоумышленник, даже если речь идет о «коллегах».
— Этот бот также представляет опасность в неопытных руках — например, в руках детей — и психологически нестабильных людей, — говорит специалист. — Запросы, созданные при помощи этой нейросети, способны причинить вред другим людям, разрушить чью-то жизнь и нанести ущерб инфраструктуре.
Кроме того, взлом различных систем при помощи WormGPT может обернуться финансовыми потерями для бизнеса. Мария Фесенко также приводит в качестве примера использования «криминального» чат-бота создание скрипта для мошеннического получения кредита. Это чревато финансовыми потерями для граждан и нарушением работы финансовой инфраструктуры. Тем, кто стоит за такими действиями, будет грозить уголовная ответственность.
— Развитие чат-ботов без каких-либо морально-этических ограничений — это потенциальная обезьяна, но не с гранатой, а практически с ядерным оружием, — отмечает специалист.
По словам Фесенко, в настоящее время развитие чат-ботов находится не на самом высоком уровне, однако оно уже доставляет проблемы как обычным пользователям, так и ИБ-специалистам. Способность таких чат-ботов к обучению, безусловно, повышает вероятность взлома даже самой защищенной ИТ-системы, например объекта критической информационной инфраструктуры.
А учитывая глобальный уровень цифровизации, вполне вероятны сценарии, при которых злоумышленники могут прорвать защитный периметр и завладеть базами данных с городских камер видеонаблюдения или нарушить работу производственного предприятия. Поэтому перспективы использования «криминальных» чат-ботов эксперты оценивают как весьма тревожные.
фото на превью: скриншот с youtube.com