Генеративный искусственный интеллект могут начать применять для создания поддельных онлайн-персон — такую перспективу рассматривают в минобороны США. Цифровые шпионы необходимы для сбора данных на социальных платформах и других ресурсах в Сети. Подробности о том, почему в США задумались о создании цифровых шпионов и какие риски их появление несет для пользователей по всему миру, читайте в материале «Известий».
Генеративный ИИ и виртуальные агенты
О том, что в минобороны США рассматривают перспективу применять генеративный искусственный интеллект (ИИ) для создания поддельных онлайн-персон, сообщило издание The Intercept. По данным журналистов, соответствующий запрос был сформирован Командованием специальных операций (JSOC).
В нем выражен интерес к разработке технологий, которые позволяют создавать поддельные, но реалистичные профили пользователей для работы на социальных платформах и других ресурсах в Сети. В JSOC намерены предоставить спецподразделениям технологии, которые могли бы создавать виртуальные личности с применением изображений лиц, фонов, видеороликов и звуков.
Такие поддельные профили могут применять для сбора данных на открытых онлайн-форумах, а также в других популярных источниках. Как отмечается в публикации The Intercept, в последние годы Пентагон всё активнее применяет разнообразные методы цифрового наблюдения и информационного влияния в Сети. Однако использование ИИ в подобных операциях может стать новым шагом в развитии онлайн-разведки.
При этом ранее, в 2023 году, минобороны США уже выражало интерес к дипфейкам, которые рассматривались как инструмент влияния в рамках программ Специального командования операций (SOCOM). Между тем планы по усилению наблюдения и шпионских операций с помощью ИИ есть и у союзников Дональда Трампа — кандидата в президенты США на предстоящих ноябрьских выборах.
Цифровые шпионы как инструмент разведки
Как говорит в беседе с «Известиями» руководитель группы защиты инфраструктурных IT-решений компании «Газинформсервис» Сергей Полунин, цифровых шпионов, о создании которых задумались в минобороны США, нельзя назвать чем-то принципиально новым: сегодня всевозможные боты уже составляют значимый процент от общего числа пользователей соцсетей.
— Однако если раньше такие боты легко вычислялись, то с выявлением цифровых шпионов могут возникнуть проблемы, — рассказывает эксперт.
Начальник отдела по информационной безопасности компании «Код безопасности» Алексей Коробченко поясняет, что с помощью ИИ можно создавать убедительные фейковые профили, которые смогут обмануть не только пользователей, но и технические средства верификации. Например, некоторые сервисы требуют подтверждения личности через фото, а поддельные аккаунты будут созданы с применением дипфейков, поэтому смогут обмануть технические средства.
Таким образом в Сети появится огромное количество якобы легитимных профилей, которые будут действовать в едином ключе по воле того, кто их создал, считает эксперт. Он отмечает, что в первую очередь армия фейковых, но правдоподобных профилей в соцсетях или любых других сервисах интересна спецслужбам — недаром разработкой заинтересовалось JSOC. Эта структура проявляет повышенный интерес к ИИ-технологиям, способным создавать дипфейки.
— Цифровые шпионы — из той же серии: создание сети поддельных аккаунтов дает возможность влиять на общественное мнение, создавать нужные тренды, устанавливать необходимую повестку дня и проводить кампании по дезинформации, — рассказывает Алексей Коробченко.
При этом, как отмечает специалист, уровень опасности цифровых шпионов весьма велик, ведь соцсети и другие интернет-сервисы сегодня играют огромную роль в политике, гражданском обществе и в повседневной жизни.
Аналитик-исследователь угроз кибербезопасности R-Vision Руслан Бисенгалиев подчеркивает, что цифровой мир существует параллельно с реальным и влияет на него — поэтому можно создать тысячи «недовольных» ботов и с их помощью манипулировать мнением реальных людей.
Шпионы для хакеров
Между тем цифровые шпионы потенциально могут быть интересны не только спецслужбам, но и киберпреступникам — к примеру, как эффективное средство организации фишинговых атак. Сотни виртуальных агентов, оставляющих осмысленные комментарии, могут таким образом влиять на новости, биржевые котировки и многие другие вещи, говорит Сергей Полунин.
— Конечно, боты могут многое и сейчас, но у них нет истории сообщений, а их профили или пустые, или бессмысленные, — говорит собеседник «Известий». — А у цифровых шпионов будут правдоподобные профили, история сообщений и даже осмысленные посты в десятке соцсетей.
Возможность заполонить интернет-пространство дипфейками Алексей Коробченко называет мечтой киберпреступников. С помощью поддельных аккаунтов они могут создавать фон для мошеннических компаний, чтобы реальные пользователи верили многочисленным отзывам, заходить на фишинговые сайты или покупать условные ключи для криптовалютных бирж, которые в итоге окажутся пирамидами.
Если сейчас, обладая критическим мышлением и навыками интернет-общения, еще можно вычислить троллей, ботов и аферистов, то с применением ИИ-технологий в настолько огромном масштабе обнаружить подвох будет намного сложнее, прогнозирует эксперт. Это чревато многочисленными рисками, включая масштабные утечки персональных данных, массовое заражение гаджетов вирусами и потерю денег.
— Мошеннические схемы станут еще более изощренными, и чем больше будут развиваться ИИ-технологии подобного класса, тем они будут дешевле, а значит, и доступнее для даже низкоквалифицированных мошенников, — подчеркивает Алексей Коробченко.
Руслан Бисенгалиев дополняет, что в перспективе применение цифровых шпионов также опасно провокациями, в ходе которых обычных пользователей могут попытаться втянуть в совершение различных преступлений.
Механизмы защиты от цифровых шпионов
В случае, если цифровые шпионы действительно начнут встречаться в Сети, самым лучшим средством против них станет внимательность, считает Сергей Полунин. По словам эксперта, соцсети давно стали не только местом общения друзей, но и пространством, где довольно легко стать жертвой мошенников. В этом плане появление цифровых шпионов потенциально не изменит ситуацию, хотя может увеличить число пострадавших в Сети.
— Чтобы защитить себя, необходимо повышать свое интернет-образование: нужно разбираться в актуальных мошеннических схемах и технологиях, знать, как реализовываются кампании влияния и дезинформации, а также использовать технические средства защиты, в том числе различные антивирусы, менеджеры паролей и двухфакторную аутентификацию, — говорит в беседе с «Известиями» Алексей Коробченко.
По словам эксперта, использовать технические средства особенно важно, поскольку социальная инженерия будет становиться всё эффективнее, и на пути злоумышленников должны быть выставлены всевозможные барьеры, которые они, вероятно, не смогут преодолеть без специальных и довольно качественных знаний. Одной из ответных мер против цифровых шпионов, сгенерированных ИИ, могут стать решения с использованием больших языковых моделей (LLM), считает старший аналитик данных R&D-лаборатории Центра технологий кибербезопасности ГК «Солар» Полина Сокол.
— Суть цифровых шпионов — максимально имитировать поведение обычных пользователей, — заключает Руслан Бисенгалиев. — Вероятно, будущее защиты связано с тем, чтобы пользователи соцсетей подтверждали свою личность финансово, как это уже реализовано в некоторых социальных сетях, где введена подписка для защиты от ботов.