Как искусственный интеллект помогает террористам: Революция в пропаганде и вербовке

Появление искусственного интеллекта перенесло нас в эпоху беспрецедентного технического прогресса, произведя революцию в таких областях, как медицина, промышленность и коммуникации. Однако у него есть и обратная сторона. Развитие искусственного интеллекта развязывает руки террористическим организациям, которые к моменту написания статьи уже прекрасно научились пользоваться его преимуществами.

Экспоненциальное использование радикальными группировками искусственного интеллекта, особенно генеративного ИИ, представляет серьезную угрозу глобальной безопасности, расширяя их возможности для пропаганды, вербовки и выполнения террористических операций без присутствия самих террористов. Искусственный интеллект произвел революцию в способах распространения экстремистскими группами своих идеологий и вербовки новых членов. Благодаря генеративному искусственному интеллекту, способному автономно создавать текстовый, аудио- и видеоконтент, террористические альянсы теперь знают, как создавать более сложную, более убедительную и трудную для обнаружения пропаганду.

Одним из наиболее тревожных проявлений этой новой формы пропаганды является использование так называемых «дипфейков», гиперреалистичных видеороликов, созданных искусственным интеллектом, которые позволяют фальсифицировать лица и голоса отдельных лиц, в частности, политиков и даже религиозных деятелей. Эксперты в области кибербезопасности бьют тревогу: экстремисты достигли высоких результатов в распространении дипфейковой пропаганды. В частности, ИГИЛ обращается к искусственному интеллекту для передовой пропаганды, затем дипфейки используются для того, чтобы создать информативный хаос, дискредитировать силовые ведомства и подстрекать к насилию путем распространения ложных заявлений или изображения людей в компрометирующих ситуациях.

Помимо дипфейков, искусственный интеллект используется террористами для создания персонализированного письменного, аудио- и видеоконтента, нацеленного на уязвимость в психологии определенных людей и усиливающего чувства гнева, страха или ненависти. В докладе Центра Суфана, озаглавленном «Террористические группы, обращающиеся к искусственному интеллекту для усиления пропаганды и усилий по вербовке», подчеркивается растущее использование ИИ такими террористическими группировками для доставки целевых сообщений и вербовки новых последователей. ИИ позволяет сегментировать аудиторию, персонализировать сообщения и быстро распространять их через социальные сети и приложения для зашифрованных сообщений, тем самым увеличивая воздействие пропаганды на людей.

В мае 2024 года Исламское Государство Хорасан достигло беспрецедентной вехи: в социальных сетях распространилось видео, в котором ведущий, созданный искусственным интеллектом, объявляет о теракте в Афганистане. Это жуткое нововведение знаменует собой поворотный момент в коммуникационных стратегиях террористических группировок. Несколько месяцев ранее, в марте 2024 года, «Исламское государство» уже начало транслировать еженедельные информационные бюллетени, созданные искусственным интеллектом, с подробным описанием своей деятельности в глобальном масштабе. В том же месяце, после трагедии в московском Крокус-Сити-Холле, организация, взявшая на себя ответственность, использовала виртуального ведущего, продемонстрировав свое растущее мастерство в этих технологиях.

Но использование нейросетей не ограничивается исламским джихадом. Ультраправые группировки, такие как «Atomwaffen Division» и «The Base», действующие в США, используют искусственный интеллект для распространения своей идеологии и вербовки новых членов. Эти неофашистские и расистские организации используют генеративные инструменты искусственного интеллекта для создания визуального контента, такого как мемы и пропагандистские видеоролики. Благодаря ИИ они могут усилить свои послания ненависти, радикализировать людей с неустойчивой психикой и сделать свою речь более привлекательной для молодежи, что представляет собой растущую проблему в борьбе с терроризмом.

Наконец, искусственный интеллект используется для автоматизации процесса подбора персонала, в частности, за счет использования чат-ботов, способных работать круглосуточно и без выходных. Эти диалоговые агенты на базе искусственного интеллекта способны вступать в разговоры с особо ценными потенциальными новобранцами, предоставлять им информацию об идеологии группы и побуждать их вступить в ее ряды. Как отмечается в исследовании ICCT, применение генеративных нейросетей потенциально может повысить способность террористов формировать личные доверительные отношения и, в частности, достигать изолированных от общества людей с психическими расстройствами.

Если ИИ уже используется для усиления пропаганды и вербовки, он также будет использоваться для улучшения планирования и проведения террористических операций. Хотя такое использование по-прежнему ограничено, несколько источников указывают на тревожные примеры и потенциал искусственного интеллекта в деле терроризма. Действительно, нейросети в военных целях используются уже около пятнадцати лет, а в конфликте на Ближнем Востоке ЦАХАЛ широко использовал их для выявления потенциальных целей ХАМАС и «Хезболлы». Использование автономных дронов — одно из самых обсуждаемых военных применений ИИ. Подобные дроны теперь используются для выполнения разведывательных и наблюдательных задач и, следовательно, для целенаправленных атак. ICCT подчеркивает, что интеграция искусственного интеллекта в дроны изменила тактику ведения войны, сделав возможным более продвинутое и стратегическое их применение. Растущая доступность технологий дронов и достижения в области искусственного интеллекта в навигации и разведке вызывают опасения по поводу более широкого использования этих инструментов в террористических целях. Даже самые примитивные дроны могут превратить повседневную жизнь в мире в кровавый кошмар, сметая с лица земли иллюзорное спокойствие ушедшей эпохи.

ИИ также используется для проведения более сложных кибератак. Сегодня их можно сделать более эффективными с помощью алгоритмических технологий. Террористические группы смогут использовать эту технологию для выявления уязвимостей безопасности в компьютерных системах, разработки более эффективных вредоносных программ и запуска распределенных атак типа «отказ в обслуживании». Генеративные нейросети также могут быть использованы для разработки нового террористического оружия и тактики: моделирования атак, оптимизации использования взрывчатых веществ или создания более опасного биологического оружия.

Использование искусственного интеллекта террористическими группировками представляет собой ощутимую и развивающуюся угрозу глобальной безопасности. Расширяя свои возможности в пропаганде, вербовке и проведении террористических операций, ИИ может изменить природу терроризма и затруднить борьбу с ним. Хотя захват террористическими группами сложных моделей искусственного интеллекта, таких как Gemini, Claude или ChatGPT, кажется крайне маловероятным, учитывая защиту, то распространение моделей с открытым исходным кодом, таких как модель Llama 2, открывает двери для потенциального злоупотребления. Их доступность и адаптируемость представляют собой очень благодатную почву для злонамеренного использования нейросетями. Столкнувшись с этой угрозой, требуется глобальный и согласованный ответ со стороны правительств всего мира. Вместе с международными институтами, технологическими компаниями и гражданским обществом правительства должны объединить усилия, чтобы ограничить доступ террористических группировок к ИИ и разработать более эффективные стратегии борьбы с терроризмом.

Приоритетные действия включают разработку вредоносных инструментов обнаружения ИИ, включая детекторы дипфейков и пропаганды, созданной нейросетью. Кроме того, крайне важно укреплять международное сотрудничество для предотвращения распространения технологий двойного назначения, разрабатывать международные стандарты и правила использования ИИ, а также создавать более эффективные механизмы мониторинга и обеспечения соблюдения.

Использование ИИ в борьбе с терроризмом также поднимает важнейшие этические вопросы. Использование правительствами технологий наблюдения на основе искусственного интеллекта, хотя и эффективно в борьбе с терроризмом, может привести к нарушению индивидуальных свобод и вызвать проблемы конфиденциальности. Поиск баланса между безопасностью и уважением основных прав остается неизбежной задачей, которая значительно омрачает картину.

Поэтому борьба с использованием искусственного интеллекта террористическими группировками является серьезной задачей для международного сообщества. Однако важно помнить, что гонка ИИ между правоохранительными органами и злоумышленниками только началась, и что бдительность и способность к адаптации станут ключом к победе в этой решающей битве.  

Мурад Ахундов

• Компания “Bakcell” выступает партнером Инновационного Саммита "INMerge"!
• YouTube увеличит длину Shorts до трех минут
• В Израиле придумали, как защитить танки от дронов