Краткое содержание:
- Исследователи сравнили спам-сообщения до эры GPT с теми, которые появились после нее.
- Большая часть спама сегодня генерируется искусственным интеллектом.
- Сообщения BEC требуют большей точности.
Недавнее исследование показало, что большинство спам-писем, отправляемых сегодня, написаны генеративным искусственным интеллектом (GenAI).
Отчет Barracuda Networks показывает, что киберпреступники используют ИИ не для радикального изменения своих методов атак, а для их улучшения и усложнения их обнаружения. Это улучшение включает такие аспекты, как качество используемого языка, дизайн сообщений и персонализация, что делает их более достоверными.
В исследовании сравнивались электронные письма, отправленные до внедрения ChatGPT (т. е. до ноября 2022 г.), с отправленными после него, и наблюдался значительный сдвиг: преступники в основном использовали GenAI для спама. Этот сдвиг представляет собой значительную проблему как для отдельных лиц, так и для организаций, поскольку становится все труднее отличать законные сообщения от вредоносных.
Повысить доверие
Исследования показали, что к апрелю 2025 года 51% спам-писем будет генерироваться искусственным интеллектом, а не людьми. Этот сдвиг представляет собой существенную проблему в области кибербезопасности.
Исследователи объяснили, что «большинство писем, которые сейчас находятся в папке нежелательной почты/спама, написаны с помощью большой языковой модели (LLM)». Это означает, что искусственный интеллект стал ключевым инструментом в руках спамеров.
С другой стороны, преступники, похоже, не в восторге от использования ИИ в атаках Business Email Compromise (BEC). По словам исследователей, эти типы атак требуют высокой точности и обычно нацелены на высокопоставленное лицо в организации. В результате к апрелю 2025 года только 14% атак BEC были сгенерированы ИИ.
Как и ожидалось, сообщения, сгенерированные ИИ, лучше написаны. Они отличаются более высоким уровнем формальности, меньшим количеством грамматических ошибок и большей языковой сложностью. Следовательно, они кажутся жертвам более достоверными и профессиональными, что повышает вероятность того, что они станут добычей.
Это также означает, что киберпреступникам, чей родной язык не английский, будет легче атаковать компании в англоязычных странах. Наконец, мошенники, по-видимому, используют ИИ для A/B-тестирования различных вариантов спама, пытаясь определить, какие варианты формулировок работают лучше всего в реальных условиях.
Лучший способ защиты от спама, генерируемого ИИ, — использовать решения по безопасности электронной почты на базе ИИ. В эпоху до GPT можно было обнаружить фишинг и спам, просто просканировав электронные письма — эти сообщения, как правило, были переполнены орфографическими и грамматическими ошибками, а язык часто был грубым и незнакомым.
Поскольку ИИ устранил эти красные флажки, передовое решение для защиты электронной почты, оснащенное многоуровневым обнаружением и работающее на основе Искусственный интеллект/машинное обучение (ИИ/МО)Исследователи пришли к выводу, что это «критически важно». Для защиты организаций от современных угроз необходимы инвестиции в передовые технологии.
