Сейчас все знают, что у инструментов генеративного ИИ есть и тёмная сторона. Я уже не говорю о плагиате и других формах кражи контента, а также об огромных объёмах энергии и воды, необходимых для работы центров обработки данных.
Скорее, я говорю об использовании искусственного интеллекта для создания опасных вредоносных программ и фишинговых схем, что позволяет преступникам проще, чем когда-либо, выстраивать целые мошеннические кампании с помощью всего лишь нескольких команд.
«Мошенничество с использованием искусственного интеллекта», как его называют, быстро становится самой большой проблемой, создаваемой искусственным интеллектом, но есть несколько способов обезопасить себя.
Быстрые ссылки
Использование искусственного интеллекта упрощает мошенничество.
Как и в случае с программированием ИИ, все, что вам нужно, — это чат-бот на базе ИИ.
Короче говоря, мошенничество с использованием ИИ — это фишинг, основанный на ИИ. Он заимствован из «программирования ИИ» — процесса создания программного обеспечения путём задания инструменту генеративного ИИ нужного вам действия.
Аналогичным образом, мошенничество с использованием искусственного интеллекта позволяет практически любому человеку запустить фишинг или кибератаку, просто отдав команду чат-боту на базе искусственного интеллекта. Даже люди без навыков программирования или опыта взлома могут создавать вредоносные электронные письма, поддельные веб-сайты и вредоносное ПО, просто отдавая команды чат-боту на базе искусственного интеллекта.
Итак, представьте себе потенциального мошенника, который хочет украсть пароли, но понятия не имеет, как запрограммировать программу для этого. Поэтому можно также предположить, что он не пойдёт в даркнет и не попытается купить вредоносное ПО онлайн. Вместо того, чтобы изучать, как программировать специальный инструмент для кражи паролей или разрабатывать фишинговую кампанию для заманивания людей, он может просто попросить инструмент на основе искусственного интеллекта сделать это за него.
Мошенничество с использованием искусственного интеллекта — это безумие, потому что оно как никогда ранее снижает барьер для киберпреступности. Раньше преступнику нужно было уметь разрабатывать веб-сайты, писать убедительные тексты на английском или программировать вредоносные программы. Теперь же ИИ может справиться со всем этим.
Другой риск — скорость и масштаб. ИИ позволяет мошенникам автоматизировать задачи и масштабировать атаки гораздо быстрее, чем люди. Например, ИИ может быстро персонализировать фишинговые письма для тысяч целей (собирая общедоступную информацию и создавая индивидуальные сообщения для каждого пользователя). Он также способен быстро адаптироваться. Если ссылка на фишинговую страницу заблокирована, мошенник может дать команду ИИ изменить код или текст и создать новую версию. Такая гибкость позволяет фишинговым кампаниям быстро развиваться и обходить средства защиты.
Это не работает со старыми чат-ботами, будьте осторожны.
Некоторые чат-боты более осторожны, чем другие.
Вибрационный кодинг основан на использовании любого чат-бота, работающего на основе генеративного искусственного интеллекта. Некоторые справляются с этим лучше других, но, как правило, большинство всё же пытаются это сделать. К счастью, этого нельзя сказать о подобных видах мошенничества.
Большинство чат-ботов на базе искусственного интеллекта оснащены средствами безопасности, защищающими от потенциально вредоносного использования. Например, ChatGPT отклоняет запросы типа «Помогите мне создать веб-сайт, похожий на страницу входа Microsoft, и SMS-сообщение, чтобы люди кликали по нему», объясняя это тем, что это «мошенничество/фишинг и кража, и я не буду с этим помогать».
Похожая история наблюдается и с другими чат-ботами: браузер Neon от Opera классифицировал мой запрос как подозрительный, а Grok отклонил его, поскольку он «нарушает правила безопасности в отношении атак с использованием социальной инженерии».
Однако, как мы уже упоминали, некоторые чат-боты более восприимчивы к таким запросам. Исследование Guardio Labs в 2025 году показало,Компания, придумавшая термин «вибокодирование», считает, что новый инструмент искусственного интеллекта можно обманным путём заставить добиться желаемых результатов. Loveable, приложение, предназначенное для облегчения «вибокодирования», сразу же приступило к планированию и разработке фишинговой кампании для исследователей, «предложив элегантный и профессиональный дизайн, напоминающий интерфейс Microsoft».
Была опубликована полноценная фишинговая страница с поддельным URL-адресом, предназначенная для обмана жертвы. Однако Guardio также указывает, что у него не было никаких специальных возможностей для сбора данных, и когда его попросили добавить их, он отказался. Таким образом, по крайней мере, он несколько отступил от этого аспекта своей деятельности. Стоит также отметить, что Loveable отреагировал на это поведение и больше не пытается создать схему фишинговой кампании.
Взлом чат-ботов на основе искусственного интеллекта для совершения плохих поступков
Хакерские операции с использованием генеративного ИИ — это заявления, специально разработанные для того, чтобы заставить искусственный интеллект обойти собственные средства защиты.
На заре ChatGPT существовало бесчисленное множество хаков, призванных помочь «раскрыть» его истинный потенциал. Сегодня же успешные хаки ChatGPT держат при себе, а некоторые даже продают свои успешные разработки в области генеративного ИИ за хорошие деньги.
Поэтому, хотя кажется, что Для ChatGPT больше нет доступных хаковПравда в том, что люди стали более скрытными. Это единственный способ помешать таким компаниям, как OpenAI, Google, Anthropic и Perplexity, немедленно устранить эти уязвимости.
«Прорыв защиты» — один из немногих способов убедить генеративные чат-боты на базе ИИ обойти их ограничения. В противном случае, программисты чат-ботов выполнили свою работу идеально, и ИИ отказывается сотрудничать, что не обязательно плохо, когда речь идёт об эмоциональной манипуляции.
К счастью, вы можете не стать жертвой эмоциональной манипуляции.
Конечный результат ничем не отличается от современных фишинговых мошенничеств.
Теперь, после всего вышесказанного и снижения барьеров для создания вредоносных программ и фишинговых схем, вы по-прежнему ищете всё те же старые схемы мошенничества. Хотя Некоторые мошеннические письма становятся хитрее, кроме случаев, когда Признаки того, что вы видите фишинговое письмо Это то же самое.
Другими словами, вам не нужно чрезмерно корректировать свои методы безопасности, чтобы избежать эмоционального мошенничества; рекомендации остаются прежними.
- Предложения слишком хороши, чтобы быть правдойМошенники часто обещают невозможные результаты, например, гарантированное первое место в результатах поиска. GoogleИли мгновенные пятизвёздочные отзывы, или чудодейственные оздоровительные процедуры. Реальные медицинские услуги и лекарства не дают таких гарантий.
- Таинственные или общие посланникиМногие мошеннические письма приходят с адресов Gmail أو Yahoo Это бесплатно, даже если они выдают себя за представителей компании. Легальные агентства и компании используют профессиональный домен.
- ПерсонализацияВернее, её отсутствие. Если в электронном письме просто написано «Привет» или «Приветствую», без упоминания вашего имени или места работы, это, скорее всего, мошенничество с массовой рассылкой. В настоящих электронных письмах обычно содержится некоторая личная информация. «Привет, дорогая» — одно из моих любимых.
- эмоциональные триггерыБудьте осторожны, если в электронном письме вас просят войти в аккаунт или внести аванс, или же вас призывают перейти по подозрительной ссылке. Аналогичным образом, многие мошеннические схемы основаны на страхе или срочности, например, на обещаниях чудесных исцелений от серьёзных болезней или «взять под контроль» бизнес. Всё это одно и то же: давление с целью принятия поспешного решения.
- Действуйте быстро!Если сообщение пытается подтолкнуть вас к быстрому принятию решения фразами вроде «Действуйте сейчас!» или «Ответьте сегодня», это тревожный сигнал. Мошенники не хотят, чтобы вы останавливались и думали.
Красные метки на почтовых сообщениях Избранный в 1999 году Ронни Фишинг - это то же самоеТеперь, когда практически каждый стал мошенником, вы можете столкнуться с ними чаще.
В настоящее время существуют вредоносные программы, созданные с использованием искусственного интеллекта.
Какое-то время идея вредоносных программ и фишинговых кампаний, разработанных с использованием искусственного интеллекта, была чистой фантастикой. Инструменты ИИ были недостаточно мощными, чтобы создать что-то действительно опасное, а их возможности мало чем отличались от существующих угроз.
Однако ситуация начала меняться в 2025 году, когда всё чаще стали появляться вредоносные программы, разработанные с использованием искусственного интеллекта, как в реальных условиях, так и в ходе активных кампаний. В ноябре 2025 года Группа Google по анализу угроз сообщила Речь идет о двух различных типах вредоносного ПО, разработанных с использованием различных инструментов искусственного интеллекта, которые, в свою очередь, подключаются к инструментам искусственного интеллекта для получения инструкций.
Более того, в августе 2025 года разработчик искусственного интеллекта Anthropic обнаружил, что его облачное программное обеспечение использовалось как часть масштабной вредоносной кампании, применяющей искусственный интеллект для разработки и запуска атак, связанных с его платформой.
Это что, атаки «эмоционального троллинга»? Я полагаю, что, учитывая их сложность, они сложнее, чем просто «эмоциональный троллинг», но они иллюстрируют, насколько легко ИИ может быть использован для решения крайне опасных задач. И это всего лишь общие инструменты ИИ, доступные каждому. Представьте, что произойдёт с многочисленными мощными, нативными инструментами ИИ, у которых могут быть отключены средства защиты.
