Популярность искусственного интеллекта (ИИ) — палка о двух концах. Как все Подрывная технология Искусственный интеллект предлагает огромный потенциал, но также и разрушительные риски. Несмотря на определенные усилия по регулированию ИИ, похоже, злоумышленники смогли воспользоваться различными доступными методами, чтобы сеять панику и нацеливаться на ничего не подозревающих пользователей.
Новый чат-бот в стиле ChatGPT, получивший название FraudGPT, набирает популярность среди киберпреступников, позволяя им автоматизировать и выполнять большую часть стандартных мошенничеств. Жертвой может стать каждый, поэтому важно быть в курсе.
FraudGPT может использоваться для различных злонамеренных целей, включая распространение фейковых новостей и подстрекательство к насилию. Его также можно использовать для кражи личной информации или обмана людей. Вот все, что мы знаем о FraudGPT на данный момент. Проверять Почему не стоит доверять ChatGPT делиться с ним конфиденциальной информацией.
Быстрые ссылки
Что такое FraudGPT?
FraudGPT — это инструмент искусственного интеллекта, основанный на большой языковой модели, которая точно настроена, чтобы помочь киберпреступникам совершать киберпреступления. Чат-бот на основе подписки позволяет злоумышленникам облегчить свою преступную деятельность, такую как создание поддельных карт, фишинг и создание вредоносных программ.
Хотя подробностей о чат-боте пока очень мало, исследователи из компании Нетенрих Inc., исследовательская фирма в области безопасности, опубликовала в даркнете несколько рекламных объявлений, рекламирующих эту модель. Согласно исследовательскому отчету Netenrich, абонентская плата колеблется от 200 долларов в месяц до 1700 долларов в год.
Чтобы лучше визуализировать инструмент, вы можете думать о FraudGPT как о ChatGPT, но предназначенном для предоставления различной информации, связанной с мошенничеством. Но как именно работает FraudGPT и как его используют киберпреступники?
Как работает FraudGPT?
По сути, FraudGPT мало чем отличается от любой модели на базе LLM. Другими словами, сама форма представляет собой интерактивный интерфейс для доступа преступников к языковой форме особого типа, настроенной для совершения киберпреступлений.
Все еще не в курсе, что это значит? Вот примерное представление о том, о чем мы говорим. На заре ChatGPT чат-бот с искусственным интеллектом можно было использовать практически для чего угодно, в том числе для помощи киберпреступникам в создании вредоносных программ. Это стало возможным, потому что базовая языковая модель ChatGPT была обучена на наборе данных, который, вероятно, содержал образцы широкого спектра данных, включая данные, которые могли бы помочь преступному предприятию.
В большие языковые модели обычно загружают все, от хороших материалов, таких как научные теории, информация о здоровье и политика, до не очень хороших данных, таких как образцы кода вредоносного ПО, сообщения от социальной инженерии и фишинговых кампаний, а также другие криминальные материалы. При работе с типами наборов данных, необходимых для обучения языковых моделей, таких как тот, который поддерживает ChatGPT, почти неизбежно, что модель будет содержать образцы спама.
Несмотря на обычно тщательные усилия по отсеиванию нежелательного материала в наборе данных, некоторые все же просачиваются, и обычно этого достаточно, чтобы дать модели возможность генерировать материалы, способствующие киберпреступности. Вот почему при правильном гибком проектировании вы можете использовать такие инструменты, как ChatGPT, Google Gemini и Bing AI, чтобы помочь вам писать фишинговые электронные письма или компьютерные вредоносные программы.
Если такие инструменты, как ChatGPT, могут помочь киберпреступникам совершать преступления, несмотря на все усилия по обеспечению безопасности этих умных чат-ботов, теперь подумайте о том, какую мощь может предоставить такой инструмент, как FraudGPT, учитывая, что он был специально наполнен таким количеством вредоносных материалов, чтобы сделать их пригодными для киберпреступности. . Это похоже на усиление злого близнеца ChatGPT.
Таким образом, чтобы использовать чат-бота, преступники могут заявить о нем только так, как в случае с ChatGPT. Они могут, например, попросить ее написать фишинговое письмо Джейн Доу, которая работает в корпорации ABC, или они могут попросить его написать вредоносное ПО на C++ для кражи всех PDF-файлов с компьютера под управлением Windows 10. По сути, преступники вводили подсказку. Злой и пусть чат-бот делает тяжелую работу. Проверять Превратится ли ChatGPT в угрозу кибербезопасности? Вот на что следует обратить внимание.
Как защитить себя от мошенничества?
Хотя это инструмент нового типа, угроза, исходящая от FraudGPT, принципиально не отличается. Можно возразить, что это повышает автоматизацию и эффективность уже установленных способов совершения киберпреступлений.
Преступники, которые используют эту модель, по крайней мере теоретически, смогут писать более убедительные фишинговые электронные письма, планировать более эффективные мошенничества и создавать более эффективные вредоносные программы, но они по-прежнему часто полагаются на установленные методы для осуществления своих гнусных планов. В результате общепринятые способы защиты обычно по-прежнему применяются:
- Остерегайтесь спам-сообщений с просьбами предоставить информацию или указаниями перейти по ссылкам. Не предоставляйте информацию и не переходите по ссылкам в этих сообщениях, если вы не подтвердили источник.
- Свяжитесь с компаниями напрямую, используя независимый номер, который был проверен, чтобы убедиться в их легитимности. Не используйте контактную информацию, указанную в подозрительных сообщениях.
- Используйте надежные, уникальные пароли, которые трудно взломать, и используйте двухфакторную аутентификацию, если она доступна для всех учетных записей. Никогда не сообщайте пароли или коды, отправленные вам.
- Регулярно проверяйте выписки по счетам на предмет подозрительной активности.
- Обновляйте приложения и используйте антивирусы или средства защиты от вредоносных программ.
- Уничтожайте документы, содержащие личную или финансовую информацию, когда они не нужны.
Чтобы узнать больше о том, как защитить себя, прочитайте наше руководство по Как защитить себя в эпоху искусственного интеллекта.
Будьте в курсе, чтобы защитить себя
Появление таких инструментов, как FraudGPT, напоминает нам о том, что, несмотря на все преимущества ИИ, он по-прежнему остается очень мощным инструментом в руках злоумышленников.
Поскольку правительства и крупные компании, занимающиеся искусственным интеллектом, находятся в безумной гонке за внедрением более эффективных способов регулирования искусственного интеллекта, важно знать об угрозе, которую в настоящее время представляет искусственный интеллект, и принимать меры предосторожности, чтобы защитить себя. Вы можете просмотреть сейчас Искусственный интеллект и риски конфиденциальности: защита ваших данных в автоматизированном мире.
