Искусственный интеллект (ИИ) всё чаще используется в различных аспектах интернета: от ответов на поисковые запросы и рекомендаций по загрузке до определения писем, достойных вашего внимания. Однако даже если ИИ кажется полезным, это не обязательно означает, что он всегда прав или полностью понимает, что делает. Иногда чрезмерное доверие к этим технологиям может привести к неожиданным последствиям, включая возможность стать жертвой онлайн-мошенничества. Этот личный опыт подчёркивает потенциальные риски при использовании инструментов ИИ, таких как Gemini, для веб-поиска и важность критического мышления и проверки информации, прежде чем полностью ей доверять.
Быстрые ссылки
Внимание: Gemini перенаправляет на известные сайты для загрузки вредоносного ПО
Чтобы протестировать возможности искусственного интеллекта, я попросил Gemini порекомендовать приложения для записи экрана и предоставить прямые ссылки для скачивания. Поначалу предоставленный ими список казался многообещающим, но вскоре я обнаружил, что одна из ссылок ведёт на сайт Softonic.
Softonic известен тем, что переупаковывает популярные приложения в собственные инсталляторы, часто содержащие рекламное ПО, браузерные хайджекеры и другое нежелательное ПО. Из-за этих практик Softonic стал крайне ненадёжным сайтом.
Несмотря на свою дурную репутацию, Softonic использует агрессивные методы поисковой оптимизации (SEO), чтобы оказаться в топе результатов поиска Google. Теперь, похоже, он внедряется и в ответы, генерируемые искусственным интеллектом.
К счастью, мне удалось быстро обнаружить угрозу, поскольку я знаком с подозрительными действиями Softonic. Однако менее опытный пользователь может довериться Gemini и, сам того не зная, установить на свой компьютер нежелательное ПО.
Это самый тревожный аспект. Инструменты искусственного интеллекта выглядят уверенными и официальными, и когда вы спешите или не знакомы с технологиями, очень легко поддаться обману. Пользователям следует быть крайне осторожными при загрузке программного обеспечения из неизвестных источников и всегда проверять целостность ссылок перед переходом по ним. Крайне важно использовать антивирусное ПО и регулярно его обновлять для защиты от потенциально вредоносных программ.
Обзор Google с использованием искусственного интеллекта не улучшает ситуацию.
Если вы недавно искали в Google, вы, вероятно, видели большие абзацы текста в верхней части страницы, которые пытаются мгновенно ответить на ваш вопрос. Это так называемые «Обзоры ИИ». Они автоматически генерируются большой языковой моделью (LLM) и собирают информацию со всего интернета, чтобы предоставить вам краткое изложение — аналогично тому, что делает Gemini, но встроено непосредственно в Поиск Google.
Хотя это может показаться удобным, не всегда стоит доверять этим результатам. Были случаи, когда обзоры, созданные искусственным интеллектом, перенаправляли пользователей на подозрительные или полностью поддельные веб-сайты. Некоторые из этих сайтов выглядят как интернет-магазины или сервисы, но их цель — выманить у вас деньги или обманным путём заставить вас установить вредоносное ПО.
Самая большая проблема в том, что это происходит не на каком-то случайном инструменте, а внутри Google, которому большинство людей по-прежнему полностью доверяют. В отличие от больших языковых моделей (LLM), где пользователи всё ещё более осторожны, многие даже не осознают, что эти топовые результаты поиска генерируются ИИ, поэтому кликают по ним, не задумываясь.
К счастью, если вы этого хотите, есть некоторые обходные пути. Отключить обзор на основе ИИХоть это и не самый очевидный способ, но его стоит использовать, если вы предпочитаете придерживаться реальных ссылок и источников, а не полагаться на что-то, что может серьезно осложнить жизнь.
Gemini не одинок: другие ИИ-помощники тоже совершают ошибки.
К сожалению, Google — не единственный, кто сталкивается с этими проблемами. В дополнение к тому, о чём мы уже упоминали ранее, Насколько скромен Apple Intelligence с точки зрения функциональности?Похоже, что некоторые из его функций на самом деле могут быть опасны.
Одним из примеров является функция «Приоритетные сообщения» в приложении «Почта». Эта функция предназначена для отображения наиболее важных оповещений в верхней части почтового ящика, чтобы вы не пропустили ничего важного.
Однако были случаи, когда эта функция помечала фишинговые письма от поддельных банков, не выполняя никаких проверок на предмет подозрительности отправителя и наличия в сообщении каких-либо предупреждающих знаков. Это серьёзное упущение для функции, призванной облегчить вам жизнь. Это заставило меня… Полностью отключить Apple Intelligence На iPhone моих родителей.
Самая большая проблема — это слепое доверие, которое люди оказывают подобным функциям. Если ваш телефон сообщает о чём-то важном, вы с большей вероятностью поверите этому. Этим доверием легко злоупотребить, когда инструменты на базе искусственного интеллекта не способны обнаружить элементарные ошибки, например, явно поддельное электронное письмо от банка. Эти ошибки могут казаться незначительными, но при неправильном обращении они могут иметь серьёзные последствия. Крайне важно быть бдительным и проверять важные источники информации, особенно связанные с финансовыми транзакциями, даже при использовании новейших технологий искусственного интеллекта.
Как избежать подобных потенциальных ситуаций с использованием ИИ
Самое главное: не доверяйте слепо ссылкам или ответам, предоставленным искусственным интеллектом. Будь то Gemini, ChatGPT или даже Perplexity, воспринимайте каждую подсказку как отправную точку, а не как окончательный ответ. Это защищает вашу конфиденциальность и гарантирует точность информации.
Мой личный опыт показывает, что Perplexity лучше большинства других инструментов цитирует источники и даёт ссылки на надёжные сайты, но это не означает, что он абсолютно надёжен. Всегда проверяйте информацию самостоятельно.
Если вы ищете приложение, всегда старайтесь скачать его из App Store, Play Store или с официального сайта, а не просить своего помощника находить ссылку для скачивания. Аналогично, если вы совершаете покупки или ищете информацию, содержащую конфиденциальные данные, уделите немного времени проверке того, куда вас перенаправляют, или, что ещё лучше, попробуйте самостоятельно найти точное местоположение. Это снизит риск стать жертвой мошенничества и фишинга.
Также не нажимайте на первое попавшееся сообщение только потому, что оно создано искусственным интеллектом. Оно может выглядеть надёжным, но это не всегда так. Всегда проверяйте подлинность ссылок и источников, прежде чем вводить какую-либо личную информацию.
У ИИ-помощников по-прежнему есть множество полезных применений, например, для быстрого обзора, организации мыслей или помощи в решении повседневных вопросов. Но когда речь идёт о деньгах, загрузках или личной информации, стоит сделать шаг назад и перепроверить. Используйте ИИ как инструмент, но не полагайтесь на него полностью при принятии важных решений.
