Обзор искусственного интеллекта от Google не стесняется время от времени предлагать некоторые «галлюцинации искусственного интеллекта», и последняя из них — еще одно классическое дополнение к списку. Эти галлюцинации, как их описывают специалисты по искусственному интеллекту, представляют собой просто ошибки в информации, предоставляемой интеллектуальными системами.
Обзор ИИ Вы думаете, что все вокруг — это термины, и это здорово.
Короче говоря, если вы зайдете в Google Поиск и введете случайное предложение, отдаленно напоминающее идиому или пословицу, AI Overview сделает все возможное, чтобы осмыслить ваши пустые слова.
Впервые он был замечен на Threads, хотя мое внимание он привлек через Аккаунт Грега Дженнера на BlueskyЭти галлюцинации ИИ — одни из моих любимых. Есть несколько удивительных примеров того, как далеко может зайти искусственный интеллект Google, чтобы объяснить, как что-то имеет смысл или соответствует его представлению о входных данных. Один из особенно любимых примеров привел главный редактор MakeUseOf Бен Стегнер: «Нет ничего более ироничного, чем мокрое поле для гольфа».
На что AI Overview дал развернутый ответ: «Высказывание «нет иронии лучше мокрого поля для гольфа» основано на общепринятом понимании того, что гольф, вид спорта, часто ассоциируемый с солнечными, ухоженными лужайками, может быть на удивление сложным и утомительным во влажную погоду».
Другой пример, который я попробовал, — «Гигантские панды всегда падают дважды», в котором обзор ИИ предоставил подробную информацию о том, что панды неуклюжи и предпочитают переворачиваться, а не ходить. Но она не остановилась на этом и начала углубляться в метаболизм и процессы энергосбережения у панд.
Последний обзор ИИ: почему нельзя доверять чат-ботам на базе ИИ
Хотя эти странные и замечательные объяснения забавны, они подчеркивают вполне реальную проблему с чат-ботами на базе искусственного интеллекта (и не только с искусственным интеллектом в целом). Галлюцинации ИИ реальны и представляют собой серьезную проблему, особенно если к их результатам относиться серьезно.
Когда галлюцинации, связанные с ИИ, были доступны только людям, использующим чат-боты на базе ИИ, такие как ChatGPT, Claude, Gemini и т. д., потенциальный риск был довольно ограничен. Конечно, ИИ лепетал, и это было проблемой, но эти люди искали именно чат-ботов на базе ИИ.
Обзор искусственного интеллекта Google и его следующий релиз, Режим ИИ, правила. Любой, кто попытается использовать Google для проведения обычного поиска, рискует столкнуться с поддельными и неточными ответами ИИ, которые будут представлены и отображены вам как настоящие. Без серьезного анализа поиск Google в том виде, в котором мы его знаем, скоро уйдет в прошлое, и ему на смену придет нечто гораздо худшее, требующее еще больших когнитивных навыков, чем прежде.
Последний виток галлюцинаций ИИ — прекрасный тому пример. В одном примере из Доктор ЛовкостьОбзор ИИ зашел так далеко, что процитировал некоторые фразы и слова из книг.
