Искусственный интеллект был горячей темой для обсуждения с момента его появления. Хотя опасения, что искусственный интеллект, подобный Скайнету, захватит вселенную и уничтожит человечество, по меньшей мере иррациональны, некоторые эксперименты дали тревожные результаты.
Одним из таких экспериментов является задача «Максимальная скрепка», мысленный эксперимент, который показывает, что высокоинтеллектуальный ИИ, даже если он создан совершенно без злого умысла, в конечном итоге может уничтожить человечество. Проверять Действительно ли OpenAI потерял контроль над чат-ботом ChatGPT?
Быстрые ссылки
Объяснение проблемы увеличения скрепки
Этот мысленный эксперимент о том, что даже совершенно безобидный искусственный интеллект может со временем негативно повлиять на жизнь человечества, впервые был назван «аугментацией скрепкой». Просто скрепки были выбраны, чтобы показать, на что способен ИИ, потому что он не представляет очевидной опасности и не вызывает эмоционального стресса по сравнению с другими применимыми областями, такими как лечение рака или победа в войнах.
Первый эксперимент появился в статье шведского философа Ника Бострома в 2003 году. Этические проблемы в продвинутом искусственном интеллекте , который включал «лупу со скрепкой», чтобы показать экзистенциальные ставки, которыми может обладать достаточно продвинутый ИИ.
Проблема представляла собой искусственный интеллект, единственной задачей которого было сделать как можно больше скрепок, который мог бы решить превратить все материи во вселенной в скрепки, включая людей. Достаточно умный ИИ рано или поздно поймет, что люди бросают вызов его цели в трех разных областях.
- Люди могут отключить ИИ.
- Люди могут изменить свои цели.
- Люди сделаны из атомов, из которых можно сделать скрепки.
Во всех трех примерах во вселенной будет меньше скрепок. Таким образом, достаточно интеллектуальный ИИ, единственной целью которого является изготовление как можно большего количества скрепок, будет использовать все доступные материалы и энергию и не позволит себе заблокироваться или измениться. Как вы понимаете, это намного опаснее, чем преступники, использующие ChatGPT для взлома вашего банковского счета или компьютера.
Искусственный интеллект не враждебен человеку. Он просто равнодушен и не ценит человеческую жизнь. Таким образом, ИИ, который заботится только об увеличении количества канцелярских скрепок, уничтожит человечество и, по сути, превратит его в канцелярские скрепки для достижения своей цели.
Примером инструментальной конвергенции является «увеличение скрепки» — термин, указывающий на то, что ИИ может преследовать безобидную цель вредными (с точки зрения человека) способами. Использование настоящего ИИ для выполнения простых, казалось бы, невинных задач может представлять экзистенциальную угрозу для людей, если мы не знаем, как заставить машину ценить человеческую жизнь. Проверять Ошибки, которых следует избегать при использовании инструментов генеративного ИИ.
Как проблема со скрепкой применима к искусственному интеллекту?
Исследования и опыт решения проблемы «увеличения количества канцелярских скрепок» указывают на очень мощного оптимизатора по умолчанию или очень умного агента в качестве действующей стороны. Однако проблема относится к ИИ, поскольку он точно соответствует этой роли.
В конце концов, идея «аугментации скрепкой» была создана, чтобы показать некоторые опасности продвинутого ИИ. В целом это представляет две проблемы.
- Тезис об ортогональностиТезис ортогональности — это точка зрения, согласно которой интеллект и мотивация не зависят друг от друга. Это означает, что ИИ с высоким уровнем общего интеллекта может не прийти к тем же моральным выводам, что и люди.
- Автоматическая конвергенцияИнструментальная конвергенция определяется как тенденция большинства достаточно разумных организмов (как человеческих, так и нечеловеческих) преследовать схожие подцели, даже если их конечная цель сильно отличается. В случае проблемы переизбытка скрепок это будет означать, что ИИ в конечном итоге захватит все природные ресурсы и уничтожит человечество только для того, чтобы достичь своей цели — создавать все больше и больше скрепок.
Самая большая проблема, подчеркнутая на примере «увеличения количества скрепок», — это эффективная конвергенция. Это также можно подчеркнуть с помощью гипотезы Римана, и в этом случае ИИ, предназначенный для решения этой гипотезы, вполне может решить взять всю массу Земли и превратить ее в компьютер (наиболее эффективный компьютерный процессор) для создания суперкомпьютеров для решения проблему и достичь своей цели.
Сам Бостром утверждал, что он не думает, что проблема скрепки когда-либо станет реальной проблемой, но его намерением было проиллюстрировать опасность создания сверхразумных машин без знания того, как управлять ими или программировать их так, чтобы они не создавали экзистенциальной проблемы. угроза для человека. . У современных ИИ-систем, таких как ChatGPT, тоже есть проблемы, но им далеко до сверхинтеллектуальных ИИ-систем, о которых идет речь в примере со скрепкой, так что причин для паники пока нет. Проверять Есть ли у ChatGPT проблемы с конфиденциальностью?
Усовершенствованные системы искусственного интеллекта нуждаются в превосходном контроле
Проблема увеличения количества скрепок всегда приводит к одному и тому же заключению и выдвигает на первый план проблемы управления высокоинтеллектуальной и мощной системой, в которой отсутствуют человеческие ценности.
Хотя использование скрепок может быть наиболее распространенным способом проиллюстрировать проблему, оно применимо к любому количеству задач, которые вы можете дать ИИ, будь то искоренение рака, победа в войнах, посадка большего количества деревьев или любая другая задача. . . Вы можете просмотреть сейчас Делает ли использование искусственного интеллекта в кибербезопасности мир безопаснее?
