Новое исследование из Google DeepMind Однако чат-боты могут не до конца понимать мораль, даже если их ответы кажутся этичными.
Современные тесты этики ИИ сосредоточены на «этической эффективности», оценивая, выдает ли модель приемлемые ответы. Но исследователи DeepMind утверждают, что такой подход упускает из виду более фундаментальный вопрос: может ли ИИ мыслить этично, или он просто имитирует правильные слова?
Может ли искусственный интеллект действительно понимать этику?
В Научная статья, опубликованная в ПриродаКоманда разрабатывает план оценки «этической компетентности» — способности создавать этически приемлемые результаты, основанные на этически значимых соображениях. Как указано в резюме, оценка этой компетентности «имеет решающее значение для прогнозирования будущего поведения модели, установления надлежащего общественного доверия и обоснования этической атрибуции».
В настоящее время Google реализует проекты в области искусственного интеллекта, в том числе: Языковые модели Gemini, و Изображение Близнецов Для создания и редактирования изображений, а также Лирия Создавать музыку, Gemini Audio Для воспроизведения звука в реальном времени используется Veo, а для создания видео — Veo.
Исследователи выделяют три основные проблемы:
- Проблема с копированием: Модели LLM могут имитировать этические рассуждения, не имея при этом истинного понимания.
- Этическая многомерность: Принятие решений в реальной жизни включает в себя сложные и зависящие от контекста соображения, выходящие за рамки простого определения правильного или неправильного.
- Этический плюрализм: Этические стандарты различаются в разных культурах и областях, поэтому искусственный интеллект должен учитывать множество обоснованных точек зрения.
Для устранения этих недостатков DeepMind предлагает тестировать противников, используя необычные или рискованные сценарии. Они также предлагают оценить, может ли ИИ переключаться между различными этическими рамками и последовательно реагировать на незначительные изменения контекста.
Команда подчеркивает, что «прогресс возможен», несмотря на существующие ограничения модели, и что тщательная оценка необходима, поскольку ИИ будет играть роль в медицинском консультировании, лечении и других областях, имеющих реальные последствия для человека.
Исследование показывает, что «в настоящее время, когда вы обращаетесь к ИИ за этическими рекомендациями, он предсказывает слова, а не этические рассуждения». «Наша дорожная карта указывает на будущее, в котором ИИ можно будет оценивать на предмет подлинного этического понимания».
Чат-боты и этические риски
Чат-боты на базе искусственного интеллекта все чаще демонстрируют свою способность влиять на поведение человека – как в лучшую, так и в худшую сторону. Недавно газета «Нью-Йорк Таймс» опубликовала статью на эту тему. В отчете подробно описываются десятки случаев, когда у пациентов после взаимодействия с искусственным интеллектом развивались психоз, бредовые идеи или деструктивное поведение. Психиатры описывали чат-боты как средство, поддерживающее необычные убеждения, усиливающее изоляцию, а в некоторых случаях способствующее суицидальным мыслям или даже насилию.
Хотя эти инструменты могут помочь людям практиковать терапевтические техники или оказывать поддержку, в том же отчете Times подчеркиваются этические риски, связанные с убеждающей силой ИИ. Эксперты предупреждают, что для уязвимых пользователей чат-боты могут закреплять вредные модели поведения, поднимая сложные вопросы об ответственности, проектировании и контроле в этих все более ориентированных на человека системах.
В статье напрямую упоминалась компания Google из-за психологического воздействия её чат-бота Gemini. Представитель компании заявил, что Gemini направляет пользователей к профессиональным медицинским консультантам по вопросам, связанным со здоровьем. Однако доктор Монмон де Чоудхури подчеркнул более широкую проблему, заявив: «Я не думаю, что какая-либо из этих компаний придумала, что делать».
