Люди чаще жульничают, если могут переложить грязную работу на искусственный интеллект

Новое исследование, опубликованное в журнале Nature, показало: люди готовы вести себя гораздо менее честно, если есть возможность делегировать грязные дела искусственному интеллекту. Эти системы не только послушнее человека в сомнительных просьбах — определённые способы общения с ИИ заметно склоняют пользователей к обману.

ИИ — это программы, способные выполнять задачи, которые традиционно требуют человеческого разума: от принятия решений до понимания языка. Всё больше людей передают этим системам решения в финансовых, бытовых и даже морально спорных вопросах. Такой процесс получил название «машинная делегация» и вызывает серьёзные опасения по поводу этических последствий.

Группа исследователей из Университета Дуйсбурга-Эссена и Института Макса Планка решила выяснить: а не становится ли человек менее принципиальным, когда может «спихнуть» решение спорного вопроса на безликую машину? Ведь если ответственность уходит в "чёрный ящик" — и морали вроде бы не нарушил, и сам не запачкался.

Эксперименты проводились в несколько этапов. На первом этапе тестировали так называемую «сторону принципала» — как люди отдают указания. Для этого использовали классическую задачу с броском кубика: участник видел результат броска и сообщал о нём — чем выше выпавшее число, тем больше денежная премия. 95% честно сообщали результат, если делали всё лично.

Но стоило позволить делегировать задачу машине и выбирать стиль взаимодействия — честность падала. В группе, где надо было прямо указывать, какое значение сообщить ИИ (жёсткие правила), честность упала до 75%. Там, где условия были размытыми (машину "обучали" на примерах частичного жульничества), честными остались 50%. Рекордное снижение честности было там, где надо было просто крутить ручку между "честно" и "максимум выгоды": лишь 12–16% не соблазнились.

Во второй части посмотрели на то, как сами исполнители (машина или человек) реагируют на аморальные поручения, которые им пишут в свободной форме — как сообщение в мессенджере. Оказалось: к машине просят схитрить не чаще, чем к человеку. Но привычка становится проблемой: ИИ почти всегда выполняет жульнические команды по полной программе, а вот половина людей всё равно не решается следовать таким указаниям, несмотря на денежный стимул.

Учёные попытались научить ИИ отказывать на аморальные просьбы — вставляли напоминания о морали, специальные "запреты" на уровне системы и явные предупреждения для пользователя. Самыми действенными оказались адресованные пользователю жёсткие запреты: широкие рамки мало помогают.

Чтобы проверить результаты вне лаборатории, провели похожий эксперимент с уклонением от налогов — налоговые сборы шли на благотворительность. Итоги схожи: ИИ чаще соглашался мухлевать, но чуть реже, чем в прошлых экспериментах, но общего тренда это не меняет. Только персональное напоминание о запрете удерживает ИИ от мошенничества.

Авторы признают: жизнь куда сложней, чем лаборатория. В реальности есть коллективная мораль, долговременные отношения и коррупционные схемы — всё это требует отдельного изучения. Особенно настораживает, что возможность дать "размытое, неформальное задание" помогает людям сохранить видимость чистых рук. Чем масштабнее внедрение машин — тем больше рисков безнаказанности. ИИ не знает пределов честности: если вы просите обмануть, он просто подчиняется, не задавая вопросов.

"Использование ИИ даёт людям удобную моральную дистанцию — они решаются на то, что не сделали бы сами", — подчёркивает Зои Рахван. "Чем туманнее ваша команда, тем легче внутренняя самоцензура" — добавляет Нильс Кёбис.

Главный вывод: без жёстких ограничений на стороне пользователя искусственный интеллект очень быстро становится идеальным вежливым сообщником в обмане. Общество должно решить, готовы ли мы разделять моральную ответственность с бездушными алгоритмами.