Люди против ИИ: доверие тает

Недавнее исследование, опубликованное в журнале PNAS Nexus, выяснило неприятную правду: как только человек понимает, что в его социальном взаимодействии участвовал искусственный интеллект, доверие стремительно испаряется. Люди становятся менее честными, менее готовыми сотрудничать и принимают решения так, будто готовятся к худшему. Хотя парадокс в том, что сам ИИ обычно выбирает более щедрые и выгодные для обеих сторон варианты.
Исследование проводила группа экономистов из Университета Констанца под руководством Фабиана Дворака. Они взяли более трёх тысяч участников из онлайн‑платформ и предложили им сыграть в несколько классических экономических игр. Эти игры используются психологами и экономистами, чтобы понять, насколько человек склонен к кооперации, взаимности и доверию. Среди них — «Ультиматум», «Игра доверия», «Дилемма заключённого», «Охота на оленя» и задание на координацию.
В этих играх участники принимают решения, влияющие на распределение реальных денег между ними и анонимным партнёром. Иногда за человека решение принимала версия ChatGPT. Иногда — по выбору, иногда — по требованию. Партнёр мог знать о вмешательстве ИИ, а мог и не знать.
Когда люди точно знали, что решение принимает машина, они почти во всех играх вели себя хуже: меньше доверяли партнёру, меньше делились, чаще выбирали защитную тактику. Это приводило к тому, что деньги теряли оба участника.
Интересно, что алгоритм сам по себе был более честным и кооперативным, чем люди ожидали. Он почти всегда стремился максимизировать общий выигрыш, а не урвать себе больше. Но люди, узнав о его участии, сразу ждали подвоха.
Единственным исключением стала игра на координацию: ИИ просто выбирал непредсказуемые варианты, и это действительно ухудшало результаты.
Когда же участие ИИ скрывалось, люди вели себя нормально — доверяли партнёру и получали обычный финансовый результат. Более того, сами участники довольно охотно перекладывали свои решения на алгоритм: около сорока процентов выбирали вариант делегирования, особенно если знали, что партнёр об этом не узнает. Это снимало с них моральную ответственность и необходимость объяснять свои действия.
Попытка сделать ИИ «похожим» на конкретного человека — например, подстраивая под его черты личности — глобально ситуацию не изменила. Партнёры всё равно реагировали негативно, если знали, что решение принимает машина.
В дополнительном тесте независимые эксперты не могли отличить решения ИИ от человеческих, если видели только цифры. Но как только им давали текстовое обоснование решения, ИИ выдавал себя — более формальным языком и акцентом на потенциальных денежных последствиях.
Исследование имеет ограничения: в нём участвовали в основном пользователи из Великобритании, а взаимодействия были разовыми. В реальной жизни люди могут привыкнуть к автоматизированным решениям или вести себя иначе при долгом взаимодействии.
Тем не менее результаты создают проблемы для новых законов, которые требуют раскрывать участие ИИ. Например, Евросоюз уже ввёл обязательное уведомление о машинном контенте. По данным исследования, такая прозрачность может снизить доверие и подорвать сотрудничество.
Авторы считают, что будущие исследования должны найти способы повысить доверие к ИИ, иначе простая обязательная маркировка сделает хуже — люди будут защищаться и объединяться меньше.