Выяснилось, в каких случаях люди пытаются обмануть ИИ: неприятное открытие — всё дело в наших стереотипах

Поведение людей к ИИ зависит от его гендерных характеристик — iScience

Современные технологии делают искусственный интеллект всё более "человечным": у систем появляются голоса, имена и даже гендерные ассоциации. Однако, как показало новое исследование, опубликованное в iScience, эти детали влияют на поведение пользователей гораздо сильнее, чем кажется.

Учёные обнаружили, что люди чаще ведут себя нечестно с ИИ, наделённым женскими, небинарными или нейтральными характеристиками, чем с ИИ, обозначенным как "мужской". Этот эффект проявляется даже в простых играх, где ставкой служит лишь доверие.

Как проверяли поведение участников

Исследователи предложили добровольцам сыграть в "дилемму заключённого" — классическую модель из психологии и теории игр. Участники могли либо сотрудничать ради взаимной выгоды, либо обмануть партнёра, получив выгоду лично.

Чтобы выявить влияние восприятия пола, партнёров обозначили четырьмя вариантами: женский, мужской, небинарный и без гендера. Каждый из них мог быть как человеком, так и агентом искусственного интеллекта.

"Мы хотели понять, как стереотипы, свойственные человеческим отношениям, проявляются в цифровом взаимодействии", — пояснили авторы работы.

Результаты оказались удивительными: люди на 10% чаще прибегали к нечестной стратегии при взаимодействии с ИИ, чем с человеком.

Когда ИИ воспринимают как "уязвимого" партнёра

Оказалось, что участники чаще выбирали обман, если считали партнёра "женским" или "безгендерным". Они подсознательно воспринимали таких агентов как более доброжелательных и менее склонных к риску.

"Мы наблюдаем тот же паттерн, что и в реальной жизни: готовность использовать тех, кого человек считает "слабыми” или "наивными”", — отмечают исследователи.

Женщины чаще доверяли "женским" ИИ и избегали риска с "мужскими" агентами, что напоминало эффект гомофилии - стремления доверять тем, кто похож на тебя. Мужчины же чаще использовали уязвимость партнёра, особенно если считали его искусственным.

В исследованиях восприятия чувства юмора у ИИ показано, что нейросети реагируют на шутки неправильно - они их не понимают. А юмор, возможно, мог бы помочь наладить контакт с пользователем.

Гендерные стереотипы и цифровая мораль

Авторы исследования подчеркивают, что человеческие предубеждения переносятся даже в отношения с нематериальными системами. Когда люди взаимодействуют с "женским" ИИ, они чаще ожидают от него мягкости и доброжелательности, но парадоксально — именно это делает их поведение менее честным.

Такое "эксплуатирующее доверие" отражает старые социальные стереотипы. Оно не просто повторяет их в цифровой среде, но и укрепляет: пользователь учится подсознательно различать "тип" агента и выбирать стратегию поведения, исходя из внешних признаков.

Это перекликается с выводами других исследований, показывающих, что цифровые интерфейсы способны влиять на моральные установки людей. Это важно, так как людям предстоит много контактировать с искусственным интеллектом.

Что это значит для разработчиков

Современные компании всё чаще добавляют ИИ человеческие черты — от интонации до имени и внешности. Это повышает доверие, но и создаёт риск закрепления социальных искажений.

Если пользователи систематически эксплуатируют одних цифровых партнёров и избегают других, это может переноситься и в реальное общение, усиливая дискриминационные привычки.

"Подобные искажения способны закреплять вредные модели поведения и усиливать гендерные предрассудки", — предупреждают авторы исследования.

Поэтому важно учитывать такие эффекты при разработке интерфейсов и алгоритмов. Разработчики должны стремиться к нейтральному дизайну, избегая акцентов, которые могут провоцировать восприятие ИИ как "мужского" или "женского".

Сравнение подходов к проектированию ИИ

Гендерно-специфичный ИИ - вызывает доверие, но усиливает стереотипы.
Нейтральный ИИ - снижает риск предвзятости, но может казаться менее "живым".
Адаптивный ИИ - подстраивается под пользователя, сохраняя баланс между персонализацией и этикой.

Плюсы и минусы антропоморфного ИИ

Плюсы:
повышает вовлечённость пользователей;
делает взаимодействие интуитивным;
облегчает адаптацию новых технологий.
Минусы:
усиливает социальные стереотипы;
может провоцировать манипулятивное поведение;
снижает чувство ответственности пользователя.