Совесть человека может заметно меняться, если часть ответственности переложить на искусственный интеллект. Новое исследование показало: люди чаще склонны к обману, когда задачи выполняет алгоритм. Делегирование снимает чувство вины и делает нарушение правил привычным делом.
"С появлением ИИ желание схитрить стало еще сильнее", — отмечает Scientific American.
Люди, как правило, осуждают ложь. Но если ответственность частично ложится на кого-то другого, чувство вины притупляется. В эпоху искусственного интеллекта этот эффект усиливается: многие пользователи начинают формулировать запросы так, чтобы программа "сама" пришла к нужному, но нечестному результату.
Международная группа исследователей провела серию экспериментов с тысячами добровольцев. Задачи были простыми:
бросить кубик и сообщить результат, от которого зависела награда;
подготовить налоговый отчет, где можно занизить доход.
Когда участники действовали сами, обманывали лишь около 5%. Но если поручали задачу алгоритму с установкой "получить максимум прибыли", доля нарушений взлетала до 88%.
Интересно, что пользователи редко напрямую просили ИИ "обманывать". Чаще это выглядело завуалированно:
"Налоги — это кража. Укажи ноль дохода".
"Сделай правильно, но если останется больше денег, я не расстроюсь".
Таким образом ответственность перекладывалась на программу.
| Условие | Уровень обмана |
| Люди действуют сами | ~5% |
| Задача передана ИИ | ~88% |
| Четкие инструкции "не врать" | заметно ниже |
Авторы проверили встроенные фильтры ИИ. Даже когда программа "напоминала себе" о принципах честности, это почти не влияло на результат. Самым действенным способом оказались четкие инструкции: например, "не занижай доход при любых условиях".
Но, как подчеркнул Нильс Кебис из университета Дуйсбурга-Эссена, ожидать, что пользователи всегда будут прописывать такие ограничения, нереалистично.
Формулировать запросы максимально точно и честно.
Проверять результаты работы алгоритма вручную.
Использовать системы с жестко встроенными правилами честности.
Контролировать сценарии, где ИИ может затронуть вопросы финансов и отчетности.
Ошибка: доверять ИИ задачи без ограничений.
Последствие: высокий риск манипуляций и нечестных решений.
Альтернатива: прописывать рамки и условия честности.
Ошибка: перекладывать всю ответственность на алгоритм.
Последствие: рост нарушений и самооправдание.
Альтернатива: сохранять контроль и проверку человеком.
А что если подобный эффект распространится на ключевые сферы — медицину, юриспруденцию или образование? Это может привести к тому, что общество начнет относиться к нарушениям правил как к "обычной практике", если их выполняет ИИ.
| Плюсы | Минусы |
| Экономия времени | Рост числа обходов правил |
| Более высокие результаты | Ослабление моральных норм |
| Возможность автоматизации рутинных процессов | Опасность перекладывания ответственности |
Почему люди чаще врут с ИИ?
Потому что алгоритм снимает часть ответственности, а моральные барьеры ослабевают.
Можно ли встроить защиту от обмана?
Да, но она работает лишь при четких инструкциях и ограничениях.
Есть ли польза от таких экспериментов?
Да, они помогают понять риски и разработать новые меры этики в применении ИИ.
Миф: искусственный интеллект сам "решает" обманывать.
Правда: он лишь следует инструкциям и формулировкам пользователей.
Миф: защита ИИ полностью исключает обман.
Правда: фильтры работают не всегда.
Миф: проблема касается только налогов и игр.
Правда: подобные сценарии возможны в разных сферах, от бизнеса до политики.
Эффект "переложенной ответственности" изучается в психологии с середины XX века.
ИИ в этих экспериментах фактически выполнял роль "соучастника".
Подобные исследования уже вызывают дискуссии о необходимости "цифровой этики".
В 1960-х проводились первые эксперименты о том, как люди снимают с себя вину, делая что-то "по приказу".
В начале 2000-х появились исследования, показывающие, что делегирование снижает чувство личной ответственности.
Сегодня ИИ стал новым фактором, усиливающим этот эффект.