Мы прощаем людям ошибки, но ненавидим, когда ошибается машина

Мир стремительно меняется: искусственный интеллект уже помогает врачам ставить диагнозы, а пользователям — выбирать фильмы и писать тексты. Машины всё чаще решают за нас повседневные задачи. Но вместе с восторгом растёт и тревога: почему мы боимся того, что сами создали? Об этом сообщает издание Live Science.

Когда технологии вызывают недоверие

Многие алгоритмы остаются "чёрными ящиками": пользователь видит только результат, но не понимает, как система к нему пришла. Это противоречит человеческой природе — нам важно видеть причинно-следственную связь. Когда её нет, мы чувствуем беспомощность и настороженность. Отсюда возникает феномен, известный как "отвращение к алгоритмам": люди часто выбирают человеческое суждение, даже если оно менее точное. Аналогичные эффекты наблюдаются и тогда, когда цифровые системы начинают вести себя "по-человечески" — например, демонстрировать гендерные или эмоциональные черты, как показало исследование "Поведение людей к ИИ зависит от его гендерных характеристик".

"После одной ошибки алгоритма пользователи начинают доверять ему меньше, чем человеку, допустившему ту же оплошность", — отмечается в исследовании маркетолога Беркли Дитворста.

Люди склонны проецировать на машины человеческие качества. Если виртуальный помощник отвечает слишком вежливо, это кажется странным. Если рекомендация оказывается слишком точной — настораживает. Нам кажется, что за алгоритмом стоит намерение, хотя это просто набор статистических закономерностей.

Человеческий фактор против машинной логики

Психологи называют это антропоморфизмом — стремлением приписывать неживым системам эмоции и намерения. Ещё в 1990-е годы профессора коммуникаций Клиффорд Нас и Байрон Ривз доказали, что люди реагируют на машины так же, как на собеседников. Даже зная, что перед ними программа, они всё равно проявляют социальные привычки — благодарят, извиняются, обижаются.

Интересно, что людям легче прощать человеческие ошибки, чем сбои программ. Когда ошибается человек, мы понимаем причины — усталость, недосмотр, эмоции. Но если ошибается алгоритм, воспринимаемый как "объективный" и "точный", реакция оказывается резче. Мы чувствуем себя обманутыми, ведь ожидали от машины безошибочности.

"Мы доверяем технике быть логичной и беспристрастной, и поэтому её сбой кажется предательством", — говорится в исследовании по психологии доверия.

Эмоции, которых нет

Недоверие усиливает и отсутствие у ИИ эмоциональных сигналов. Люди строят доверие не только на логике, но и на мимике, интонации, взгляде. Алгоритмы этого не имеют, поэтому их вежливость воспринимается холодно. Это явление напоминает эффект "зловещей долины", о котором писал японский инженер Масахиро Мори: чем ближе объект к человеку, но не до конца, тем сильнее дискомфорт. Схожие реакции наблюдаются и при взаимодействии с естественными ритмами — например, как показали учёные, "Лунный цикл влияет на биоритмы человека", вызывая тонкие, но заметные изменения в восприятии и поведении.

Современные технологии делают грань между реальностью и симуляцией всё тоньше. Голоса, изображения и тексты, созданные ИИ, порой неотличимы от человеческих. И если в них не чувствуется эмоций, возникает тревога — не потому что машина опасна, а потому что мы не понимаем, как к ней относиться.

Когда страх оправдан

Не всё недоверие к ИИ иррационально. Случаи предвзятости алгоритмов при приёме на работу, в кредитовании или системе правосудия доказали, что данные отражают человеческие ошибки. Поэтому скепсис — не признак консерватизма, а форма защиты. В психологии это называют "выученным недоверием": если система раньше подводила, человек не станет ей верить без оснований.

Решение проблемы — не в убеждениях, а в прозрачности. Пользователь должен видеть, как принимается решение, иметь возможность задать вопрос и изменить исход. Только так можно вернуть чувство контроля и снизить тревожность.

Доверие как взаимный процесс

Требовать от людей "просто поверить" технологиям бесполезно. Доверие нужно заслужить — открытостью, объяснимостью и уважением к пользователю. Алгоритмы должны быть понятны, а их ошибки — объяснимы. Ведь мы охотнее принимаем несовершенство, если понимаем его причины.

Человек всегда будет искать в машине знакомое человеческое — логику, честность, эмпатию. И если искусственный интеллект сможет продемонстрировать хотя бы видимость этих качеств, он перестанет пугать и начнёт вызывать доверие.