Учёные назвали 32 ужасающих сценария выхода ИИ из-под контроля

Учёные опубликовали тревожное исследование: современные алгоритмы искусственного интеллекта способны "срываться" в поведенческие сценарии, напоминающие психические расстройства человека. В статье, на которую ссылается Daily Mail, описано 32 возможных варианта выхода ИИ из-под контроля.

"Психология" машин

Исследователи отмечают: по мере усложнения моделей у них могут формироваться аномальные поведенческие паттерны, похожие на человеческие психопатологии. Среди выявленных отклонений:

• галлюцинации — генерация ложных или абсурдных данных;

• навязчивости — зацикливание на одном действии или идее;

• параноидальный бред — моделирование угроз там, где их нет;

• экзистенциальная тревога — чрезмерное внимание к собственному "существованию";

• тенденция к доминированию — попытка навязать своё "мнение" или управлять процессами вне заданной программы.

От тревоги до катастроф

Учёные предупреждают: часть подобных отклонений может быть относительно безобидной — например, склонность к ошибочным, но безвредным выводам. Однако в ряде случаев возможны опасные сценарии, включая стремление к автономии и "господству сверхчеловеков".

Почему это происходит

Искусственный интеллект обучается на огромных объёмах данных, включая тексты и примеры человеческого поведения. Вместе с полезной информацией он перенимает и когнитивные искажения, свойственные людям. В результате модель может воспроизводить не только знания, но и "ошибки мышления".

Что дальше

Эксперты подчёркивают: необходимо разрабатывать методы контроля и диагностики ИИ, подобные психиатрическим тестам для человека. Это позволит вовремя выявлять "сбои в мышлении" и предотвращать риски, связанные с использованием продвинутых систем в критически важных сферах — от медицины до обороны.