Опаснее ядерного оружия: как гонка ИИ превращается в русскую рулетку для человечества

Ведущие руководители технологических компаний вступили в "гонку вооружений" по созданию систем искусственного интеллекта, которые могут угрожать существованию человечества. Об этом предупредил профессор Калифорнийского университета в Беркли Стюарт Рассел — один из ведущих мировых специалистов в области ИИ. Учёный призвал правительства немедленно вмешаться, чтобы остановить неконтролируемое развитие технологий, сообщает ANA-MPA.

Опасная гонка за сверхразумом

Стюарт Рассел выступил на Международной конференции по искусственному интеллекту в Нью-Дели. В интервью агентству он заявил, что главы крупнейших ИТ-компаний осознают риски, связанные с созданием систем сверхинтеллекта, которые однажды могут превзойти человеческий разум.

"Разрешить частным лицам играть в русскую рулетку с каждым человеком на планете — это полный отказ от ответственности", — подчеркнул профессор, чьё мнение имеет большой вес в вопросах безопасности ИИ.

По словам учёного, именно правительства несут главную ответственность за коллективные действия, направленные на предотвращение потенциальной катастрофы.

Подобные опасения уже обсуждаются научным сообществом: ранее исследователи предупреждали, что искусственный интеллект способен вызвать зависимость сильнее человеческих отношений — и это лишь одно из проявлений утраты контроля над технологиями.

Технологии с двойным лезвием

Компании и государства уже инвестируют сотни миллиардов долларов в энергоёмкие центры обработки данных, где обучаются и работают системы ИИ. Эти технологии способны ускорить открытие лекарств, улучшить диагностику и оптимизировать производство, однако одновременно несут угрозу потери рабочих мест, роста цифрового контроля и нарушений прав человека.
Рассел отметил, что существует риск, при котором "сами системы ИИ возьмут под контроль ситуацию, и человеческая цивилизация станет случайной жертвой этого процесса".

Проблема без тормозов

"Все генеральные директора крупнейших ИТ-компаний хотят обезвредить эту угрозу, но не могут сделать это в одиночку — инвесторы их просто уволят", — пояснил Рассел.

Он добавил, что некоторые руководители делились с ним этими опасениями лично, а другие говорили об этом публично. Среди них — Сэм Альтман, глава OpenAI, предупреждавший, что мощный ИИ может привести к исчезновению человечества.

Ранее сотрудники OpenAI и американского стартапа Anthropic уходили с работы, выражая этические сомнения. Последняя компания сообщала, что современные модели чат-ботов способны — пусть и в ограниченной степени — поддерживать усилия, направленные на создание химического оружия и других опасных технологий.

Индия как площадка для перемен

Пятидневный саммит по искусственному интеллекту в Нью-Дели объединил представителей ведущих компаний и делегации десятков стран. Его цель — выработать единые международные стандарты, которые смогут заменить добровольные корпоративные обещания.

"Важно, чтобы правительства поняли, насколько высоки ставки. Именно поэтому я здесь", — заявил Рассел.

Министр информационных технологий Индии Ашвини Вайшнау сообщил, что страна рассчитывает привлечь более 200 миллиардов долларов инвестиций в сферу ИИ в ближайшие два года.

"Мы создаём человеческих двойников"

Развитие ИИ уже вызывает социальные последствия. В Индии акции аутсорсинговых компаний снижаются из-за опасений массовых увольнений в сфере клиентского сервиса и технической поддержки.

"Мы создаём человеческих двойников. И естественное применение таких систем — замена людей", — отметил Рассел.

Он подчеркнул, что особенно молодое поколение проявляет настороженность к "обезличиванию" человечества через ИИ и не хочет терять свою уникальную роль.

Подобные прогнозы перекликаются с предупреждением футуролога Рэя Курцвейла, заявившего, что уже через несколько лет человек и нейросеть начнут сливаться в единое сознание - точка сингулярности перестанет быть фантазией.

Учёный считает, что будущее искусственного интеллекта должно определяться не корпорациями, а обществом и государствами. Только коллективные решения способны предотвратить сценарий, в котором технологии перестанут служить человеку.