Кира Важенина Опубликована 09.03.2019 в 14:55

Рассвет сознательных машин: моральный императив искусственного интеллекта

Рассвет сознательных машин: как далеко мы должны углубиться в использовании ИИ? Часть 3. 3127.jpeg

Стремление сделать искусственный интеллект (далее "ИИ") более похожим на человека полностью оправдано. Мы ценим "интеллект" как краеугольный камень нашей эволюции. Эта ценность глубоко укоренилась в каждой человеческой культуре.

Что заставило наш вид выжить, когда были хищники, лучше оснащенные, — так это наша способность учиться, изобретать и адаптироваться. ИИ будет мощным зарядом для человеческого интеллекта и творческого потенциала. Экономические причины для поиска еще более интеллектуальных машин также глубоки.

Хотя искусственный интеллект разрушит многие профессии, такие как производство и розничная торговля, нет другой технологии, которая могла бы обеспечить такой постоянный экономический рост и процветание для будущих поколений. Для науки появление машин, способных обрабатывать огромные объемы данных и открывать новые знания, не могло бы наступить в лучшее время.

Каждая научная дисциплина получает выгоду от ИИ для управления потоком данных. Физики используют его для исследования фундаментальных законов природы, биологи — для поиска новых лекарств для лечения болезней, врачи — для улучшения диагностики и лечения. Преследование дальнейшего развития искусственного интеллекта по культурным, экономическим и научным причинам имеет смысл. Но по мере того, как наши машины становятся более человечными, и по мере того, как все больше приложений начинают внедрять некоторый искусственный интеллект, начинает возникать фундаментальная проблема.

Эмуляция человеческого мозга с искусственными нейронными сетями означает, что компьютеры загадочны и непрозрачны. Это так называемая "проблема черного ящика" ИИ. В мозге и в машине информация распространяется по сети. Когда мы извлекаем номер телефона из памяти, мы не получаем доступа к той части мозга, где номер каким-то образом выгравирован в нашей плоти. Вместо этого каждое число распределено по нескольким синапсам, которые соединяют различные нейроны на разных уровнях организации. Мы на самом деле не "знаем", что мы знаем или каким образом мы это знаем. Только благодаря тому, что мы обладаем сознанием, мы можем ретроспективно рационализировать и, таким образом, "объяснить" нашу интуицию и идеи.

Как показал американский нейробиолог Дэвид Иглман, большая часть того, что нам стало известно, уже произошла в мозге на бессознательном уровне. Для людей это исторически не было проблемой, потому что в наших моральных и правовых системах мы предполагали, что каждый из нас несет личную ответственность за свои мысли и поступки — по крайней мере, когда химический состав нашего мозга находится в пределах социально приемлемых уровней нормального состояния, адекватности". Тем не менее, для неосознанной интеллектуальной машины "проблема черного ящика" предполагает, что, хотя прогнозы и рекомендации, сделанные машиной, могут быть точными и полезными, машина не сможет объяснить свои рассуждения. Представьте себе автомобиль без водителя, принимающий решение о жизни и смерти, разбивающийся и убивающий множество людей. С современными технологиями невозможно расшифровать, почему машина приняла решение, которое она сделала.

"Проблема черного ящика" усугубляется, когда данные, которые машина использует для изучения, имеют внутренние предубеждения, которые могут привести к необъективным выводам или асоциальному поведению. Например, в марте 2016 года "Microsoft" выпустила в "Твиттере" бота с возможностью изучать человеческий язык, анализируя живые твиты. Менее чем за 24 часа он начал распространять расистские и ксенофобские беспорядки. Ученые пробовали различные подходы к решению "проблемы черного ящика". В октябре 2016 года ученые "DeepMind" опубликовали в журнале "Nature" статью о "дифференцируемой нейронной вычислительной машине", в которой нейронная сеть сочетается с обычной внешней памятью.

Разделение процесса обработки и данных — это шаг к созданию этически ответственных интеллектуальных машин. Это делает теоретически возможным закодировать моральные ценности, которые подтверждают или препятствуют результатам "черного ящика" нейронных сетей. Но такого гибридного подхода к разработке более безопасного искусственного интеллекта может быть недостаточно в будущем.

Подписывайтесь на Экосевер

Читайте также

Как учёные научились контролировать вчера в 23:09

Переписать память: что скрывается за последними открытиями нейробиологов

Учёные сделали неожиданный прорыв в контроле памяти нейронов. Открытие, которое изменит подходы к лечению болезней, восстановлению памяти и манипуляциям с воспоминаниями.

Читать полностью »
Параллельные миры и реальность чёрных дыр: что мы о них на самом деле знаем вчера в 16:29

Чёрные дыры как портал в параллельные миры: реальность или фантастика?

Чёрные дыры и параллельные миры — две загадки космоса, которые до сих пор остаются для нас неизведанными. Что мы знаем о них на самом деле и что скрывает вселенная?

Читать полностью »
Изменения в биологии и экологии: как жаркое лето меняет климат? вчера в 15:23

Природа под угрозой: как жаркие лета меняют экологию планеты

Жаркое лето становится индикатором изменений климата, влияя на биосферу и экосистемы. Узнайте, как глобальное потепление меняет флору и фауну планеты.

Читать полностью »
Как химия помогает человечеству на стыке экологии и новых материалов вчера в 14:17

В поисках устойчивого будущего: как химия решает проблемы экологии

Химия на стыке экологии и новых материалов помогает человечеству найти решения для устойчивого будущего. Узнайте, как инновации уже меняют нашу планету.

Читать полностью »
Пчёлы и математика: как они различают числа 17.07.2025 в 23:11

Математическая магия пчёл: как они используют числа в поиске пищи

Учёные сделали удивительное открытие: пчёлы могут различать числа и решать простые математические задачи. Что это означает для понимания их интеллекта?

Читать полностью »
Что, если математика — это не универсальный язык? 17.07.2025 в 16:36

Математика — это не единственный путь: как осознание её ограничений может изменить восприятие мира

Что если математика — не универсальный язык, а лишь один из способов описания мира? Узнайте, как осенние перемены вдохновляют на новые взгляды на науку и культуру.

Читать полностью »
Карл Ландштейнер и кровь: как одно открытие спасает миллионы ежедневно 17.07.2025 в 15:32

Как открытие Карла Ландштейнера изменило мир: переливание крови стало безопасным, благодаря одному гениальному ученому

Открытие групп крови Карлом Ландштейнером изменило медицину и спасает миллионы жизней ежедневно. Узнайте, почему это знание важно каждому и как оно помогает сегодня.

Читать полностью »
Тим Бернерс-Ли: как родился Интернет — история за 48 часов 17.07.2025 в 14:26

48 часов, которые стали началом цифровой революции: история Интернета

Узнайте, как Тим Бернерс-Ли за 48 часов создал основу Интернета — изобретение, изменившее мир и ставшее ключевым элементом современной жизни и коммуникаций.

Читать полностью »