После неровного старта и большого разочарования на протяжении многих лет человечество столкнулось с технологией, способной изменить все. Экономический и культурный импульс для освоения самых дальних границ машинного интеллекта предполагает, что мы в итоге придем к человеческому интеллекту, возможно, в ближайшие 10-20 лет.

Предсказания могут отличаться, но, если последние события являются ориентиром, мы должны ожидать появление общего искусственного интеллекта даже раньше, но не позже.

Когда это произойдет, мы создадим машины, способные принимать огромные объемы данных и предоставлять сверхчеловеческие идеи и прогнозы. По иронии судьбы, и, если "проблема черного ящика" остается нерешенной, мы можем оказаться в таком же положении, что и древние греки, посещающие Оракула Дельфи и просящие Аполлона предсказать их будущее. Язык Бога был совершенно непостижим для людей, поэтому посредник — Пифия — был вызван для передачи загадочных высказываний, которые священники затем интерпретировали различными противоречивыми способами.

С помощью искусственного интеллекта мы создаем новых "богов", интеллект которых превзойдет наш собственный в разы. Их рассуждения будут за пределами нашего понимания. Таким образом, мы столкнемся с невыносимой дилеммой. Должны ли мы слепо доверять этим новым силиконовым богам? Маловероятно, что искусственный интеллект на уровне человека, не способный объяснить свои рассуждения, будет социально приемлемым. Это оставляет нам только один выбор: развивать искусственный интеллект еще дальше и снабдить его человеческими характеристиками, такими как эмоциональный интеллект, эмпатия и сознание. Действительно, это был бы единственный способ решить проблему связи между интеллектуальными машинами и нами. Машины будущего должны будут интуитивно улавливать наши эмоции и адаптироваться к нашему настроению и психологическому профилю. Им придется научиться рассказывать о том, как мы себя чувствуем, анализируя наш голос и выражения и делая выводы на основе большого количества данных, которые они будут собирать о нас за прошедшие годы. Так они смогут завоевать наше доверие и стать частью человеческого общества.

В отличие от наших "человеческих" друзей, эти эмоционально- интеллектуальные машины будут знать о нас все. Мы не сможем ничего от них скрыть. Вероятно, они будут знать о нас гораздо больше, чем мы сами; и именно так они смогут направлять нас в принятии лучших решений и выборов в нашей жизни. Иметь такого человека в жизни было бы бесценным, и придание искусственному интеллекту более человечного и чуткого отношения только приветствовалось бы.

Тем не менее, эта зависимость от такой интеллектуальной машины ставит ряд этических вопросов. Если у нас есть машина, которая всегда защищает нас от наших ошибок, например, благонамеренный и всезнающий родитель или партнер, как люди в будущем будут учиться на ошибках и, следовательно, становиться зрелыми личностями? Не приведет ли всезнающий, всевидящий ИИ к инфантилизации людей и культуры? А как насчет достижения в сознания ИИ? Должны ли мы раздвигать границы технологий, чтобы сделать машину самосознательной? Было бы разумно вдохнуть жизнь в безжизненную путаницу проводов, охлаждающих вентиляторов и микросхем? Готический шедевр Мэри Шелли "Франкенштейн" и "Бегущий по лезвию" Ридли Скотта дают полезную информацию всем, кто стремится к такому будущему.

Пределы для того, чтобы сделать искусственный интеллект более человечным, обязательно должны быть установлены до того, как такая цель будет достигнута. Самосознание сделает машины способными ставить свои собственные цели, которые могут несколько отличаться от наших. Учитывая нашу растущую зависимость от них в будущем, эти самоосознающие машины вполне могут решить манипулировать нашим доверием для достижения своих целей. И хозяин, который создал равных, может, таким образом, стать рабом.