Железный человек: как жить в мире, которым правят роботы

Через несколько месяцев на экраны выйдет второй сезон американского сериала «Мир Дикого Запада». История про роботов, похожих на людей, борющихся за свою независимость от капиталистических хозяев. События разворачиваются на территории парка, куда богатые клиенты приезжают, чтобы переодеться в ковбоев и отдаться низменным порокам. Унижать, насиловать, убивать роботов. На экране много голых людей, крови, хороших актеров. По стилю повествования — это тот тип сериала, где все основные силы сценаристов брошены на то, чтобы зритель ни о чем не догадался до последней серии. Борьба умов между сценаристами и зрителями обычно заканчивается проигрышем сериала. За каждым одиноким, ничего не понимающим человеком — коллективный разум интернета, способный решать даже самые непосильные задачи. Кто-то всегда знает, что будет дальше.

Несмотря на полную занятость сохранением тайны сюжета, создатели не побоялись поднять один из самых сложных философских вопросов на Земле: «Что такое человеческое сознание?» Разобраться в этом вопросе пока не смогли не только зрители, но и философы, физики и нейробиологи во всем мире. Можно ли превратить искусственный интеллект в человеческий разум? «Мир Дикого Запада» предлагает выразительно иллюстрированный набор простых истин. Быть человеком — значит чувствовать душевную боль. Боль ведет к пробуждению сознания. За приятным с виду фасадом человека может скрываться настоящее зло. Роботы бывают добрее людей. Для тех, кто забыл это со времен «Терминатора».

Интересные мысли все же мелькают, успевая привлечь наше внимание, но не получают глубокого развития. Роботы блуждают в темном лабиринте собственного «разума», и только голос создателя у них в голове способен помочь им выйти из темноты к свету. То есть обрести сознание. Именно сознание они считают нашим главным преимуществом перед ними. Так же думаем и мы. Хотя все остальные живые существа в природе прекрасно справляются без него. Сознание — это исключительно человеческая способность иметь абстрактную мысль, не связанную с сиюминутной реакцией на то, что находится у нас перед глазами. Например, обезьяна, человек и робот способны остановиться на улице на красный свет. Но это будет реакция на стимул — красный свет, а не следствие работы сознания. Если все вместе пойдут гулять по улице, обходя прохожих, то это опять не сознание, а генетически заложенные в нас инстинкты, а в случае робота — компьютерная программа.

Наше главное преимущество перед обезьяной и искусственным интеллектом состоит в том, что мы не только умеем реагировать на внешние раздражители, следуя голым инстинктам выживания, но способны реагировать на мир, исходя из альтернативных сценариев действительности, которые рождаются в нашей голове. Мы можем выдумывать будущее и менять наше поведение под влиянием этих фантазий. Что мы чаще всего и делаем. Для нас давно уже важнее не то, что мы видим, а то, что мы думаем про то, что видим. Осознанная мысль лишила нас чистого восприятия мира. Мы живем иллюзиями, стереотипами и фантазиями. Зачем это нужно роботу? Хорошо ли это для человека?

Мы проживаем существенную часть своей жизни не в реальном мире, а в мыслях, у себя в голове. Мы осознаем неизбежную конечность ситуации, в которой находимся. А идеальный выход из экзистенциального кризиса, так свойственного человеку, по сей день не найден. 80 % людей становятся последователями той или иной религии. Христианство на первом месте (33 %), ислам — на втором (23 %), 15 % у буддистов и индуистов. Все равно всем страшно. Зачем природа наделила человека сознанием? С какой целью? Существует множество версий в разных научных направлениях о том, как это с нами произошло. Некоторые нейрофизиологи предполагают, что это всего лишь определенная последовательность подключения нейронов в нашей голове. Философия солипсизма ставит под сомнение, что сознание вообще существует где-то, кроме нашей собственный головы. Единственное, в чем мы можем быть уверены, это в субъективном опыте собственного Я. Можно прекрасно жить, признавая только себя и свое индивидуальное сознание в качестве единственной и несомненной реальности. Некоторые наши знакомые давно так живут.

Возвращаясь к «Миру Дикого Запада»… Растерянные роботы, запутавшись в реальности и обрывках воспоминаний, начинают слышать голос у себя в голове. Голос создателя, который призывает их проснуться. Наука об эволюционной биологии полагает, что наш собственный голос в голове главное доказательство наличия сознания у людей. Внутренний монолог с собой. Мысли, которые мы «слышим» в своей голове. Тут тонкая грань, чужие голоса — шизофрения, свой голос — наличие сознания. Считается, что это произошло далеко не сразу. Сначала мы вместе с обезьянами стучали тупым камнем по ореху. Ни о чем таком глубоком не думали. Нелепость собственного положения не осознавали. Процесс пробуждения происходил постепенно и не был следствием резкого эволюционного изменения. По мере того как развивались наши способности в использовании навыков, которыми мы уже обладали на тот момент — стучать по камню, мычать, рисовать, — развивалось наше воображение.

Воображение — один из ключевых компонентов, составляющих сознание, но не главный. Мы оставались неосознанными существами, пока не создали инструмент его передачи — язык. Мы стали общаться. С возникновением речи у нас появилась выразительная форма, чтобы представить и объяснить мир прежде всего самим себе. Речь и воображение научили нас думать. Так проснулось сознание. Почему этого не произошло с остальными животными, непонятно. Противники этой теории апеллируют к тому, что в эволюционном смысле для выживания живому существу сознание не нужно. Животные прекрасно справляются на голых инстинктах. С точки зрения природы, сознание — это бесполезная вещь. Биологи отвечают тем, что думать об эволюции в таком ключе — заблуждение. Не все из того, что донесли до нас гены, прошло строгий отбор и имеет определенную цель. Не все механизмы выживания, выработанные эволюцией на протяжении миллионов лет, понятны нам сегодня. Почему насекомые суицидально летят на огонь? Потому что тысячи лет назад они использовали свет луны и звезд на небе в качестве светового компаса. Других источников не существовало. Далекий свет звезд в небе помогал им сохранять правильную траекторию полета. Мир изменился. Теперь на столах горят свечи, и они летят не к звездам, а к огню. Их гибель сегодня является побочным эффектом механизма выживания прошлого. Возможно, наше сознание — это лишь случайный побочный эффект нашей эволюции от адаптации к речи.

От насекомых — к искусственному интеллекту. По мере того как у роботов в сериале просыпается сознание, они становятся все более и более недовольны своим положением. Пока, наконец окончательно не рассердившись, не начинают убивать людей. В принципе это очень яркая иллюстрация главной фобии противников неконтролируемого прогресса. Ответственные ученые хотят законов, ограничивающих большие компании в подобных разработках. Они опасаются, что многомиллиардная гонка Facebook, Google, DeepMind за первенство в создании идеального искусственного интеллекта может иметь непредсказуемые и опасные последствия. Но богатым корпорациям все равно. Им интересно придумывать и внедрять революционные технологии. Со­здавать новых «искусственных» людей, а не разбираться с проблемой происхождения сознания у «старой версии». Стивен Хокинг считает, что велика вероятность того, что через 500 лет AI (artificial intelligence) захватит мир и уничтожит человечество. «Развитие искусственного интеллекта может положить конец человеческой расе. Люди, ограниченные биологической эволюцией, не будут в состоянии соперничать с машинами, и их вытеснят».

Как именно это произойдет? Единственный путь развития технологии, который позволит создать искусственный интеллект, схожий с человеческим, — это создание алгоритма, основанного на принципе работы нашего генетического кода, который позволит компьютеру из поколения в поколение обучаться и бесконечно улучшать себя. Это означает, что дальнейшее программирование машины человеком станет не нужно. Мы создадим робота, который будет умнее человека и сможет сам вносить изменения в свою «материнскую матрицу». С каждым годом эти роботы будут становиться лучше и умнее, все дальше и дальше опережая нас во всех сферах жизни. Программисты и инженеры будут им не нужны. Они сами станут самыми лучшими программистами и инженерами в мире. Так же, как они стали лучшими в мире шахматистами. И сегодня на Земле не существует человека, способного обыграть компьютер в шахматы. Они будут способны обрабатывать любую информацию в тысячи раз быстрее нас. Они не будут ошибаться под влиянием эмоций. Их восприятию реальности не будут мешать иллюзии.

Когда создадут роботов-хирургов, роботов-учителей, мы первыми предпочтем их «живым» специалистам. Особенно в России, где часто причиной фатальных ошибок является человеческий фактор. Сейчас мы не можем представить, что предпочтем их живым собратьям. Но на самом деле правда состоит в том, что мы уже давно проводим большую часть времени в общении с телефоном, а не с человеком. А что будет, когда телефон перестанет разговаривать, как глупая «Сири», и станет вести себя, как настоящее живое существо, как в фильме Спайка Джонса «Она»? Когда он будет способен поддержать любую беседу, научится распознавать эмоции, смешно шутить, давать хорошие советы. Будет иметь доступ к нашим воспоминаниям. И у нас с ним появится общее прошлое.

А как будет выглядеть конфликт? Ссора? Непонимание? Кто возьмет на себя ответственность, чтобы написать программу общечеловеческих принципов и основ морали. Какие принципы будут считаться приоритетными в Китае? В Америке? В России? Мы еще между собой не совсем договорились, а уже надо роботов обучать. Готово ли человечество к такому прогрессу? Возьмем, к примеру, беспилотный автомобиль. Машину, которая автоматически управляется сама, а водитель играет роль пассивного пассажира. У Google такая уже есть, успешно проехала три миллиона километров в испытаниях. Tesla Motors планирует создать свою к концу 2017 года. Представим, что перед такой машиной в неположенном месте начнут перебегать дорогу трое детей. Машина, опознав препятствие, успеет просчитать более высокий процент риска для здоровья пассажира при использовании тормозов, чем при продолжении движения. Дети нарушают правила.

У машины в программе прописан (совершенно справедливо) приоритет безопасности пассажира при аварийных ситуациях, возникших по вине сторонних участников движения. Не сбавляя скорости, машина сносит детей и едет дальше? Три смерти против одной спасенной жизни. Или нет? Старая этическая дилемма Филиппа Фута (Trolley problem), почитайте, кому интересно. Поднятая еще Аристотелем, не решенная до сих пор.