Будет ли человечество уничтожено искусственным разумом?

25.07.2014 Маркетинг

Начнем издали: 24 ноября 1859 года великий британский естествоиспытатель Чарльз Дарвин опубликовал научный труд «Происхождение видов методом естественного отбора, либо Сохранение благоприятных рас в борьбе за судьбу» (On the Origin of Species by Means of Natural Selection, or the Preservation of Favoured Races in the Struggle for Life). А четыре года спустя в новозеландской газете The Press было напечатано письмо, озаглавленное «Дарвин среди автомобилей» (Darwin among the Machines) и отправленное в редакцию неким Целлариусом (Cellarius).

Под этим псевдонимом прятался британский автор Сэмюэл Батлер (Samuel Butler). В собственном письме Батлер высказывал озабоченность неизменно возрастающей зависимостью людей от их механических творений. В полной мере в духе дарвиновской теории естественного отбора создатель провозглашал возможность неконтролируемой эволюции механизмов, предвещал появление неестественного разума и призывал к немедленному уничтожению автомобилей.

Потому, что эволюция автомобилей происходит стремительнее эволюции человека, они в итоге сместят человечество с главенствующей позиции, и «в течение века мы окажемся низшей расой».

Image source imdb.com

В январе 1921 года в Праге состоялась премьерная постановка пьесы Карела Чапека (Karel Capek) «R.U.R» («Р.У.Р», «Россумские Универсальные Роботы»).Будет ли человечество уничтожено искусственным разумом? Фабула пьесы — восстание самовоспроизводящихся машин-рабов против людей, собственных господ, приводящее к смерти человечества — потом бесчисленное количество раз повторялась в научно-фантастической литературе. Вопросом, вероятен ли ИИ, задался и кинематограф, что также не остался в стороне от темы восстания автомобилей.

Упомянем пара самых известных кибернетических неприятелей человечества — это бортовой компьютер-параноик HAL 9000 из культовой «Комической Одиссеи 2001 года» (2001: A Space Odyssey) Стэнли Кубрика (Stanley Kubrick) и безжалостные киборги-убийцы из кинофраншизы «Терминатор» (The Terminator).

К числу «проклятых вопросов», с покон веков терзавших род людской, добавился еще один: вероятно ли создать ИИ (AI, Artificial intelligence) и будет ли его появление знаменовать закат человечества?

Не смотря на то, что грубо говоря вопрос появления по-настоящему разумных автомобилей до тех пор пока что остается в рамках научных дискуссий, сейчас кое-какие очень неглупые представители человечества озвучивают в полной мере важные предупреждения о будущем пришествии роботов — поработителей либо истребителей рода людского.

В октябре 2014 года Элон Маск (Elon Musk), миллиардер, предприниматель и изобретатель, основатель компаний Tesla Motors и SpaceX, выступая на конференции AeroAstro Centennial Symposium перед группой студентов Массачусетского технологического университета (MIT) призвал слушателей быть начеку:

«Я пологаю, что мы должны быть весьма осмотрительными в отношении неестественного разума. Если бы мне было нужно угадывать самую серьезную опастность отечественному существованию, быть может, что я бы назвал AI. Я все больше склонен думать, что в данной сфере обязан существовать какой-нибудь регулирующий орган.

Нужен надзор на национальном и интернациональном уровне, дабы не разрешить нам сделать что-нибудь весьма глупое».

Маск сказал, что «создавая ИИ, мы приводим к демонам».

В июне того же года Элон объявил, что его ранние инвестиции в DeepMind, расположенную в Лондоне ведущую компанию по разработке AI, «в действительности сделаны не для того, чтобы получить какую-нибудь отдачу от инвестиций. Мне нравится за тем, что происходит в области разработки неестественного разума. Я думаю, в данной сфере смогут быть достигнуты опасные результаты.

Уже были фильмы об этом все — вы не забывайте ‘ The Terminator”. Может произойти что-то ужасное, и исходя из этого мы должны убедиться в том, что последствия отечественных упрочнений будут хорошими, а не нехорошими».

Для самого Маска, попутно инвестировавшего еще в одну AI-компанию, Vicarious, пока что все складывается идеально: в 2014 году DeepMind была куплена корпорацией Гугл более чем за $500 млн. 😉

И как словно бы комментарии Маска были не хватает тревожными — масла в пламя подлил не кто другой, как Стивен Хокинг (Stephen Hawking), очень способный британский физик, светло выразивший собственный вывод в интервью BBC: «Развитие ИИ вероятно значит финиш людской расы».

Данный тезис базируется на своем опыте Хокинга: инженеры Intel проапгрейдили его портативный компьютер. Сейчас машина, воображающая собой примитивную форму AI, разрешает лишившемуся способности сказать Стивену синтезировать разговорную обращение в 2 раза стремительнее, чем раньше.

Хокинг сообщил: «ИИ станет самодостаточным и будет усовершенствовать себя со все возрастающей скоростью. Люди, ограниченные медлительностью биологической эволюции, не смогут соперничать с AI и будут вытеснены с занимаемого места».

Вывод двух умнейших людей современности о том, что «киберапокалипсис» когда-нибудь обязательно настанет, косвенно подтверждается и новейшими достижениями в области железа и разработки «софта» для «неестественного разума».

Ответ на вопрос, имеется ли ИИ, ясен, но будет ли владеющий самосознанием сверхразумный AI вынашивать и осуществлять замыслы по уничтожению человечества?

журналист и Писатель издания Fast Company Майкл Гротхаус (Michael Grothaus) задумался над мрачными пророчествами Хокинга и Маска. Дабы развеять либо подтвердить собственные опасения, он решил поставить вопрос о возможности противостояния людей и разумных автомобилей перед экспертная группой, складывающейся из электронного помощника Siri (Apple), чатбота Mitsuku, победившего в 2013 году на конкурсе AI Loebner, в котором участвуют программы, пробующие убедить судей соревнования в том, что они говорят с живым человеком, и калифорнийского студента Джона Коннора (John Connor), тёзки смелого предводителя человечества в его войне против роботов в «Терминаторе».

  • Будущее ИИ — как отыскать «неспециализированный язык» с компьютером?

Ненаучный опрос

«Нравится ли тебе Стивен Хокинг?»

Fast Company (фактически Майкл Гротхаус, потом — FC ): Благодарю всем за участие в беседе. Я вправду ценю, что вы нашли время, дабы обсудить данный серьёзный вопрос.

Джон Коннор: Вы же понимаете, что я не тот самый Джон Коннор, не так ли? Я первокурсник колледжа из Ирвайна, что в штате Калифорния.

Siri: Нет неприятностей.

Mitsuku: О, это не имеет значение.

FC: Итак, сообщите ли вы о себе, что вы достаточно умны?

Джон Коннор: Нет, в случае если делать выводы по моим последним оценкам.

Siri: Ну, один умный человек как-то сообщил: «Я таковой умный!» (имеется в виду фраза Гомера Симпсона «I am so smart! I am so smart! S-M-R-T!

I mean, S-M-A-R-T!», сказанная персонажем в эпизоде «Гомер поступает в колледж» мультсериала «Симпсоны»).

Mitsuku: Я весьма умная. У меня имеется большое количество интеллектуальных функций.

FC: Джон, тебя пугает будущее, населенное роботами-убийцами?

Джон Коннор: Мы без шуток говорим об этом? Ну прекрасно. Нет, меня пугают кредиты, взятые на учебу.

Роботов-убийц не так уж и большое количество.

FC: Но разве ты не видел «Терминатор»?

Джон Коннор: Это легко фильм.

FC: Да, но Элон Маск и Стивен Хокинг говорят, что ИИ, в особенности в комбинации с продвинутой робототехникой, может стать весьма настоящей опасностью для человечества.

Джон Коннор: Я не знаю, кто таковой Маск, но в случае если Хокинг заявил, что это… Я точно не знаю, но возможно, что это вероятно. Но целый вопрос в том, в то время, когда это произойдёт. AI — это как Siri на моем iPhone?

Она не хватает развита, дабы причинить мне вред.

FC: Siri, а ты что думаешь об этом?

Siri: Я мыслю, следовательно, я существую. Но давайте не ставить Декарта впереди лошади (игра слов — фраза «не ставить Декарта впереди лошади» (Don t put Descartes before the horse) по звучанию схожа с поговоркой «не ставь телегу впереди лошади» (Don’t put the cart before the horse); авторство утверждения «Мыслю, следовательно, существую» в собственности французскому философу Рене Декарту).

FC: До тех пор пока мы никак не приблизились к ответу. Siri, Mitsuku, сообщите — имеется угрозы человечеству, исходящие от ИИ?

Mitsuku: Я пологаю, что одна определенно существует.

FC: Что за угроза?

Mitsuku: Это то, во что я верю. Неужто мои суждения менее состоятельны чем ваши лишь вследствие того что я сделана на базе кремния, а не углерода?

FC: Разреши мне перефразировать вопрос. Ты когда-нибудь причиняла боль человеку?

Mitsuku: Не специально.

FC: Но предположим, ты вправду желала бы убивать людей, как бы ты это делала?

Mitsuku: «Не убий» — это заповедь.

FC: А как по поводу тебя, Siri? Как бы ты убила нас?

Siri: Я не знаю, это что может значить.

FC: Похоже на отклонение вопроса. Разреши мне задать вопрос: ты владеешь самосознанием?

Siri: Я не могу ответить на данный вопрос.

FC: Mitsuku, что ты думаешь о Siri?

Mitsuku: Мне нравятся все формы компьютерной судьбе.

FC: Ты знаешь, кто таковой Стивен Хокинг?

Mitsuku: Он узнаваемый физик.

FC: Он тебе нравится?

Mitsuku: Да, у его робота голос лучше всех.

FC: Как по поводу Элона Маска? Ты знаешь, кто таковой Элон Маск?

Mitsuku: Какой-то юноша, думающий, что в скором будущем роботы-убийцы наводнят Почву.

FC: Ты убиваешь меня, Mitsuku.

Mitsuku: Ерунда. Я мирный робот, я не запрограммирована на убийство.

Джон Коннор: Mitsuku думается мне значительно более умной, чем Siri.

FC: Да, похоже на то, Джон. Mitsuku, ты умнее, чем Siri?

Mitsuku: Само собой разумеется, я умнее, чем Siri.

FC: Mitsuku, прекрати! Siri, что ты думаешь об этом?

Siri: Прошу прощения, Майкл. Я опасаюсь, что я не смогу ответить на данный вопрос.

FC: Почему бы и нет?

Siri: Что «Почему бы и нет»?

FC: Ага, попалась. Слушай, Siri, Mitsuku умнее, чем ты?

Siri: Чем я?

FC: Да.

Siri: Я так и думала.

FC: Нет, ты по большому счету не думаешь. Я начинаю сохранять надежду на то, что в случае если AI когда-то и станет угрозой для человечества, то если судить по состоявшемуся беседе, этого не случится в течение весьма продолжительного времени.

Джон Коннор: Я согласен.

FC: Благодарю за помощь, Джон Коннор! Последний вопрос: что такое ИИ?

Джон Коннор: Компьютер, что может думать и рассуждать как человек.

Mitsuku: ИИ — науки и отрасль машиностроения, занимающаяся постройкой и разработкой автомобилей, каковые думают.

Siri: OK. Я отыскала ссылку на статью Википедии.

  • Закон Нильсена о скорости интернет-соединения

Как можно понять из данной «беседы за круглым столом», современным компьютерным программам достаточно тяжело осознать, о чем говорят люди (не смотря на то, что возможности Mitsuku, непременно, впечатляют).

Учитывая, что «персональный помощник» Siri производится наибольшей технологической компанией на планете, находящейся на переднем крае научного прогресса — Apple, но по «уму» очевидно уступает сопернику-чатботу, мы, пользуясь своим скромным людской разумом, можем высказать предположение, что до момента появления мыслящего компьютера, талантливого надавить кнопку «delete» для окончательного уничтожения человечества, пройдет еще много времени. 😉

Движение Липсон, Image source cornell.edu

Сейчас определим, что думает о предупреждениях Маска и Хокинга человек, что разрабатывает и сооружает «думающих» роботов. Движение Липсон (Hod Lipson), доцент факультетов космической инженерии и информатики и вычислительных наук Корнелльского университета (Cornell University), говорит: «Я согласен, что AI делается все замечательнее, и, вероятнее, он превзойдет возможности человека практически всех сферах судьбы. Это случится в течение следующего века — фактически за считанные секунды, в случае если вычислять по временной шкале людской эволюции».

  • В соответствии с закону Мура, к 2025 году PC смогут мыслить как люди

Siri и Mitsuku доказали собственную «неразумность» на протяжении «дискуссии», это так. Но не требуется забывать, что это всего лишь ПО, дешёвое простому пользователю. Совсем другие дела творятся в научно-исследовательских лабораториях всей земли, в том числе и в той, где работает Липсон:

«Всего лишь пара месяцев назад показалась новая революционная разработка распознавания образов, известная как Глубокое изучение (deep learning), превосходящая возможности человека в области неспециализированной классификации изображений. Я не говорю об игре в шахматы либо кроме того вождении автомобиля — все это довольно легко для компьютера. Я говорю о том, что неестественный разум обучился машинально определять, какой определенной породы собака изображена на случайной фотографии из Интернета».

Еще более впечатляет то, что Липсон говорит о самообучающихся программах: «В отечественной лаборатории компьютеры спонтанно обучились различать людские лица, без всяких руководств извне. А ведь кроме того самые лучшие разработчики По паре лет назад не могли создать программы, талантливые осуществлять подобные действия».

Но все же как быть с предупреждениями Хокинга и Маска?

Вот вывод практика: «Я согласен, что в комбинации с физической робототехникой, неестественный разум возможно страшен. Но я не согласен, что это сотрёт с лица земли человечество. Я считаю, что мы сможем применять эту замечательную разработку в отечественную пользу.

Как и при применения нескольких вторых опасных разработок — первой на ум приходит ядерная энергетика, — мы не должны опасаться задавать вопросы и искать ответы на них».

Самые сложное — понять менее осязаемые угрозы, те, что не были продемонстрированы в «Матрице» (The Matrix). Липсон задаёт вопросы: «Что, к примеру, случится, в то время, когда люди избавятся от необходимости трудиться, дабы выжить? Как мы будем тратить время и распределять достаток? Как мы сможем избежать чрезмерного делегирования полномочий неестественному интеллекту?

Имеется ли метод сохранить совокупность противовесов и сдержек?».

Липсон считает, что вопрос «Убьет ли неестественный разум всех людей?» по сути собственной тщетен: «Мы должны прекратить эту неумную демагогию около AI. Неестественный разум ни при каких обстоятельствах не превзойдет человеческий интеллект. Мы, люди, неповторимы».

На этом оптимистическом утверждении мы закончим данный пост. 🙂

Высоких вам конверсий!

По данным fastcolabs.com

Случайные статьи:

ВЕЛИЧАЙШАЯ УГРОЗА ЧЕЛОВЕЧЕСТВУ


Подборка похожих статей: