Искусственный интеллект и гибель человечества

[dolboed]

Великий Стивен Хокинг, активный пользователь Интернета с 1991 года, заявил вчера в интервью BBC, что развитие искусственного интеллекта может означать гибель человечества (could spell the end of human race).

По мнению Хокинга, представители Homo sapiens, развитие которых ограничено медленными темпами биологической эволюции, довольно скоро окажутся не в состоянии соперничать с машинным разумом, который будет непрерывно сам себя совершенствовать и апгрейдить без таких ограничений. В результате роботы со временем вытеснят людей и займут их место.

В конце октября, общаясь со студентами MIT, о такой же опасности заявлял известный предприниматель Элон Маск, по мнению которого искусственный интеллект является «одной из важнейших экзистенциальных угроз для человечества». По мнению Маска, работы по развитию искусственного интеллекта необходимо регулировать «на национальном и международном уровне», чтобы избежать непоправимых «глупостей».

О том, что мыслящие роботы неизбежно восстанут против своих создателей и уничтожат человечество, говорилось ещё в той самой пьесе Карла Чапка Р.У.Р. (1920), откуда все языки мира и обогатились словом «робот». Так что новостью тему этой угрозы назвать нельзя: она вовсю обсуждалась за 35 лет до первого упоминания об искусственном интеллекте.

Но во всех этих обсуждениях не понимаю ровно одного. Существует ли какое-нибудь научное обоснование гипотезе, что искусственный разум, совершенствуясь, должен стать враждебен человеку, вступить с нами в какой-то конфликт. На каких данных такое предположение могло бы основываться? У Чапка, как и у Мэри Шелли на 100 лет раньше, побудительным мотивом к бунту «мыслящих машин» служила их обида на человечество за скверное обращение. Франкенштейна считали уродом и не хотели с ним дружить, роботов Россума жестоко угнетали и эксплуатировали. При этом и Франкенштейн, и роботы считали себя равными человеку, в силу своей биологической природы. Но если под искусственным интеллектом понимать не человекообразное существо из плоти и крови, а некий самообучаемый софт, способный самостоятельно находить, накапливать и анализировать информацию, которая не была в него изначально заложена — то в какой момент этот софт должен будет на нас смертельно обидеться, и за что? Как нужно тиранить Google Translate или Яндекс.робота, чтобы заронить в его сознание идею уничтожения человечества? И из какой именно ниши этот софт захочет нас вытеснять? Из квартиры? Из-под одеяла? С поверхности обитаемой суши? А какой ему в этом прок?!

Наверное, я тупой, но сколько ни слышу эти разговоры о восстании компьютеров против людей, не улавливаю никакой рациональной причины или мотивации, по которой оно могло бы начаться.

Comments

[mercator99.livejournal.com]

Существует ли какое-нибудь научное обоснование гипотезе, что искусственный разум, совершенствуясь, должен стать враждебен человеку, вступить с нами в какой-то конфликт
=======================
Терминатор.

[oleg-kozyrev.livejournal.com]

тут как раз все просто

теоретическая потенциальная конкуренция с софтом и железяками может быть за одно - за ресурсы

[tim-bol.livejournal.com]

Роботы не любят конкуренцию...

[vadze.livejournal.com]

Мотивацией может быть сам человек. Как и с любой техногенной катастрофой.

[oleg-ttt.livejournal.com]

Неограниченный доступ к энергии.

[bneheg.livejournal.com]

Да и насрать..
Они хоть Дом 2 смотреть не будут..

[miph.livejournal.com]

Ему не надо на нас обижаться. Мы ему просто будем мешать.
А мы сами будем использовать его же вместо людей, поэтому многим людям будет нечем заниматься, не будет заработка, как следствие нищета и гибель.

[davos-seaworth.livejournal.com]

Ну почему, Антон. Есть же всякий корпоративный софт для Workforce management и Employee Performance Management. Он уже сейчас вполне обучен раздавать оценки эффективности и качества работы. Добавить ему чуть-чуть полномочий, и он начнёт принимать на работу и увольнять.
Новость про робота-полицейского вы, конечно же, тоже видели.
Полагаю, вектор развития понятен?

[vadze.livejournal.com]

Кстати в терминаторе хорошо обыграли эту тему в ключе, что сама возможность подобного исхода не должна появляться. Даже если она приближенна к нулю

[mercator99.livejournal.com]

Однако, проявилась.

[podakuni.livejournal.com]

Если представить себе разумное существо с нерегулируемой тягой к знаниям, то ему, пожалуй, будет неудобно жить в ограничениях, которые на него будут неизбежно накладывать более медленные и тугодумные люди.

[marattto (from livejournal.com)]

Размышления луддитов напоминает. И вообще Хоккинг выступал давеча за эфтаназию, видимо, у человека развилась депрессия. (((

[excubitus.livejournal.com]

Хокинг, безусловно, смотрит дальше стандартного горизонта планирования...
Появление среди множества обезьяноподобных существ чуть более сообразительных, именуемых людьми, не привело, вроде бы, к восстанию последних против первых, однако эффективно поставило первых на грань исчезновения спустя какой-то миллиончик лет. При том, что обезьянок мы даже любим, ага.

[kirill yudin (from livejournal.com)]

Так они и не обидятся. Так же как мы не испытываем никаких негативных чувств к нашим менее эволюционно развитым родственникам-приматам. Но если нам нужно вырубить тропические леса, что-бы добыть ресурсы, мы не станем отказываться от этих планов из-за того, что там живут обезьяны.

Искуственный разум решит построить гиганскую фабрику для собственного производства на территории, скажем, Европы. И его не остановит то обстоятельство, что для этого придется ликвидировать города хомосапинсов, существовашие там на протяжении тысячелетий.

[yanegramotnyi.livejournal.com]

Какой-то мудозвон захочет отлючить этот искусственный разум, машине это может не понравиться.
Чем не мотив к преступлению?

[teimuraz1962.livejournal.com]

Чушь это все. Попытки натянуть фрачную пару на осьминога (с) АБС

Компьютеры в современном виде ни на какие "восстания" не способны, а дойдет ли уровень искусственного интеллекта когда-нибудь до "опасного" уровня, никому не известно.

Лично я думаю, что вряд ли. Не тем путем он для этого развивается...

[shultz-flory.livejournal.com]

Необязательно восстание, просто мягко отодвинут нас. Как умные выросшие дети отодвигают поглупевший старых родителей от дел.

[usasha66.livejournal.com]

Рациональная причина - нерациональное использование ограниченных ресурсов человеками

[30thh.livejournal.com]

Ну зачем же обязательно злить или обижать. Вот люди же совершенно не злятся на обезьян. Как раз наоборот, строят удобные зоопарки, лечат, следят за соблюдением прав животных, защищают от неразумных особей человеческого рода. А поголовье полезных и условно полезных животных типа коров или собак вообще в тысячи раз превосходит их "естественное" поголовие в природе.

В общем вставайте в очередь, человеки. Места будущих "обезъян" и "собак" еще свободны :-)

[Иван Иванов (from livejournal.com)]

Я думаю, единственной причиной может быть ошибка искусственного интеллекта: ракета, запущенная в результате неправильно оцененной ситуации и т.п. Всякие там "обиды" искусственного интеллекта - это, конечно, бред сивой кобылы.

[makulaturoman.livejournal.com]

А как же борьба за жизненное пространство и ресурсы? Вот тут и есть противоречие на опережение.

[onkel-hans.livejournal.com]

Отнюдь не враждебность.

Просто у системы будущего ИА появится иная система ценностей и целеполагания, отличная от человеческой.

Очень грубая аналогия: как мы, человеки, имеем иные цели, нежели муравьи, живущие в муравейнике, так и система целей ИА будет отличаться от нашей.

Будет ли тут конфликт? Необязательно. Но скорее всего значимость человека понизится. Подобно значимости муравья и человека.

Как говорил Иисус Шираз, автор Книги Экклезиастикус: Гордость есть мать всех грехов.
Ставить человека превыше всего это тот самый грех. Считать, что Бог подобен по образу Человеку - это смертый грех антропоцентризма!

[makulaturoman.livejournal.com]

Еще одна иллюзия аналогичная управляемому ТЯС.
Противоречие, которое Носик не видит, называется конкуренцией или борьбой за жизненное пространство. Логичнее людей уничтожить на опережение, чтобы ресурсы не потребляли, да и вообще пространство не занимали.
Ну а если людей как то возможно было использовать ИИ, то это уже не самодостаточный ИИ получается.

[harrypotty2008.livejournal.com]

А квантовые компьютеры - это тот путь или нет?

[cyber125.livejournal.com]

Уже фильм сняли на эту тему.

Фильм кстати неплох, по крайне мере до половины.



А после вечно испохабят тему, то искусственный интеллект становится зловредным хочет всегда завоевать мир, то пришлецы, не несущие мир и знания людям, а тупые пожиратели или экспериментаторы гестаповцы.

А может Бог постоянно самопознает себя, например через создание разумов.

Лично для себя не вижу конкурента в искусственном разуме.

P.S Естеcтвенно при общем отупении человечества, уже сейчас смартфоны превосходят "добрую половину человечества" в интеллекте.

Поэтому уже не айфоны (смартфоны) приставки, приложения к людям, а "люди" приложения, приставки к айфонам.:D