Когда машины станут думать за нас
Feb. 7th, 2016 10:05 pm![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
dolboedВсе победы искусственного разума над человеческим в интеллектуальных играх случились на нашей памяти. И я ещё хорошо помню времена, когда о неизбежности этих побед рассуждали в основном фантасты. А шахматисты и другие комментаторы говорили об ограничениях искусственного интеллекта, из-за которых человеческий мозг всегда окажется сильней в состязании с машиной.
В «Медузе» сегодня — обзор всех побед компьютера над человеком за последнюю четверть столетия: в шахматы и шашки, нарды и реверси, в го и «Эрудит». С интересом узнал оттуда, что спустя 19 лет после победы Deep Blue над Каспаровым ни одна компьютерная программа до сих пор не повторила этого достижения в древней китайской игре го (ближайшая попытка назначена на март 2016). Также компьютер не сумел обыграть чемпиона мира по шашкам. Но, похоже, тема непобедимости искусственного интеллекта в шашках закрылась как-то сама собой, без практических подтверждений, за счёт алгоритма, позволяющего компьютеру никогда не проиграть. В отношении го интрига по-прежнему сохраняется. Система AlphaGo (разработка британской компании DeepMind, купленной Гуглом за 400 млн долларов) ждёт встречи в Сеуле с одним из сильнейших живых игроков в сегодняшнем мировом рейтинге.
Понятно, что все игры на свете, при всей своей сложности и многовариантности — лишь метафора реальных жизненных ситуаций, в которых (если верить всё тем же фантастам — а поди их опровергни) машины однажды начнут принимать решения за людей, и будут делать это лучше людей. Они будут играть за нас на бирже, управлять частным и общественным транспортом, рассчитывать государственный бюджет, объявлять и выигрывать войны (в которых на поле боя сражаться выйдут тоже дроны против клонов).
Честно вам сказать, в феврале 2016 года меня эта перспектива совершенно не тревожит и не пугает. Все страшилки, связанные с возможными сбоями искусственного интеллекта в планетарном масштабе, понятны заранее, и очень наглядно продемонстрированы ещё в первом «Терминаторе», но уже там они не выглядели слишком убедительно. В бытовой плоскости нас пугают тем, что искусственный интеллект за рулём, зависнув или перегревшись, собьёт старушку с ребёнком на переходе. И вина за это ляжет на разработчиков софта. Поэтому они и сами не заинтересованы в массовом внедрении своей продукции. А с ними ещё должны разделить бремя ответственности чиновники и политики всех уровней, санкционировавшие выезд на городские улицы автобусов с аппаратным управлением. Им тоже проще рассуждать о рисках, чем прожить остаток жизни в ожидании встречи с безутешными родственниками старушки и ребёнка...
Честно говоря, я в это совершенно не верю. Боязнь ответственности может затормозить научно-технический прогресс в масштабах одной отдельно взятой корпорации, муниципалитета или страны — но там, где волю одних сковывает мысль о рисках, другие неизбежно задумываются о путях их минимизации. Никакие катастрофы, унесшие жизни прославленных воздухоплавателей в начале XX века, не остановили прогресс пассажирской авиации. Так что будут на нашем веку компьютеры управлять и транспортом, и экономикой, и диагнозы ставить, и преступников ловить. С ошибками, конечно же, но ведь и люди от них не избавлены.
Меня тут больше другой вопрос занимает. Сами-то мы чем займёмся, когда всю мыслительную работу перепоручим машинам?
В «Медузе» сегодня — обзор всех побед компьютера над человеком за последнюю четверть столетия: в шахматы и шашки, нарды и реверси, в го и «Эрудит». С интересом узнал оттуда, что спустя 19 лет после победы Deep Blue над Каспаровым ни одна компьютерная программа до сих пор не повторила этого достижения в древней китайской игре го (ближайшая попытка назначена на март 2016). Также компьютер не сумел обыграть чемпиона мира по шашкам. Но, похоже, тема непобедимости искусственного интеллекта в шашках закрылась как-то сама собой, без практических подтверждений, за счёт алгоритма, позволяющего компьютеру никогда не проиграть. В отношении го интрига по-прежнему сохраняется. Система AlphaGo (разработка британской компании DeepMind, купленной Гуглом за 400 млн долларов) ждёт встречи в Сеуле с одним из сильнейших живых игроков в сегодняшнем мировом рейтинге.
Понятно, что все игры на свете, при всей своей сложности и многовариантности — лишь метафора реальных жизненных ситуаций, в которых (если верить всё тем же фантастам — а поди их опровергни) машины однажды начнут принимать решения за людей, и будут делать это лучше людей. Они будут играть за нас на бирже, управлять частным и общественным транспортом, рассчитывать государственный бюджет, объявлять и выигрывать войны (в которых на поле боя сражаться выйдут тоже дроны против клонов).
Честно вам сказать, в феврале 2016 года меня эта перспектива совершенно не тревожит и не пугает. Все страшилки, связанные с возможными сбоями искусственного интеллекта в планетарном масштабе, понятны заранее, и очень наглядно продемонстрированы ещё в первом «Терминаторе», но уже там они не выглядели слишком убедительно. В бытовой плоскости нас пугают тем, что искусственный интеллект за рулём, зависнув или перегревшись, собьёт старушку с ребёнком на переходе. И вина за это ляжет на разработчиков софта. Поэтому они и сами не заинтересованы в массовом внедрении своей продукции. А с ними ещё должны разделить бремя ответственности чиновники и политики всех уровней, санкционировавшие выезд на городские улицы автобусов с аппаратным управлением. Им тоже проще рассуждать о рисках, чем прожить остаток жизни в ожидании встречи с безутешными родственниками старушки и ребёнка...
Честно говоря, я в это совершенно не верю. Боязнь ответственности может затормозить научно-технический прогресс в масштабах одной отдельно взятой корпорации, муниципалитета или страны — но там, где волю одних сковывает мысль о рисках, другие неизбежно задумываются о путях их минимизации. Никакие катастрофы, унесшие жизни прославленных воздухоплавателей в начале XX века, не остановили прогресс пассажирской авиации. Так что будут на нашем веку компьютеры управлять и транспортом, и экономикой, и диагнозы ставить, и преступников ловить. С ошибками, конечно же, но ведь и люди от них не избавлены.
Меня тут больше другой вопрос занимает. Сами-то мы чем займёмся, когда всю мыслительную работу перепоручим машинам?
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
no subject
Date: 2016-02-07 07:08 pm (UTC)no subject
Date: 2016-02-07 07:09 pm (UTC)Машины не могут творить.
no subject
Date: 2016-02-07 07:10 pm (UTC)Пусть попробуют за нас не думать О_о
no subject
Date: 2016-02-07 07:10 pm (UTC)no subject
Date: 2016-02-07 07:10 pm (UTC)no subject
Date: 2016-02-07 07:14 pm (UTC)http://www.huxley.net/
no subject
Date: 2016-02-07 07:14 pm (UTC)no subject
Date: 2016-02-07 07:15 pm (UTC)no subject
Date: 2016-02-07 07:15 pm (UTC)Будет зависеть от того, продолжит ли действовать парадокс Моравека...
no subject
Date: 2016-02-07 07:16 pm (UTC)Пока наблюдается тенденция вставлять машину туда, где думать не особо то надо, в рутину, в процессы — переключение светофоров и контроль трафика, распознавание автомобильных номеров и прочих образов, перебор компонентов для нового лекарства и т.д.
И даже играя в шахматы, машина всего лишь перебирает миллиарды комбинаций, чем, в общем-то, занимаются и мозги, дарованные такой неординарной способностью.
Так что тенденция понятна — машины заменят человека там, где как раз думать нужно меньше всего. Это уже давно происходит (автопилоты, станки-ЧПУ, и т.д.), и будет только нарастать, откусывая все больше и больше областей. А человеку достанутся все те области, где нужно именно думать. Чего ни одна машины пока даже в перспективе не умеет.
no subject
Date: 2016-02-07 07:21 pm (UTC)no subject
Date: 2016-02-07 07:22 pm (UTC)no subject
Date: 2016-02-07 07:23 pm (UTC)Вот любить-то машины никогда не научатся!
no subject
Date: 2016-02-07 07:26 pm (UTC)Уйдет большая часть "черного" труда.
Меня больше всего волнует другое, процессы автоматизации будут уменьшать затраты на заработные платы рабочим, параллельно с этим количество рабочих мест будет сокращаться, а жить на что-то будет нужно - следовательно должны будут вырасти социальные пособия (привет Швейцарии), но вырастут ли? И каким образом это будет происходить - сократили/получил выплату?
no subject
Date: 2016-02-07 07:35 pm (UTC)Однако более вероятным представляется расклад из рассказа «Любовь к трём Цукербринам» (Виктор Пе Левин).
no subject
Date: 2016-02-07 07:36 pm (UTC)А люди все освободившееся время посветят творчеству и отношениям. Если не сопьются.
no subject
Date: 2016-02-07 07:39 pm (UTC)no subject
Date: 2016-02-07 07:42 pm (UTC)no subject
Date: 2016-02-07 07:42 pm (UTC)Народ уйдет в те профессии которые трудно роботизировать. Вообщем будет то же что произошло с изобретением паровых машин.
no subject
Date: 2016-02-07 07:51 pm (UTC)no subject
Date: 2016-02-07 07:53 pm (UTC)Полумайте об этом.
no subject
Date: 2016-02-07 08:09 pm (UTC)no subject
Date: 2016-02-07 08:10 pm (UTC)no subject
Date: 2016-02-07 08:11 pm (UTC)no subject
Date: 2016-02-07 08:17 pm (UTC)