Когда машины станут думать за нас
Feb. 7th, 2016 10:05 pm![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
dolboedВсе победы искусственного разума над человеческим в интеллектуальных играх случились на нашей памяти. И я ещё хорошо помню времена, когда о неизбежности этих побед рассуждали в основном фантасты. А шахматисты и другие комментаторы говорили об ограничениях искусственного интеллекта, из-за которых человеческий мозг всегда окажется сильней в состязании с машиной.
В «Медузе» сегодня — обзор всех побед компьютера над человеком за последнюю четверть столетия: в шахматы и шашки, нарды и реверси, в го и «Эрудит». С интересом узнал оттуда, что спустя 19 лет после победы Deep Blue над Каспаровым ни одна компьютерная программа до сих пор не повторила этого достижения в древней китайской игре го (ближайшая попытка назначена на март 2016). Также компьютер не сумел обыграть чемпиона мира по шашкам. Но, похоже, тема непобедимости искусственного интеллекта в шашках закрылась как-то сама собой, без практических подтверждений, за счёт алгоритма, позволяющего компьютеру никогда не проиграть. В отношении го интрига по-прежнему сохраняется. Система AlphaGo (разработка британской компании DeepMind, купленной Гуглом за 400 млн долларов) ждёт встречи в Сеуле с одним из сильнейших живых игроков в сегодняшнем мировом рейтинге.
Понятно, что все игры на свете, при всей своей сложности и многовариантности — лишь метафора реальных жизненных ситуаций, в которых (если верить всё тем же фантастам — а поди их опровергни) машины однажды начнут принимать решения за людей, и будут делать это лучше людей. Они будут играть за нас на бирже, управлять частным и общественным транспортом, рассчитывать государственный бюджет, объявлять и выигрывать войны (в которых на поле боя сражаться выйдут тоже дроны против клонов).
Честно вам сказать, в феврале 2016 года меня эта перспектива совершенно не тревожит и не пугает. Все страшилки, связанные с возможными сбоями искусственного интеллекта в планетарном масштабе, понятны заранее, и очень наглядно продемонстрированы ещё в первом «Терминаторе», но уже там они не выглядели слишком убедительно. В бытовой плоскости нас пугают тем, что искусственный интеллект за рулём, зависнув или перегревшись, собьёт старушку с ребёнком на переходе. И вина за это ляжет на разработчиков софта. Поэтому они и сами не заинтересованы в массовом внедрении своей продукции. А с ними ещё должны разделить бремя ответственности чиновники и политики всех уровней, санкционировавшие выезд на городские улицы автобусов с аппаратным управлением. Им тоже проще рассуждать о рисках, чем прожить остаток жизни в ожидании встречи с безутешными родственниками старушки и ребёнка...
Честно говоря, я в это совершенно не верю. Боязнь ответственности может затормозить научно-технический прогресс в масштабах одной отдельно взятой корпорации, муниципалитета или страны — но там, где волю одних сковывает мысль о рисках, другие неизбежно задумываются о путях их минимизации. Никакие катастрофы, унесшие жизни прославленных воздухоплавателей в начале XX века, не остановили прогресс пассажирской авиации. Так что будут на нашем веку компьютеры управлять и транспортом, и экономикой, и диагнозы ставить, и преступников ловить. С ошибками, конечно же, но ведь и люди от них не избавлены.
Меня тут больше другой вопрос занимает. Сами-то мы чем займёмся, когда всю мыслительную работу перепоручим машинам?
В «Медузе» сегодня — обзор всех побед компьютера над человеком за последнюю четверть столетия: в шахматы и шашки, нарды и реверси, в го и «Эрудит». С интересом узнал оттуда, что спустя 19 лет после победы Deep Blue над Каспаровым ни одна компьютерная программа до сих пор не повторила этого достижения в древней китайской игре го (ближайшая попытка назначена на март 2016). Также компьютер не сумел обыграть чемпиона мира по шашкам. Но, похоже, тема непобедимости искусственного интеллекта в шашках закрылась как-то сама собой, без практических подтверждений, за счёт алгоритма, позволяющего компьютеру никогда не проиграть. В отношении го интрига по-прежнему сохраняется. Система AlphaGo (разработка британской компании DeepMind, купленной Гуглом за 400 млн долларов) ждёт встречи в Сеуле с одним из сильнейших живых игроков в сегодняшнем мировом рейтинге.
Понятно, что все игры на свете, при всей своей сложности и многовариантности — лишь метафора реальных жизненных ситуаций, в которых (если верить всё тем же фантастам — а поди их опровергни) машины однажды начнут принимать решения за людей, и будут делать это лучше людей. Они будут играть за нас на бирже, управлять частным и общественным транспортом, рассчитывать государственный бюджет, объявлять и выигрывать войны (в которых на поле боя сражаться выйдут тоже дроны против клонов).
Честно вам сказать, в феврале 2016 года меня эта перспектива совершенно не тревожит и не пугает. Все страшилки, связанные с возможными сбоями искусственного интеллекта в планетарном масштабе, понятны заранее, и очень наглядно продемонстрированы ещё в первом «Терминаторе», но уже там они не выглядели слишком убедительно. В бытовой плоскости нас пугают тем, что искусственный интеллект за рулём, зависнув или перегревшись, собьёт старушку с ребёнком на переходе. И вина за это ляжет на разработчиков софта. Поэтому они и сами не заинтересованы в массовом внедрении своей продукции. А с ними ещё должны разделить бремя ответственности чиновники и политики всех уровней, санкционировавшие выезд на городские улицы автобусов с аппаратным управлением. Им тоже проще рассуждать о рисках, чем прожить остаток жизни в ожидании встречи с безутешными родственниками старушки и ребёнка...
Честно говоря, я в это совершенно не верю. Боязнь ответственности может затормозить научно-технический прогресс в масштабах одной отдельно взятой корпорации, муниципалитета или страны — но там, где волю одних сковывает мысль о рисках, другие неизбежно задумываются о путях их минимизации. Никакие катастрофы, унесшие жизни прославленных воздухоплавателей в начале XX века, не остановили прогресс пассажирской авиации. Так что будут на нашем веку компьютеры управлять и транспортом, и экономикой, и диагнозы ставить, и преступников ловить. С ошибками, конечно же, но ведь и люди от них не избавлены.
Меня тут больше другой вопрос занимает. Сами-то мы чем займёмся, когда всю мыслительную работу перепоручим машинам?
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
no subject
Date: 2016-02-07 07:08 pm (UTC)no subject
Date: 2016-02-07 07:51 pm (UTC)no subject
Date: 2016-02-07 07:09 pm (UTC)Машины не могут творить.
no subject
Date: 2016-02-07 08:09 pm (UTC)(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:no subject
Date: 2016-02-07 07:10 pm (UTC)Пусть попробуют за нас не думать О_о
no subject
Date: 2016-02-07 07:10 pm (UTC)no subject
Date: 2016-02-07 08:58 pm (UTC)точнее - решают (а вы - хоть обзадуматься можете).
но и думают частенько тоже. вам же остаётся только мал-помалу принимать это, принимая позже за своё (мнение итд)
no subject
Date: 2016-02-07 07:10 pm (UTC)no subject
Date: 2016-02-07 07:14 pm (UTC)http://www.huxley.net/
no subject
Date: 2016-02-07 07:14 pm (UTC)no subject
Date: 2016-02-07 07:15 pm (UTC)no subject
Date: 2016-02-07 07:15 pm (UTC)Будет зависеть от того, продолжит ли действовать парадокс Моравека...
no subject
Date: 2016-02-08 05:26 am (UTC)(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:no subject
Date: 2016-02-07 07:16 pm (UTC)Пока наблюдается тенденция вставлять машину туда, где думать не особо то надо, в рутину, в процессы — переключение светофоров и контроль трафика, распознавание автомобильных номеров и прочих образов, перебор компонентов для нового лекарства и т.д.
И даже играя в шахматы, машина всего лишь перебирает миллиарды комбинаций, чем, в общем-то, занимаются и мозги, дарованные такой неординарной способностью.
Так что тенденция понятна — машины заменят человека там, где как раз думать нужно меньше всего. Это уже давно происходит (автопилоты, станки-ЧПУ, и т.д.), и будет только нарастать, откусывая все больше и больше областей. А человеку достанутся все те области, где нужно именно думать. Чего ни одна машины пока даже в перспективе не умеет.
no subject
Date: 2016-02-07 11:19 pm (UTC)А какие это области, по вашему ?
(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:no subject
Date: 2016-02-07 07:21 pm (UTC)no subject
Date: 2016-02-10 09:01 am (UTC)no subject
Date: 2016-02-07 07:22 pm (UTC)no subject
Date: 2016-02-07 07:23 pm (UTC)Вот любить-то машины никогда не научатся!
no subject
Date: 2016-02-08 01:21 pm (UTC)(no subject)
From:no subject
Date: 2016-02-07 07:26 pm (UTC)Уйдет большая часть "черного" труда.
Меня больше всего волнует другое, процессы автоматизации будут уменьшать затраты на заработные платы рабочим, параллельно с этим количество рабочих мест будет сокращаться, а жить на что-то будет нужно - следовательно должны будут вырасти социальные пособия (привет Швейцарии), но вырастут ли? И каким образом это будет происходить - сократили/получил выплату?
no subject
Date: 2016-02-07 09:44 pm (UTC)Последние 200 лет машины только и занимаются, что замещают рабочие места. Раз люди стали жить от этого хуже?
(no subject)
From:no subject
Date: 2016-02-07 07:35 pm (UTC)Однако более вероятным представляется расклад из рассказа «Любовь к трём Цукербринам» (Виктор Пе Левин).
no subject
Date: 2016-02-07 07:36 pm (UTC)А люди все освободившееся время посветят творчеству и отношениям. Если не сопьются.
no subject
Date: 2016-02-08 01:33 pm (UTC)С отношениями тоже история - очевидно, что машины будут гораздо лучше партнерами (да и друзьями) для людей чем люди. По всем параметрам. Конечно, будет класс "натуралов", но массовым он перестанет быть.
(no subject)
From:no subject
Date: 2016-02-07 07:39 pm (UTC)no subject
Date: 2016-02-08 01:35 pm (UTC)(no subject)
From:(no subject)
From:(no subject)
From:no subject
Date: 2016-02-07 07:42 pm (UTC)no subject
Date: 2016-02-07 07:42 pm (UTC)Народ уйдет в те профессии которые трудно роботизировать. Вообщем будет то же что произошло с изобретением паровых машин.
no subject
Date: 2016-02-08 01:37 pm (UTC)(no subject)
From:no subject
Date: 2016-02-07 07:53 pm (UTC)Полумайте об этом.
no subject
Date: 2016-02-08 01:41 pm (UTC)no subject
Date: 2016-02-07 08:10 pm (UTC)no subject
Date: 2016-02-08 01:43 pm (UTC)no subject
Date: 2016-02-07 08:11 pm (UTC)no subject
Date: 2016-02-07 08:17 pm (UTC)no subject
Date: 2016-02-07 09:51 pm (UTC)Технологии по изгнанию жуликов и воров, а так же, по сплочению против общего врага, не секретны. От вас самих зависит, воспользоваться ими, или нет...
(no subject)
From:(no subject)
From:no subject
Date: 2016-02-07 08:17 pm (UTC)– А ты что будешь делать?
– Я буду вырезать по дереву.
– А еще что?
– Еще я буду писать стихи. Меня научат писать стихи, у меня хороший почерк.
– А я что буду делать?
– Что захочешь! – великодушно сказал товарищ секретаря. – Вырезать по дереву, писать стихи… Что захочешь.
.......
– Это тебе только кажется. Не будешь ты меня слушать. И стихи ты сочинять не будешь. Повыпиливаешь по дереву, а потом к бабам пойдешь. Или напьешься. Я же тебя знаю. И всех я здесь знаю. Будете слоняться от хрустальной распивочной до алмазной закусочной. Особенно если будет свободное расписание. Я даже подумать боюсь, что же это будет, если дать вам здесь свободное расписание.
© АБС
no subject
Date: 2016-02-07 08:40 pm (UTC)no subject
Date: 2016-02-07 08:20 pm (UTC)Людишки будут обслуживать машины и заниматься гуманитарными науками: писать художественную литературу, снимать фильмы и тп.
no subject
Date: 2016-02-08 01:47 pm (UTC)