Когда машины станут думать за нас
Feb. 7th, 2016 10:05 pm![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
dolboedВсе победы искусственного разума над человеческим в интеллектуальных играх случились на нашей памяти. И я ещё хорошо помню времена, когда о неизбежности этих побед рассуждали в основном фантасты. А шахматисты и другие комментаторы говорили об ограничениях искусственного интеллекта, из-за которых человеческий мозг всегда окажется сильней в состязании с машиной.
В «Медузе» сегодня — обзор всех побед компьютера над человеком за последнюю четверть столетия: в шахматы и шашки, нарды и реверси, в го и «Эрудит». С интересом узнал оттуда, что спустя 19 лет после победы Deep Blue над Каспаровым ни одна компьютерная программа до сих пор не повторила этого достижения в древней китайской игре го (ближайшая попытка назначена на март 2016). Также компьютер не сумел обыграть чемпиона мира по шашкам. Но, похоже, тема непобедимости искусственного интеллекта в шашках закрылась как-то сама собой, без практических подтверждений, за счёт алгоритма, позволяющего компьютеру никогда не проиграть. В отношении го интрига по-прежнему сохраняется. Система AlphaGo (разработка британской компании DeepMind, купленной Гуглом за 400 млн долларов) ждёт встречи в Сеуле с одним из сильнейших живых игроков в сегодняшнем мировом рейтинге.
Понятно, что все игры на свете, при всей своей сложности и многовариантности — лишь метафора реальных жизненных ситуаций, в которых (если верить всё тем же фантастам — а поди их опровергни) машины однажды начнут принимать решения за людей, и будут делать это лучше людей. Они будут играть за нас на бирже, управлять частным и общественным транспортом, рассчитывать государственный бюджет, объявлять и выигрывать войны (в которых на поле боя сражаться выйдут тоже дроны против клонов).
Честно вам сказать, в феврале 2016 года меня эта перспектива совершенно не тревожит и не пугает. Все страшилки, связанные с возможными сбоями искусственного интеллекта в планетарном масштабе, понятны заранее, и очень наглядно продемонстрированы ещё в первом «Терминаторе», но уже там они не выглядели слишком убедительно. В бытовой плоскости нас пугают тем, что искусственный интеллект за рулём, зависнув или перегревшись, собьёт старушку с ребёнком на переходе. И вина за это ляжет на разработчиков софта. Поэтому они и сами не заинтересованы в массовом внедрении своей продукции. А с ними ещё должны разделить бремя ответственности чиновники и политики всех уровней, санкционировавшие выезд на городские улицы автобусов с аппаратным управлением. Им тоже проще рассуждать о рисках, чем прожить остаток жизни в ожидании встречи с безутешными родственниками старушки и ребёнка...
Честно говоря, я в это совершенно не верю. Боязнь ответственности может затормозить научно-технический прогресс в масштабах одной отдельно взятой корпорации, муниципалитета или страны — но там, где волю одних сковывает мысль о рисках, другие неизбежно задумываются о путях их минимизации. Никакие катастрофы, унесшие жизни прославленных воздухоплавателей в начале XX века, не остановили прогресс пассажирской авиации. Так что будут на нашем веку компьютеры управлять и транспортом, и экономикой, и диагнозы ставить, и преступников ловить. С ошибками, конечно же, но ведь и люди от них не избавлены.
Меня тут больше другой вопрос занимает. Сами-то мы чем займёмся, когда всю мыслительную работу перепоручим машинам?
В «Медузе» сегодня — обзор всех побед компьютера над человеком за последнюю четверть столетия: в шахматы и шашки, нарды и реверси, в го и «Эрудит». С интересом узнал оттуда, что спустя 19 лет после победы Deep Blue над Каспаровым ни одна компьютерная программа до сих пор не повторила этого достижения в древней китайской игре го (ближайшая попытка назначена на март 2016). Также компьютер не сумел обыграть чемпиона мира по шашкам. Но, похоже, тема непобедимости искусственного интеллекта в шашках закрылась как-то сама собой, без практических подтверждений, за счёт алгоритма, позволяющего компьютеру никогда не проиграть. В отношении го интрига по-прежнему сохраняется. Система AlphaGo (разработка британской компании DeepMind, купленной Гуглом за 400 млн долларов) ждёт встречи в Сеуле с одним из сильнейших живых игроков в сегодняшнем мировом рейтинге.
Понятно, что все игры на свете, при всей своей сложности и многовариантности — лишь метафора реальных жизненных ситуаций, в которых (если верить всё тем же фантастам — а поди их опровергни) машины однажды начнут принимать решения за людей, и будут делать это лучше людей. Они будут играть за нас на бирже, управлять частным и общественным транспортом, рассчитывать государственный бюджет, объявлять и выигрывать войны (в которых на поле боя сражаться выйдут тоже дроны против клонов).
Честно вам сказать, в феврале 2016 года меня эта перспектива совершенно не тревожит и не пугает. Все страшилки, связанные с возможными сбоями искусственного интеллекта в планетарном масштабе, понятны заранее, и очень наглядно продемонстрированы ещё в первом «Терминаторе», но уже там они не выглядели слишком убедительно. В бытовой плоскости нас пугают тем, что искусственный интеллект за рулём, зависнув или перегревшись, собьёт старушку с ребёнком на переходе. И вина за это ляжет на разработчиков софта. Поэтому они и сами не заинтересованы в массовом внедрении своей продукции. А с ними ещё должны разделить бремя ответственности чиновники и политики всех уровней, санкционировавшие выезд на городские улицы автобусов с аппаратным управлением. Им тоже проще рассуждать о рисках, чем прожить остаток жизни в ожидании встречи с безутешными родственниками старушки и ребёнка...
Честно говоря, я в это совершенно не верю. Боязнь ответственности может затормозить научно-технический прогресс в масштабах одной отдельно взятой корпорации, муниципалитета или страны — но там, где волю одних сковывает мысль о рисках, другие неизбежно задумываются о путях их минимизации. Никакие катастрофы, унесшие жизни прославленных воздухоплавателей в начале XX века, не остановили прогресс пассажирской авиации. Так что будут на нашем веку компьютеры управлять и транспортом, и экономикой, и диагнозы ставить, и преступников ловить. С ошибками, конечно же, но ведь и люди от них не избавлены.
Меня тут больше другой вопрос занимает. Сами-то мы чем займёмся, когда всю мыслительную работу перепоручим машинам?
