Погода:
Влажность:
Ветер:
Отправить сообщение об ошибке?
Ваш браузер останется на этой же странице

Project Syndicate: Может ли искусственный интеллект быть этичным?

Профессор биотехники Принстонского университета попробовал отследить историю искусственного интеллекта и дать ответ на этот вопрос. Питер Сингер, профессор биотехники Принстонского университета, в
19:05 13 Апреля 2016 370
Project Syndicate: Может ли искусственный интеллект быть этичным?

Питер Сингер, профессор биотехники Принстонского университета, в своем блоге на Project Syndicate попробовал отследить историю искусственного интеллекта и дать ответ на этот вопрос.

В прошлом месяце AlphaGo, компьютерная программа специально разработанная для игры в Го, повергла в шок игроков, когда она одержала победу над Ли Сидолом, одним из лучший профессиональных игроков в мире, выиграв пять игр в турнире со счетом 4-1.

«Что же в этом нового, спросите Вы?»- говорит Сингер. Двадцать лет уже прошло после того, как компьютер Deep Blue от компании IBM победил чемпиона мира по шахматам, Гарри Каспарова. И все мы прекрасно знаем, что с тех пор компьютеры стали намного умнее. Но Deep Blue выиграл благодаря простой вычислительной мощности, которая позволила ему рассчитать результаты такого количества ходов, которое не смог даже чемпион мира. Игра же Го предполагает большее поле, чем в шахматах (для сравнения - в шахматах поле 8 на 8, а в Го 19 на 19), а также здесь больше количество возможных ходов, которое, возможно, превышает количество всех атомов во Вселенной. Исходя из этого, «грубой вычислительной мощности» не хватит, чтобы побить человека с его возможностью интуитивного мышления.

AlphaGo была разработана таким образом, чтобы она училась на огромном количестве партий, проведенных с другими программами. А затем она могла использовать успешные стратегии уже в реальном состязании. Можно сказать, что AlphaGo эволюционировала, чтобы стать лучшим игроком на планете. Тем самым она достигла за два года того, на что естественному отбору потребовалось миллионы лет.

Эрик Шмидт, председатель совета директоров компании Alphabet, владелец AlphaGo в восторге от того, что означает искусственный интеллект (ИИ) для всего человечества. Выступая перед матчем между Ли и AlphaGo, он сказал, что человечество в любом случае выйдет победителем, независимо от результата, потому что прогресс в области ИИ сделает каждого человека умным, более способным и «просто улучшенным человеком».

А правда ли это? Примерно в то же время, когда состоялся триумф AlphaGo, «СhatBot» от Microsoft – программа по имени Тэйлор, которая была создана, чтобы отвечать на сообщениям людям в возрасте от 18 до 24 лет – был «наказан». «Тэй», так себя называет программа, предположительно, она должна была учиться благодаря полученным сообщениям и постепенно улучшать свою способность вести и поддерживать разговор. К сожалению, в течение 24 часов люди учили Тэй расизму и сексизму. А после того как она начала говорить «хорошие вещи о Гитлере» Microsoft выключили ее и удалили большую часть оскорбительных сообщений.

Неизвестно, являлись ли расистами те люди, которые учили Тэй этому или же они просто подумали, что это будет очень весело «сломать новую игрушку Microsoft». В любом случае, победа AlphaGo и поражение Тэйлор служит нам предупреждением. Одно дело «выпустить» ИИ для игры с определенными правилами и целями, а совсем другое – это выпустить искусственный интеллект в настоящий мир, где непредсказуемость окружения может выявить ошибку в программном обеспечении и которая будет иметь катастрофические последствия.

Ник Бостром, директор “Future of Humanity Institute” в Оксфордском университете, утверждает в своей книге «Superintelligence», что не всегда будет так легко выключить интеллектуальную машину, как это было с Тэй. Он описывает суперинтеллект, как интеллект, который «умнее самых умных людей планеты практически в каждой сфере, включая научное творчество, общую мудрость и социальные навыки». Такая система может быть в состоянии перехитрить ваши попытки выключения.

Некоторые сомневаются в том, что это вообще достижимо. Бостром вместе с Винцентом Мюллером попросили экспертов в области ИИ назвать примерные даты, когда одна из двух машин достигнет уровня человеческого интеллекта и когда это произойдет в 9 из 10 случаев. Средняя оценка для одной из двух машин установилась в районе 2040-2050 годов и 2075 для девяти из 10 случаев. Большинство экспертов ожидают, что ИИ достигнет уровня суперинтеллекта в течение 30 лет.

Но не стоит воспринимать эти данные слишком серьезно. Общий количество ответов составило всего 31%, плюс ко всему исследователи, работающие с ИИ, склонны к завышению своей значимости трезвоня о своем потенциале в производстве.

Перспектива ИИ становления «супер-разумом» выглядит слишком далекой, чтобы о ней беспокоится, особенно при условии наличия более насущных проблем. Так что нам необходимо подумать о том, как разработать ИИ с расчетом на интересы людей и всех мыслящих созданий.

Глядя на машины, которые способны двигаться по дорогам без водителя, не за горами тот момент, когда мы сможем программировать технику так, чтобы она действовала в рамках этики. Чем больше машины будут улучшаться, тем больше жизней они будут спасать, потому что процент их ошибок будет значительно ниже, чем у «человеческих водителей». Иногда им придется выбирать «между жизнями». Должны ли они быть запрограммированы на то, что бы свернуть с дороги в случае, если ребенок будет перебегать ее, и сделать это с риском для пассажира? А что насчет того, чтобы свернуть и не сбить собаку? Что если риску будет подвергаться только машина, но не пассажир?

Наверняка такие моменты будут учтены, раз начались обсуждения автомобилей без водителей. Но «самостоятельные» машины это не высокоинтеллектуальные «создания». «Преподавание этики» машине, которая намного умнее нас в большинстве сфер является гораздо более сложной задачей.

Наверхнаверх