Организация Future of Life представила открытое письмо с инициативой введения моратория на создание сверхмощного искусственного интеллекта. Хотя авторы признают грандиозный потенциал ИИ для улучшения здравоохранения и повышения благополучия, их серьезно тревожит активность корпораций. Предприятия, по их мнению, сосредоточены на создании в ближайшие 10 лет ИИ, который превзойдет человека в решении практически любых интеллектуальных задач.
Необходимые условия для прорыва
Авторы настаивают: разработка подобных систем должна быть приостановлена до момента достижения всестороннего научного консенсуса об их абсолютной безопасности и управляемости. Не менее важным они называют получение широкой общественной поддержки перед запуском ИИ нового поколения.
Вызовы будущего
В письме освещены ключевые риски: массовая потеря рабочих мест и экономическая невостребованность людей; эрозия полномочий, личной свободы, гражданских прав, достоинства и контроля над ситуацией. Также подчеркиваются угрозы для национальной безопасности и потенциально катастрофические последствия для самой цивилизации.
Мощная волна поддержки
Инициативу Future of Life поддержали свыше 800 известных лиц. Среди них – основоположники ИИ Джеффри Хинтон и Йошуа Бенджио, сооснователь Apple Стив Возняк, бизнес-магнат Ричард Брэнсон, экс-стратег Дональда Трампа Стив Бэннон, бывший глава Объединенного комитета начальников штабов США Майк Муллен, обозреватель Гленн Бек, актер Джозеф Гордон-Левитт, музыканты Will.i.am и Граймс, а также принц Гарри и Меган Маркл, герцог и герцогиня Сассекские. Общее число подписавшихся превысило 45 000 человек, объединенных с поддержкой в 25 000 голосов из петиции Ekō.
