Китайские государственные корпорации разрабатывают мощнейший искусственный интеллект, который может быть использован для контроля над всеми сферами человеческой жизни, пишет британский журнал The Economist.
Вообразите идеальную среду для развития искусственного интеллекта (ИИ). Она требует огромных капиталовложений и вычислительных мощностей, множества данных и квалифицированных ученых, чтобы обучать машины распознавать паттерны и правильно на них реагировать. Казалось бы, все это есть у США, нынешнего лидера в данной области. Но в некоторых отношениях это справедливо и для Китая.
Страна быстро наращивает облачные вычислительные мощности. В исследованиях ИИ китайские ученые превосходят американских коллег пусть не качеством, но объемами. В 2010—2014 годах количество связанных с ИИ патентных заявок утроилось по сравнению с предыдущими пятью годами, а китайские стартапы привлекли миллиарды инвестиций. Также в Китае живет более 700 млн пользователей смартфонов — больше, чем в любой другой стране мира. Они потребляют цифровые услуги, используют голосовых помощников, платя за покупки с телефонов, и генерируют огромное количество данных. Это дает местным фирмам (Alibaba, Baidu и Tencent и др.) возможность придумать лучшие системы ИИ для самых разных потребностей — от распознавания лиц до чат-ботов.
В исследованиях ИИ китайские ученые превосходят американских коллег пусть не качеством, но количеством.
Бум ИИ в одном из самых густонаселенных государств мира выглядит многообещающе: ни одна другая страна не смогла бы генерировать такой объем данных. Развитие новых технологий также происходит быстрее. Поскольку печатать китайские иероглифы неудобно, услуги распознавания голоса более популярны, чем на Западе; в результате они быстрее улучшаются. Уже тестируются системы для автоматической регулировки светофоров в ответ на кадры с придорожных камер. По данным Глобального института McKinsey, автоматизация и внедрение ИИ может увеличить рост ВВП Китая более чем на 1 п.п. в год.
Однако перспективы ИИ в Китае вызывают и беспокойство: очевидные преимущества заглушает протекционизм данных. Закон о кибербезопасности, вступивший в силу в июне, требует от иностранных фирм хранить данные китайских клиентов в пределах страны. Посторонние не смогут использовать эту информацию для предоставления услуг третьим лицам. Но если данные нельзя объединить, алгоритмы, запускающие автономные автомобили и другие продукты, могут оказаться неэффективными.
Ни одна другая страна не смогла бы генерировать такой объем данных. Развитие новых технологий также происходит быстрее.
Вторая причина для беспокойства — этика и безопасность. В Америке технологические гиганты Силиконовой долины обязались работать вместе, чтобы гарантировать безопасность любых разработанных инструментов ИИ. В 2015 году все ведущие исследователи ИИ на Западе подписали открытое письмо, призывающее к запрету на создание автономного оружия. Неизвестно, происходит ли подобная дискуссия в Китае, но даже если так — она гораздо менее прозрачна. У китайских компаний, связанных с ИИ, есть причины обдумать некоторые из этих вопросов, ведь норовистый ИИ будет проблемой для всей планеты, где бы он не возник.
Третья причина для беспокойства — то, что ИИ главным образом будет использоваться в интересах правительства Китая. Его методы идеально подходят для поиска паттернов в огромных объемах данных, которые китайские цензоры должны обрабатывать для контроля над гражданами. Легко представить, как эти данные помогут создать систему, оценивающую людей по их поведению. После усовершенствования эти алгоритмы будут интересовать автократические режимы во всем мире.
Норовистый искусственный интеллект станет проблемой для всей планеты, где бы он не возник.
Западные фирмы и правительства не являются «ангелами», когда дело доходит до сбора данных и шпионажа. Но они, по крайней мере, участвуют в открытой дискуссии об этических последствиях использования ИИ, а их спецслужбы сдерживаются демократическими институтами. Ни то, ни другое не относится к Китаю. ИИ — это технология, способная изменить жизнь миллиардов. Если же Китай в будущем станет лидером в данной отрасли, то главную выгоду получит государство, а не его граждане.