Причины, по которым технологии машинного обучения могут привести к нестабильному миру. Быстрый и непрерывный прогресс в области машинного обучения приведет к появлению новой геополитики: национализма искусственного интеллекта (ИИ-национализма). Машинное обучение - это повсеместная стратегия, которая затронет все отрасли и части общества. Изменения, связанные с машинным обучением в экономике и армии, приведут к национальной и международной дестабилизации, которая заставит власти принять меры. Амбициозные правительства уже начали рассматривать машинное обучение как ключевую "отрывную" технологию 21 века, и гонка продолжается.
Политика в области искусственного интеллекта станет критической областью общей политики власти. Ускорится гонка вооружений между ведущими странами. Мы увидим рост протекционистских мер по защите любимых национальных компаний, с блокированием поглощения этих компаний иностранными фирмами и привлечением талантов.
Эта гонка вооружений потенциально ускорит темпы создания машинного интеллекта и сократит время, необходимое для появления так называемого "сильного искусственного интеллекта". И хотя в этом техно-националистическом плане будет много общих аспектов, будет и политика, характерная для определенных государств. Национализм - опасный путь, особенно если меняется международный порядок и нормы.
Прогресс в машинном обучении.
За последние несколько лет мы стали свидетелями замечательного развития исследований в области машинного обучения и коммерциализации этих технологий. Вот несколько примеров:
Распознавание изображений начинает достигать точности, присущей человеческому восприятию, в особо сложных задачах - таких, как классификация рака кожи.
Наблюдается значительный прогресс в применении нейронных сетей для машинного перевода в компаниях Baidu, Google, Microsoft и др. Система Microsoft переводит новости с мандаринского (диалект китайского языка) на английский на уровне обычного человеческого переводчика.
В марте 2016 года DeepMind создала AlphaGo, первую компьютерную программу, которая победила чемпиона мира по игре в го. Это значительное достижение, поскольку исследователи машинного обучения десятилетиями работали над созданием системы, способной победить профессионального игрока. AlphaGo "научилась" на 30 миллионах ходов, сделанных человеческими экспертами.
Восемнадцать месяцев спустя DeepMind выпустила AlphaZero. В отличие от AlphaGo, она не использовала ходы, сделанные людьми во время обучения. Вместо этого он учился, играя против самого себя. AlphaZero не только смог победить предшественника AlphaGo, но и победил лучшие в своем классе компьютеры для игры в шахматы и сеги (японские шахматы) с помощью техники, известной как "переходное обучение". Ведущие исследователи машинного обучения постоянно отмечают "сверхъестественную" важность более простых алгоритмов, которые вообще не использовали созданные человеком данные, но в итоге оказались более компетентными и пригодными для передачи интеллекта.
Существует значительный разрыв между достижениями AlphaZero и "сильным искусственным интеллектом", хотя есть ощущение, что это еще один маленький шаг в его направлении.
Помимо собственно исследований, наблюдается невероятный прогресс в применении машинного обучения на крупных рынках - от поисковых систем (Baidu), таргетирования рекламы (Facebook) и автоматизации складов (Amazon) до многих новых отраслей - самодвижущихся автомобилей, создания новых лекарств, кибербезопасности и робототехники. CB Insights сделала хороший обзор всех рынков, на которых компании-стартапы применяют машинное обучение.
Такой стремительный прогресс заставил ведущих специалистов-практиков в области искусственного интеллекта серьезно задуматься о том, как он повлияет на общество. Даже в Google, ведущей компании, применяющей машинное обучение, руководство, похоже, отходит от техно-утопических позиций и публично признает риски, сопровождающие ускоренное развитие исследований в области машинного обучения и его коммерциализацию.
Три проявления нестабильности
Почему же это имеет значение для национальных государств? Есть три основные области, в которых ускоренный прогресс машинного обучения может дестабилизировать международный порядок:
- Коммерческое применение машинного обучения создаст новые мощные предприятия и уничтожит миллионы рабочих мест. Страна, которая наиболее эффективно инвестирует в эти отрасли, станет самой сильной в экономическом отношении.
- Машинное обучение сделает возможными новые способы ведения войны, как мощные кибератаки или защиту, так и различные формы автономного или полуавтономного оружия, например, противокорабельную ракету большой дальности, которую разрабатывает Lockheed Martin. В крайнем случае, та страна, которая первой и наиболее агрессивно инвестирует в эту отрасль, может получить абсолютное военное преимущество.
- Наконец, искусственный интеллект более общей специализации обеспечил бы фундаментальное ускорение научно-технических исследований. На мой взгляд, это может стать самым значительным источником нестабильности. Представьте, например, государство, чье лидерство в области искусственного интеллекта позволило ему первым создать термоядерный реактор для выработки электроэнергии. Опять же, это может обеспечить стране радикальное технологическое превосходство в его самых крайних проявлениях.
Машинное обучение - уникальная всеохватывающая технология, способная повлиять практически на любую область национальной политики. Человеческий интеллект придал форму всему, что мы сейчас видим вокруг себя, поэтому наша способность создавать машины со все большей и большей яркостью может оказать такое же влияние.
Мы можем найти определенные исторические параллели, которые помогут нам понять смысл возможного развития событий. Ядерная технология имеет двойное военное и мирное применение (атомное оружие, радиотерапия, производство электроэнергии), как и нефть (использование которой распространилось от освещения до отопления, а затем до широкого спектра военных и промышленных применений). Обе эти технологии оказывают огромное влияние на геополитику. Благодаря этому государства быстро стали игроками на первых ролях и остаются ими по сей день (например, 6 800 ядерных боеголовок США или 695 миллионов баррелей нефти в стратегическом нефтяном резерве).
Амбициозные правительства уже начали рассматривать машинное обучение как важнейший технологический "отрыв" в 21 веке, и гонка началась. Эта гонка в чем-то будет напоминать гонку ядерных вооружений прошлого века и геополитическую напряженность и союзы между государствами и транснациональными компаниями, возникающие вокруг нефти. Экономическое, военное и технологическое превосходство всегда было мощным стимулом для стран.
