Президент поручил к 30 июня разработать национальную стратегию развития технологий в области искусственного интеллекта (ИИ). Документ определит задачи страны относительно важной технологии, в развитии которой России нельзя отстать от геополитических контрагентов.
Риски, связанные с технологиями ИИ, известны: этические проблемы, потенциальные катаклизмы на рынке рабочей силы, потеря контроля над ИИ-системами и пр. Однако сейчас, на заключительном этапе разработки стратегии, главный риск, связанный с ИИ, состоит в потенциальных ошибках при определении принципов развития технологий ИИ и целей, которые должны быть достигнуты.
Одна из таких целей очевидна: не проиграть технологическую гонку, не попасть в зависимое положение, подобное тому, в которое Россия попала в сфере IT из-за отсутствия собственного стека информационных технологий.
Определение ИИ
Термин "искусственный интеллект" долгое время использовался для обозначения IT-систем, решающих задачи, которые до поры считались доступными только человеку. По мере решения таких задач компьютерами содержание понятия "ИИ" менялось. Это хорошо иллюстрируют слова Михаила Донского, чья "Каисса" в 1974 году выиграла первый чемпионат мира по шахматам среди компьютерных программ: "Шахматное программирование перестало быть искусственным интеллектом, как только компьютер обыграл человека".
В настоящее время, однако, смысл термина "ИИ" стабилизировался. Если укладывать его в одно слово, этим словом будет "нейросеть". ИИ сегодня - это построенные на "обученных" нейросетях (для обучения нужны массивы заранее накопленных данных) неалгоритмические IT-системы, демонстрирующие способность к принятию решений, которые ведут к достижению поставленной цели в сложной, не до конца формализованной предварительным описанием обстановке.
В стратегии развития искусственного интеллекта понятие "ИИ" должно быть определено, разумеется, яснее. Велик соблазн дать более конкретное определение через прикладные задачи, решаемые ИИ-системами: беспилотное вождение автомобилей по дорогам общего пользования, идентификация человека по антропологическим признакам и изображению лица, ранняя диагностика тяжёлых болезней и т.п., однако это обеднит документ, ограничит стратегию развития ИИ в России перечнем задач, который наверняка окажется неполон.
Другая крайность - сказать "ИИ - это IT-системы, способные вычленять из данных информацию подобно тому, как это делает человек". Да, это верное определение, но оно начисто лишено как новизны (именно так ИИ и понимали на протяжении более чем полувека), так и конструктивности, зато таит опасность развернуть исследования ИИ в сторону поиска ответа на бессмысленный для инженера вопрос о том, как работает человеческий мозг.
Интересно посмотреть, как разработчики стратегии справятся с задачей определения ИИ. Хотелось бы, чтобы они избежали определения ИИ через прикладные задачи. ИИ - универсальная технология, в этом качестве её и надо развивать. А какие задачи с помощью этой технологии придётся решать, сказать заранее сложно, если не невозможно.
Иностранный и международный опыт
Интуитивно понятно, что технологии ИИ необычны, с таким человечество ещё не сталкивалось. Главная особенность в том, что ИИ-системы невозможно эффективно контролировать - даже создатель нейросети не знает, как именно она работает после обучения. ИИ-системы, бывает, приносят разочарования своим создателям - например, тщательно разработанная (и весьма дорогостоящая) IBM Watson, ИИ-система, рассчитанная на применение в медицинской диагностике, как помощник практикующих врачей не прижилась.
В настоящее время в странах, развивающих ИИ-технологии, идёт активное осмысление перспектив и рисков использования ИИ-систем. Уже существуют принятые на международном уровне рекомендации.
В февральской конференции высокого уровня Совета Европы под названием "Governing the Game Changer", посвящённой влиянию ИИ-систем на "права человека, демократию и верховенство права", участвовали представители 47 стран. Изучение материалов конференции приводят к выводу, что де факто в Европе ИИ-системами считается всё, что действует "как человек" и способно заменить человека на рабочем месте - например, в таких областях, как правосудие, бухгалтерия, управление транспортом и др.
Должны быть, полагают в Совете Европы, созданы эффективные надзорные механизмы и демократические контрольные (наблюдательные) структуры по вопросам проектирования, разработки и внедрения ИИ. "Демократические процессы должны предполагать существование независимой, информированной общественности, а также поощрять открытые и инклюзивные дискуссии", "права человека являются основной ценностью демократических обществ, их защита и распространение требует активного участия всех заинтересованных сторон, уделяя при этом особое внимание потребностям уязвимых групп, которые могут столкнуться с маргинализацией", - таковы, в частности, положения итогового документа Governing the Game Changer.
В апреле в Пекине состоялась ещё одна конференция, International Conference on Artificial Intelligence and Education. Её итоговый документ (русский перевод) содержит забавные пункты о "признании отличий человеческого интеллекта" [от ИИ] и "необходимости изучения [несмотря на пришествие ИИ] базовых навыков, таких, как грамотность и счёт". Важным представляется положение о невозможности заменить учителя ИИ-системой.
Как и ранее в Хельсинки, пекинская конференция констатировала необходимость контроля ИИ-систем человеком. Этот принцип создания и применения ИИ-систем стал общепризнанным.
В мае Организация экономического сотрудничества и развития (Россия членом этой организации не является) приняла "новые принципы искусственного интеллекта ОЭСР". Рекомендации ОЭСР унифицируют по американскому образцу правила регулирования национальных экономик стран-участников, и не только участников. Так, под "новыми принципами искусственного интеллекта ОЭСР" подписались, в частности, Бразилия и Румыния, в ОЭСР не входящие. В "новых принципах ИИ" от ОЭСР констатируется "необходимость стабильной политической среды, способствующей ориентированному на гуманизм подходу к ИИ", причём правительствам рекомендовано "выполнять рекомендации ОЭСР … в их национальной политике и в международном сотрудничестве".
США, Китай, ЕС - различие стратегий в отношении ИИ
Безусловным мировым лидером в глобальной IT-индустрии вообще и технологиях ИИ в частности остаются США. Только у этой страны есть полный набор ("стек", на профессиональном жаргоне) технологий, от разработки и производства процессоров до обработки больших данных (примеры - упомянутая ИИ-система IBM Watson, разведывательная система Palantir, промышленно применимые ИИ-технологии Google, Microsoft и др. компаний).
Стратегия США в отношении ИИ состоит в сохранении технологического лидерства, о чём прямо сказано в опубликованной менее года назад "Национальной киберстратегии США". Практика, как показывают действия американского правительства против Huawei, такова: США готовы для достижения этой цели действовать любыми средствами, в том числе грубой силой.
Китай идёт вторым и быстро сокращает разрыв со США. Развитие технологий ИИ для КНР вытекает из общей национальной задачи - как можно быстрее вернуть стране положение, которое она занимала бо́льшую часть своей истории (а Китай бо́льшую часть своей истории был технологическим лидером). Ради этого в КНР тоже готовы использовать любые доступные средства.
Китайские компании не чувствуют себя стеснёнными этическими ограничениями по европейскому образцу, они не стесняются в средствах доступа к большим данным, которые представляют ключевой ресурс для создания эффективных ИИ-систем. Чтобы убедиться в этом, достаточно прочесть пользовательские соглашения о сервисах для владельцев мобильных устройств упомянутой Huawei - хранение персональных данных (например, из фитнес-приложений) на территории КНР, пусть и в обобщённом виде, там прямо указывается. Государство компаниям в сборе данных как внутри страны, так и за её пределами, как минимум не препятствует.
Располагающий неисчерпаемыми человеческими ресурсами Китай активно и массово готовит математиков и программистов высшей квалификации - на чемпионатах мира по спортивному программированию среди студенческих команд (ICPC) китайцы последние годы заслуженно считаются фаворитами, они почти на равных соревнуются командами из России. Дело ещё и в том, что в не-китайских командах на ICPC очень много студентов из Китая - это бросается в глаза.
Европейский подход существенно отличается от ИИ-стратегий в КНР и США, которые стремятся прежде всего к развитию технологий. Благополучную Европу, привыкшую к жизни по веками отработанным правилам, более всего заботит сохранение статус-кво в обстановке, быстро меняющейся под давлением новых технологий. "Жить по-старому в новых условиях" - негласный девиз ЕС. Подтверждают это не только материалы и впечатления участников упомянутой выше конференции в Хельсинки, но и то, что государственное финансирование ИИ-исследований в ЕС значительно уступает финансированию в США и Китае.
Какая ИИ-стратегия нужна России
Такая, которая, как уже было сказано, позволит не проиграть ИИ-гонку США, КНР и ЕС. При этом принципиально важно понимать, что технологическая гонка не означает изоляцию - в отдельно взятой стране невозможно построить промышленно применимые ИИ-системы. Если национальная стратегия ИИ хотя бы намёком обозначит такую возможность, это будет означать саботаж.
В стратегии развития ИИ в России должен быть описан результат, к которому идёт страна, инвестируя по дороге огромные суммы бюджетных, т.е. народных, денег. Если только, не дай бог, стратегия развития ИИ в качестве результатов зафиксирует характерные словеса вроде "Процент заводов, использующих ИИ-системы для выпуска продукции - N", "Средний индекс Хирша для изданных в России научных работ, посвящённых ИИ, не ниже - M" и пр. в этом роде, можно будет с уверенностью считать, что попытка создать в России собственные ИИ-системы провалилась. Она не даст ничего, кроме более или менее бессмысленной траты упомянутых уже народных денег и возможности для ответственных товарищей безболезненно отчитаться за "исполнение" планов.
Опасность подобного - псевдостратегического - мышления хорошо видна в сравнении с космическими программами. Нельзя представить критерием успеха индекс цитирования или количество печатных трудов конструкторов, а не успешный полёт космического аппарата. В истории с "Бураном" вообще имела место обратная ситуация: когда ведущим конструкторам по итогам проекта в обход установленной процедуры (которая предполагает публикацию научных результатов) присвоили учёные степени, это вызвало протесты в академическом сообществе.
Результат исполнения стратегии должен быть описан совсем иначе - ясно и в содержательных терминах. Например, результатом может быть создание стека технологий ИИ, с достаточно подробным объяснением того, что в него должно войти.
Уместно вспомнить, что в мае по итогам совещания, посвящённого ИИ, президент РФ в связи с приоритетами национальной стратегии развития ИИ прежде всего сказал, что "Россия должна стать одной из ключевых площадок для решения сложнейших научных задач с участием учёных со всего мира", и что "эта работа может идти и в рамках международных математических центров", которые будут открыты в Москве, Санкт-Петербурге и Сочи.
Кроме этих будущих центров в стране есть действующие Федеральные исследовательские центры. Их участие если не в разработке, то как минимум в экспертизе "нижних" - связанных с фундаментальными исследованиями - слоёв технологического стека, очевидно, обязательно.
Наконец, стратегия развития ИИ-технологий должна конструктивно указывать национальные преимущества России и объяснять, как их надлежит использовать и усиливать, а также чем и как следует парировать наши национальные слабости - с полным перечислением и тех, и других.
От стратегии также требуется специальное внимание к умелому регулированию инновационных компаний как условию создания в России эффективных ИИ-систем, поскольку, скорее всего, реализация стратегии потребует иной, инновационной нормативной базы для развития ИИ.
Этические вопросы развития технологий ИИ, уже хорошо проработанные и признанные десятками стран, в российской стратегии развития ИИ также обязательны.
О национальных данных
Защиту данных как национального достояния следует прямо объявить условием реализации стратегии развития ИИ. Речь не только о ПД (хотя и о ПД, разумеется, тоже). Не менее, а то и более важны данные, порождаемые реальной экономической деятельностью. С появлением IoT появится и новый источник огромной массы ценных сведений, на которых можно обучить множество ИИ-систем решению множества задач.
За эти сведения предстоит борьба с другими государствами. Лучший способ её выиграть - соблюдать внутренние законы и международные обязательства России в этой области, а также принцип "доступ к данным граждан и компаний РФ возможен только на территории страны". Независимо от того, насколько этот результат достижим, стремление к нему принципиально, оно прямо связано с реализацией стратегии. Пример: многие данные системы государственной статистики и в доцифровые времена открыто не публиковались, были секретными, и понятно, почему. Времена изменились: большие данные, дающие при правильной обработке богатейший, недостижимый прежде статистический материал, не засекретишь, всё, что тут можно и следует сделать - наладить контроль доступа к национальным данным.
О главном
Осталось заметить в заключение, что всё, о чём сказано выше - стек технологий ИИ, а ещё кадры специалистов, просвещение и переквалификация граждан, чьи профессии модифицируются ИИ, контроль над обученными нейросетями, защита национальных данных и пр. - задачи промежуточные. Основная цель развития ИИ для России - это, очевидно, не мировое технологическое господство. Нам нужна обеспечивающая в обозримом будущем национальную безопасность технологическая независимость, место в международном разделении высокотехнологичного труда и, главное, рост эффективности. Производительности труда, если ещё точнее, и вместе с ней - благосостояния граждан.