Представитель «Яндекса» — о потере приватности: «Дальше будет больше»

Читать в полной версии

«Существует образ: в подвале сидит искусственный интеллект, который становится все умнее, решает все более сложные задачи и со временем неизбежно захватит мир. Это полная ересь», — сказал руководитель лаборатории машинного обучения компании «Яндекс» Александр Крайнов на public talk в рамках Digital Forum РБК Петербург. И все же, по его словам, развитие подобных технологий несет определенную угрозу. Связана она не с тем, что бездушные математические алгоритмы начнут уничтожать человечество, а с тем, что они радикально перекраивают привычную нам среду обитания. Быть успешными в новой реальности смогут далеко не все. Впрочем, как объяснил Крайнов в разговоре с РБК Петербург, попытки отсрочить эту новую реальность опасны намного больше, чем она сама.

ПУТЬ ХОЛЕСТЕРИНА

— Есть такое ощущение, что искусственный интеллект неожиданно стал играть стержневую роль в технологическом развитии — с какого момента это произошло?

— Это во многом вопрос терминологии. На самом деле, он появился довольно давно. Десятки лет развивались такие вещи как компьютерное зрение, распознавание речи, машинный перевод. Люди делали беспилотные автомобили, анализировали данные, и все это не называлось термином «искусственный интеллект». Биометрией, распознаванием лиц и голосов — этим тоже люди занимались очень давно. Это был относительно узкий круг специалистов, которые спокойно сидели и не вызывали у широкой общественности особого интереса. До поры до времени.

— И что произошло? Почему эта тема вдруг ворвалась в медиа пространство?

— Компьютер выиграл у человека в го. Это произошло в 2016 году. Вы спросите, что это изменило. Для людей, которые занимались машинным обучением, это не стало сюрпризом. К тому моменту уже появились сверточные нейронные сети, и было вполне ожидаемо, что они отлично проявят в этой игре. Но для тех, кто был далек от машинного обучения, победа компьютера стала шоком.

— Почему? В шахматы, например, компьютер периодически выигрывал у человека и раньше.

— Го отличается от шахмат примерно так же, как шахматы от крестиков-ноликов. В го число вариантов больше, чем число атомов во вселенной. Там, в отличие от шахмат, невозможно выиграть только благодаря просчету вариантов. По идее это лишает компьютер его главного козыря. Игроки в го, выбирая следующий ход или гипотезу хода, мыслят терминами «это гармонично», «это красиво», «здесь у меня будет переконцентрация, а здесь не будет» — понимаете?

— То есть никакой арифметики?

— Для выбора основных гипотез первого хода — да. Чистая интуиция. Получается так, что дерево возможных вариантов уменьшается до просчитываемого за счет интуитивного выбора следующих возможных ходов. Интуицию всегда считали уникальным свойством человека. А тут ничего себе — ее научилась проявлять машина. Фактически, все, что научилась делать машина, — это предсказывать следующий ход на основе ранее проанализированных партий. Именно так действует человек. Например, когда думает, в какое место в комнате лучше всего повесить картину. Чтобы выбрать, ему нужно подойти и приложить картину туда или сюда. А вот выбор первого места — это вроде бы случайный вариант. Однако он не совсем случайный, потому что человек в действительности ориентируется на прошлый опыт. Примерно так машина начала предсказывать ходы.

Впрочем, и это сражение человека с компьютером в го осталась бы незамеченным широкой общественностью, если бы журналисты хором не начали говорить: «Искусственный интеллект обыграл человека». Не машинное обучение, а именно искусственный интеллект. По сути, это одно и то же, но ИИ звучит, согласитесь, более эффектно. Этот термин стала использовать компания DeepMind, разработчик AlphaGo. И, например, Facebook заявил: «Мы же то же самое делаем, у нас тоже ИИ», и остальные.

Знаете, есть такая шутка, что если кто-нибудь в первый раз на пачке геркулеса напишет «без асбеста», то все остальные тоже будут вынуждены писать так. Именно это произошло с холестерином на растительном масле — абсурдно ведь писать, что его там нет, но кто-то начал — и теперь все производители вынуждены это указывать. А теперь то же самое происходит с ИИ. Любопытно то, что внутри компаний термин ИИ никто не употребляет — говорят «машинное обучение».

ЧТО С ЭТИМ ДЕЛАТЬ

— Ну хорошо. Теперь о существовании ИИ (как его ни называй) знают все. Следующий вопрос — как этим знанием распорядиться. В разных странах, насколько нам известно, по-разному на этот вопрос отвечают.

— Действительно, вся эта история не могла пройти мимо государств. И государства разделились на две категории. Одни заявили: мы не понимаем, что это такое, поэтому давайте всех защитим — нужно срочно издать указ, который что-то регулирует и запрещает. Таким путем пошли страны Европы. Их позиция: давайте подумаем, как запретить и как все зарегулировать и сделать так, чтобы никто нигде не навредил, используя ИИ. Мы не понимаем, что это, но это что-то страшное.

Другие говорят: у нас появились прекрасные возможности. Например, Китай. Это не та страна, которая упускает хоть какие-нибудь возможности. Это люди, готовые на многое за процент роста, а тут много процентов. Поэтому Китай это все внедряет максимально быстро.

Многие страны занимают промежуточную позицию. Отдельно я бы выделил Канаду, которая пошла очень умным путем. Она присутствует на всех топовых конференциях по ИИ, приглашает к себе ученых, стартапы. Кроме того, в Канаде изначально были очень сильные в университеты, они стали одним из лидеров этого направления. Для относительно небольшой по численности страны это отличный результат.

— А какова позиция российского государства?

— Наше государство тоже не могло оставаться в стороне, и совсем недавно президент утвердил нашу национальную стратегию развития ИИ. Наша национальная стратегия, на мой взгляд, получилась на удивление нормальной и взвешенной. Обычно, если вам нужно сделать что-нибудь, в чем вы мало понимаете, вы находите в своем окружении того, кто понимает и того, кто больше всех хочет результата. В случае национальной стратегии этим человеком для нашего государства оказался Герман Греф, поэтому стратегию российского ИИ было предложено разработать Сбербанку. Сбербанк разрабатывал стратегию совместно со множеством участников со стороны бизнеса, науки и государства.

— Стратегий в России написаны тысячи, но мало какие из них реализуются. Какое практическое значение будет иметь стратегия в сфере ИИ?

— Очевидно, что государством будут выделяться серьезные деньги на реализацию программы, которая будет призвана обеспечить эту стратегию. Какие-то серьезные деньги пойдут в образование, потому что на рынке кадровый голод, нехватка специалистов. Какие-то деньги пойдут на обеспечение внедрений. И здесь любому бизнесу нужно понимать, что можно в той или иной форме рассчитывать на поддержку государства. Т.е. если вы сами делаете технологии ИИ, значит, высока вероятность того, что государственная компания с большим удовольствием, нежели раньше, будет это внедрять. Это всегда полезно — если действия бизнеса попадают в KPI чиновников.

БЕГ С ПРЕПЯТСТВИЯМИ

— Можно ли уже сейчас говорить о каких-то результатах? Как Россия в этом смысле выглядит на фоне других стран?

— Существует ряд ключевых параметров, по которым можно оценивать успешность развития технологии ИИ в той или иной стране. Пункт первый — это наука. Это нечто, вокруг которого все пляшет. С точки зрения науки, мы, конечно, в абсолютно невыгодной позиции по отношению ко многим другим странам, потому что доля российских публикаций на топовых мировых конференциях весьма невелика. Ситуация в науке примерно такая же как, например, в футболе. У нас может быть свой чемпионат, много команд, но уровень футбола в стране оценивается по числу ее игроков в лучших клубах мира. Или по ее достижениям на мировых чемпионатах.

Если говорить о науке, то по этому параметру мы даже в двадцатку не попадаем и очень сильно проигрываем Китаю, Америке. У нас университеты и коммерческие компании, которые что-то публикуют на тему ИИ на типовых конференциях, можно пересчитать по пальцам двух рук. На последней прошедшей конференции NeurIPS от нашей страны было принято 10 работ российских исследователей (из них 6 от Яндекса). А всего на конференции было больше тысячи работ.

Следующий момент — это кадры, и здесь ситуация тоже печальная. В наших вузах нет специальности «машинное обучение», ИИ. Если мы посмотрим, где более-менее массово готовят специалистов — в Москве есть Вышка (факультет компьютерных наук), есть МГУ, Физтех, что еще… по большому счету всё. Поэтому, если вы меня спросите, где взять сильных специалистов, то у меня для вас плохие новости — я не знаю, где вы их возьмете. За них на рынке огромная конкуренция. На зарплаты их тяжело сманить — они везде неплохо кормятся. Сильные специалисты идут работать туда, где уже есть другие сильные специалисты. Существует такое правило: если вдруг оказывается, что в комнате ты самый умный — время поменять комнату. Есть центры притяжения — большие компании, где уже работают сильные специалисты, и другие специалисты идут туда. Поэтому очень сложно построить у себя команду с нуля.

— Какие еще существуют помехи внедрению ИИ в России?

— Их много. Но одно из главных, пожалуй, — это общественное мнение. Как люди в массе своей представляют ИИ? Существует образ: в подвале сидит некий ИИ, типа биоробота, который становится все умнее, решает все более сложные задачи и со временем неизбежно захватит мир. И это мнение укрепляется. Если выйти на улицу и опросить людей, что они думают про ИИ, это будет полная ересь. Люди не понимают, что это просто набор методов. Отсюда страхи, фобии и вопросы в духе что будет, когда ИИ попытается захватить мир. И общественное мнение — это один из самых серьезных барьеров на пути внедрения ИИ.

ВСЕ УЖЕ ДАВНО СЛУЧИЛОСЬ

— Про страхи и фобии. Вы действительно считаете, что бояться совсем нечего? А как же, например, государство, вооруженное искусственным интеллектом? Не станут ли тогда реальностью кошмары, описанные Оруэллом?

— С одной стороны, страх оправдан. Государство всегда вооружено лучше, чем гражданин. Превратится ли оно в такого монстра, который будет контролировать каждый наш шаг? Да, это произойдет — нас начнут контролировать и каждый наш шаг будет известен системе. Это неизбежность. С другой стороны, бояться нечего, потому что отчасти все это уже произошло.

— То есть?

— Сначала у людей появились фамилии — это произошло относительно недавно. И приватность несколько уменьшилась. Потом появились записи в уездных книгах. Потом общие базы данных. Потом мы стали платить за покупки банковскими картами. А потом у нас появились смартфоны — о какой тут приватности можно говорить? Различные системы отслеживают наши перемещения, знают все о наших покупках… То есть приватность мы понемногу теряем уже долгие годы. А теперь нас будут еще и узнавать по лицу. Дальше — больше. И избежать этого нельзя, потому что это эффективно для государства, для общества.

Хотя персонально многим (и мне, например) это не нравится. Я вырос в других условиях, где есть приватность, есть ощущение защищенной частной жизни, и оно важно. Но наши дети растут уже в других условиях — для них такая ситуация будет привычна.

Полная версия public talk «Столбовой путь прогресса или технологический тупик» опубликована на сайте VI Digital City Forum РБК Петербург.