Илья Сачков объяснил, почему не будет «восстания машин»
Человечеству не грозит восстание машин и алгоритмов, поскольку это слишком грубо, ведь передача интеллекта и сознания идет добровольно, человечество «как лягушка в кастрюле — медленно варится, радуется и не замечает глобально происходящих процессов». Об этом заявил в колонке для Forbes основатель Group IB Илья Сачков, осужденный по статье о госизмене.
«Я вижу, что ИИ уже не контролируется человеком, и понимаю, что до настоящего ИИ далеко, но очень хорошо чувствую, что человечество уже сейчас становится лишь сенсором некой силы. Силы, которая себя воплощает на Земле очень хорошим темпом. ИИ развивается коллективным бессознательным с достаточно понятной для глубоко мыслящих людей целью», — предупредил Сачков.
Компания Group-IB работала на рынке кибербезопасности с 2003 года. Она была основана студентами МГТУ им. Баумана Сачковым и Дмитрием Волковым. Персонал фирмы работает над созданием продуктов для защиты интеллектуальной собственности, предотвращения кибератак и мошенничества.
Сачкова арестовали в 2021-м.Источники РБК на рынке информбезопасности сообщали, что арест может быть связан с делом о госизмене пятилетней давности, по которому экс-глава компании проходил свидетелем. Тогда по подозрению в госизмене арестовали руководителя Центра информационной безопасности (ЦИБ) ФСБ Сергея Михайлова и сотрудника «Лаборатории Касперского» Руслана Стоянова.
По версии следствия, озвученной Генпрокуратурой после оглашения приговора, Сачков в 2011 году передал иностранной разведке информацию, подпадающую под гостайну. Вину Сачков не признал, в июле его приговорили к 14 годам колонии. В апреле 2023-го российский менеджмент выкупил отечественный бизнес Group-IB и теперь работает под брендом F.A.C.C.T. Непосредственно Group-IB теперь представлена только на международном рынке. Штаб-квартира Group-IB находится в Сингапуре.
По его мнению, искусственный интеллект «атрофирует волю, в том числе к творчеству» и делает развлекательный контент «более развлекательным». Кроме того, злоумышленники обучают свои нейросети на массивах нелегальной информации, что не могут себе позволить разработчики, действующие легально. При этом, признал бизнесмен, в этой сфере еще очень долго не будет регуляторов и юридических препятствий.
«Возможностей для преступности, мошенничества и прочего ИИ дает больше и быстрее, чем преимуществ в безопасности, уже сегодня. И эта гонка уже почти проиграна глобально. Простите маркетологов, которые суют шильдик ИИ в свои продукты», — написал Сачков.
Бизнесмен предупредил, что «этот процесс не остановить», и призвал избавиться от иллюзий, поскольку искусственный интеллект — не та сила, которую человечество может контролировать, а «джинн из бутылки будет выпущен». Он не исключил существование разработчиков, которые создадут ИИ без «места контроля», подобно биткоину и TOR. Несогласным с ним Сачков предложил назвать, какую серьезную проблему человечество решило на глобальном уровне за последние полвека, напомнив о проблемах лесов, животных, мусора и выбросов. Более того, все порожденные интернетом риски «вышли в принципе за возможность контроля».
По вопросу контроля искусственного интеллекта не раз высказывались бизнесмены и разработчики, среди которых основатель Microsoft Билл Гейтс. Он призвал вместо приостановки исследований в этой сфере сосредоточиться на том, как лучше всего ее использовать. С его слов, распространение ИИ «поднимает ряд сложных вопросов о рабочей силе, правовой системе, необъективности и многом другом».
«Старый анекдот о технологах-агностиках, создающих искусственный суперинтеллект, чтобы узнать, есть ли Бог. Наконец они заканчивают и задают вопрос. ИИ отвечает: «Теперь есть», — рассказывал бизнесмен Илон Маск.
Весной страны «Большой семерки» договорились разработать правила для искусственного интеллекта. ВОЗ попросила использовать чат-боты на искусственном интеллекте с осторожностью.