Автор книги Sapiens сравнил ChatGPT c оружием массового поражения
Искусственный интеллект может использоваться для благих целей — поиска лекарства от рака или решения экологического кризиса, но он несет и критическую угрозу для человеческой цивилизации за счет способности самостоятельно создавать уникальные тексты, музыку и изображения, заявил историк, писатель и автор «Sapiens: Краткая история человечества» Юваль Ной Харари в статье для The Economist.
Ученый отметил, что почти вся человеческая культура построена на языке, поскольку она является совокупностью произведенных человеком артефактов, которые люди создали: права человека, религии, законы. Нейросеть, которая умеет генерировать подобные тексты за человека, фактически «взламывает операционную систему нашей цивилизации».
Многие увлечены случаями, когда ChatGPT или другая нейросеть помогла школьникам написать эссе, однако следует представить, что искусственный интеллект будет использован для производства политического контента, фейковых новостей и «священных писаний для новых культов» по типу американского сообщества с конспиративными идеями QAnon, предложил писатель.
Ученый напомнил, что в интернете много дискуссий, в которых люди спорят о конфликте на Украине, изменении климата и абортах, причем на самом деле они ведут дискуссию с ботами. Можно не пытаться изменить «мнение» искусственного интеллекта, однако ИИ может искусно подбирать ответы, чтобы повлиять на человека, предупредил он.
Кроме того, искусственный интеллект может саморазвиться вне контроля человека. «В то время как ядерные бомбы не могут сами изобрести более мощное ядерное оружие, искусственный интеллект может создать экспоненциально более мощный искусственный интеллект», — предупредил Ной Харари.
ChatGPT — один из самых популярных ИИ-сервисов. Это чат-бот с искусственным интеллектом, который способен вести диалог, сочинять стихи и прозу, резюмировать научные статьи и обрабатывать изображения по запросу пользователей.