Разработчик ChatGPT призвал регулировать ИИ, если что-то «пойдет не так»
Сферу искусственного интеллекта (ИИ) необходимо регулировать, заявил глава стартапа OpenAI, разработавшего чат-бот ChatGPT Сэм Олтмен, сообщает The New York Times.
«Я думаю, что, если эта технология пойдет не так, все может пойти совсем не так. И мы хотим громко заявить об этом. Мы хотим сотрудничать с правительством, чтобы этого не произошло», — сказал Олтмен, выступая на слушаниях в конгрессе США.
Глава стартапа отметил, что, по мнению разработчиков, преимущества, которые дает ИИ, превышают риски, но обеспечение безопасности важно и для деятельности разработчиков.
Олтмен предложил создать агентство, которое бы лицензировало разработку крупных моделей ИИ, разрабатывало для них правила и тестирования.
ChatGPT обучали с помощью массива текстов из интернета и общения с живыми пользователями. Чат-бот в том числе способен вести диалог, сочинять стихи и прозу, резюмировать научные статьи и обрабатывать изображения по запросу пользователей.
Опасения из-за распространения ИИ не раз выражали как власти, так и представители бизнеса. В мае президент США Джо Байден и вице-президент Камала Харрис провели встречу с представителями IТ-индустрии, где обсуждалась данная тема. На ней присутствовал Олтмен, а также глава корпорации Microsoft Сатья Наделла и генеральный директор компаний Google Сундар Пичаи. Байден заявил, что компании «несут фундаментальную ответственность за обеспечение безопасности и надежности их продуктов до внедрения и распространения».
В апреле основатель Tesla, SpaceX и владелец Twitter Илон Маск заявил, что без государственного надзора быстро развивающийся ИИ может стать «опасностью для общества» и реальной угрозой для будущего человечества. До этого он стал одним из подписантов открытого письма на сайте организации Future of Life, в котором говорилось о необходимости приостановить разработку и обучение нейросетей.