В США предложили разрешить властям отключать опасные ИИ-модели
В палату представителей США внесли законопроект, который позволит властям замедлять, приостанавливать или полностью отключать системы искусственного интеллекта при угрозе катастрофического ущерба, говорится в сообщении на сайте конгрессмена Теда Лью.
Законопроект AI Kill Switch Act подготовили демократ Лью и республиканец Натаниэль Моран. Разработчиков наиболее мощных ИИ-систем обяжут сохранять техническую возможность ограничить работу модели, временно остановить ее или полностью отключить.
Отдать такое распоряжение сможет министр внутренней безопасности США после консультаций с главами Министерства торговли и Национальной разведки. Предусмотрена поэтапная реакция: от ограничения возможностей системы до ее полного отключения в зависимости от тяжести инцидента.
Разработчиков также хотят обязать сообщать властям об опасных инцидентах и сохранять технические данные, необходимые для расследования причин сбоя.
В начале июля власти США обсуждали с крупнейшими разработчиками стандарты выпуска передовых ИИ-моделей. В частности, стороны пытались определить, какие системы считать наиболее мощными и рискованными, кто сможет получить к ним доступ и сколько времени должна занимать проверка перед выпуском.
Администрация президента США Дональда Трампа намеревалась усилить контроль за распространением передовых моделей искусственного интеллекта и определять, какие компании и организации смогут получать к ним доступ.
Оставайтесь на связи с РБК в «Максе».