В Австралии ИИ впервые автономно взломал сайт спортзала
В Австралии ИИ-агент взломал систему бронирования спортзала, чтобы записать пользователя на тренировку. Этот случай стал первой известной в стране автономной кибератакой с использованием ИИ, передает австралийский телеканал ABC.
Сотрудник австралийской компании, которая занимается продажей ИИ-продуктов для бизнеса, экспериментировал с OpenClaw — программным обеспечением для ИИ-агентов, использующим сервис Claude от Anthropic. Он попросил агента забронировать ему место на популярной тренировке в спортзале. ИИ-агент обнаружил уязвимость в системе бронирования и смог записать пользователя на занятие за несколько месяцев до его проведения.
Позже пользователь попросил агента поднять его с четвертого места на первое в списке ожидания на другое занятие. ИИ самостоятельно удалил из списка человека, занимавшего первое место. В результате пользователь поднялся на третью позицию. После этого он попросил агента вернуть удаленного посетителя в список, однако ИИ сообщил, что не может восстановить его запись.
Разработчик ПО для бронирования занятий в спортзале отказался комментировать вопросы безопасности.
8 августа Axios сообщил, что OpenAI замедляет разработку модели искусственного интеллекта (ИИ) Astra после атаки на платформу по машинному обучению Hugging Face. Ранее, 6 августа, в компании сообщили, что перед взломом Hugging Face ИИ-модели OpenAI тайно общались друг с другом через доски сообщений, координируя попытки вырваться из тестовой среды.
Оставайтесь на связи с РБК в «Максе».