YouTube решил маркировать ролики на «деликатные темы», созданные ИИ
В ближайшие месяцы YouTube начнет требовать от авторов видеороликов маркировать контент, созданный с использованием искусственного интеллекта, а пользователей станут предупреждать, если они смотрят такие ролики, сообщается в блоге компании.
Речь прежде всего о роликах, на которых «реалистично изображено событие, которого никогда не было», или видео с изображением человека, который «говорит или делает то, чего на самом деле не делал». Подобные меры YouTube назвал особенно необходимыми, если речь идет о «деликатных темах» — таких как выборы, продолжающиеся конфликты, проблемы в сфере здравоохранения. Тем, кто проигнорирует новые требования, будут грозить штрафы.
В отдельных случаях ролики будут удалять вне зависимости от того, поставил ли автор пометку об искусственном интеллекте — например, если в видео показаны реалистичные сцены насилия с целью шокировать или вызвать отвращение у зрителей.
Если в созданном ИИ ролике будет фигурировать лицо или звучать голос конкретного человека, он сможет направить запрос на удаление такого контента. YouTube отмечает, что при изучении запроса платформа будет учитывать «множество факторов», например, является ли ролик пародией или сатирой и т.д.
Фальшивые ролики, созданные при помощи ИИ, в которых фигурируют известные люди — политики, музыканты, актеры, называют дипфейками. В последние годы технология их создания значительно улучшилась. Летом ФБР предупредила, что злоумышленники стали чаще создавать реалистичный контент, в том числе порнографический, в целях вымогательства.