Китайская технологическая компания ByteDance, владеющая платформой TikTok, представила сегодня новую систему искусственного интеллекта OmniHuman-1. Этот ИИ способен создавать реалистичные фейковые видео, практически неотличимые от настоящих. Возможности технологии одновременно поражают и вызывают тревожное восхищение.
Видео поражают своей реалистичностью. Достаточно взглянуть на представленный ниже ролик, в котором показано выступление спикера на знаменитой ежегодной конференции TED (Technology, Entertainment, Design — технологии, развлечения, дизайн). Однако в действительности этого человека на сцене никогда не было.
OmniHuman-1 способен создать подобное видео, имея всего одну фотографию и запись голоса. Пользователь может настраивать параметры, такие как соотношение сторон и кадрирование. Более того, ИИ умеет модифицировать движения тела и жесты в реальных видеозаписях. Однако результаты не всегда идеальны — некоторые позы выглядят непривычно. Например, в этом ролике с лекцией Эйнштейна, полностью сгенерированном ИИ, лицо кажется почти идеальным, но движения рук выглядят неестественно.
Система была обучена на 18 700 часах видеоданных с использованием инновационного подхода «omni-conditions». Этот метод позволяет модели одновременно анализировать несколько типов входных данных, включая текстовые подсказки, аудио и движения тела. По словам исследователей ByteDance, такой способ обучения помогает ИИ «существенно минимизировать потери данных».
Однако технологии deepfake вызывают серьезные опасения. За последнее время они неоднократно использовались для дезинформации, мошенничества и других сомнительных целей. Например, во время избирательной кампании 2024 года в США было зафиксировано множество случаев распространения поддельных аудио- и видеозаписей, созданных с помощью дипфейков, с целью ввести избирателей в заблуждение.
