Новий застосунок OpenAI Sora заполонили deepfake із Семом Альтманом

Менше ніж за добу після запуску бета-версії соцмережі Sora користувачі наповнили її відео з реалістичними deepfake-зображеннями CEO OpenAI Сема Альтмана. Це викликає питання щодо безпеки та етики використання платформи, пише TechCrunch.

Як працює Sora

Sora — це новий застосунок від OpenAI, побудований за аналогією з TikTok. Його ключова особливість — можливість створювати так звані «cameo»: користувачі завантажують біометричні дані (запис обличчя й рухів голови), щоб інші могли генерувати відео з їхньою участю.

Сем Альтман зробив свій «cameo» доступним для всіх, тому стрічка Sora миттєво наповнилася роликами з його глибокими фейками.

Що створюють користувачі

У перших відео Альтман розмовляє зі свинями на фабриці, з’являється серед персонажів Pokémon, працює у Starbucks чи McDonald’s, а також краде відеокарти Nvidia в магазині.