Rewolucyjne narzędzie Google niesie też zagrożenia. "Ryzyko zalewu deepfake’ów"

Jak podaje serwis Story 321, Veo 3 AI to najnowszy multimodalny generatywny model wideo Google DeepMind, zdolny do tworzenia filmów w rozdzielczości 1080p o długości przekraczającej jedną minutę. Reaguje na podpowiedzi tekstowe, graficzne lub wideo i generuje wyniki o jakości kinowej z wyjątkową szczegółowością, dokładnością ruchu i spójnością czasową. 

W przeciwieństwie do wcześniejszych modeli, które często miały problemy ze spójnością, Veo 3 AI został przeszkolony w celu utrzymania spójności postaci, synchronizacji ruchów ust i włączenia dźwięku otoczenia. To czyni go jednym z najbardziej zaawansowanych systemów generowania wideo do tej pory.

Na razie Veo 3 AI dostępny jest dla użytkowników z USA, ale w nadchodzących miesiącach może trafić do kolejnych krajów. 

Reasumując, Veo3 to narzędzie, dzięki któremu w prosty sposób można stworzyć ‘profesjonalny’ film, właściwie nie mając żadnego doświadczenia w tej materii.

Veo3 to demokratyzacja kina

– Veo3 od Google dla content creation to ogromna szansa na przyspieszenie pracy i angażujące formaty. Narzędzie daje łatwość tworzenia filmów nawet bez zaplecza graficznego i technicznego, znacznie zmniejszy koszty produkcji. Czy tego chcemy czy nie, to się wydarzy, a nawet już się dzieje – mówi Wirtualnemedia.pl Monika Sałek, digital marketing manager.

– Technologia Veo3 robi wrażenie – lipsync [synchronizacja ruchu warg z dźwiękiem - red.], efekty, narracja, cinematic feeling [styl przypominający profesjonalne produkcje filmowe - red.] – wymienia Darkar Sinoe, AI filmmaker w Synthetic Souls Studio oraz top creator w @RatedG.ai.

Ekspert zauważa, że Veo3 to prawdziwa demokratyzacja kina – wystarczy pomysł, kilka linijek tekstu i dostęp do narzędzia GenAI. Już nie trzeba studia filmowego, milionów dolarów czy zespołu 30 osób.  

Warto zastanowić się jednak, czym może skutkować aż tak szeroka dostępność do narzędzi, dzięki którym każdy z nas może wygenerować realistyczne filmy? Sałek przyznaje, że demokratyzacja wideo rzeczywiście jest potencjalnym zagrożeniem.  

– Jeżeli hiperrealistyczne wideo można wygenerować w kilka minut, pojawia się ryzyko zalewu deepfake’ów i filmów wprowadzających w błąd. Szczególnie w kontekście social mediów, gdzie emocje często biorą górę nad weryfikacją, może to rodzić poważne problemy – nawet utratę zaufania do marki – wyjaśnia.

Jan Szczeniowski, executive producer & Co-owner w Spokój Film zauważa, że fake video obecnie są generowane przy użyciu dostępnych technologii, a kolejne narzędzia tylko to ułatwią. Rzeczywiście może być tak, że zalew takich treści będzie coraz większy.

Realne zagrożenia

Darkar Sinoe Deepfake podkreśla, że fałszywe wypowiedzi, wykorzystywanie wizerunku bez zgody to realne zagrożenia . Podkreśla, że większość komercyjnych modeli, jak VEO, stosuje filtry i blokady.  – Problem zaczyna się przy lokalnych instalacjach GenAI, bez kontroli i zabezpieczeń. To tam możliwe są nadużycia – zauważa.

Jakiego typu materiały wideo mogą być największym zagrożeniem? Według Darkara Sinoe najgroźniejsze są materiały deepfake tworzone z premedytacją: politycy wypowiadający się w sposób, który może wywołać kryzys społeczny; celebryci "reklamujący" produkty bez zgody; fałszywe nagrania "na żywo", które wyglądają jak wiadomości. 

– Pojawiają się też sytuacje, w których wykorzystywane są głosy zmarłych aktorów, twarze osób prywatnych, a nawet dzieci – bez zgody, licencji czy etyki. Przy lokalnych, niekontrolowanych instalacjach GenAI (czyli takich odpalanych offline, poza dużymi platformami) można generować niemal wszystko — i to w sposób nie do wykrycia przez system – precyzuje ekspert.

Jak walczyć z video fejkami?

Jak w takim razie radzić sobie z ewentualnym zalewem fałszywych filmów?

– Przede wszystkim: zwracaj uwagę na oczy i mimikę – sztuczna inteligencja nadal ma trudność z naturalną synchronizacją spojrzeń, mikroekspresji i subtelnych ruchów twarzy. Drugie: słuchaj głosu – AI często generuje głos bez „oddechu emocji”, przez co wypowiedzi brzmią płasko lub dziwnie sztucznie. Po trzecie, kontekst. Jeśli nagle widzisz znaną postać mówiącą coś kontrowersyjnego w podejrzanym otoczeniu – sprawdź źródło, datę, kanał publikacji. Coraz częściej nie chodzi o to, czy coś zostało powiedziane, ale czy to w ogóle wydarzyło się naprawdę – podpowiada Darkar Sinoe.

Sałek zaznacza, że kluczowa będzie rola platform (typu YouTube czy Meta) w zakresie oznaczania treści AI, a także edukacja samych odbiorców, by wiedzieli, jak rozpoznawać generowane przez AI materiały – Pamiętajmy, że finalnie AI może tworzyć obrazy – ale to my jako ludzie nadajemy im znaczenie, więc to od nas zależy przyszłość – pointuje.