Name: Baker Tilly
Price range: $

Już od 2 sierpnia każdy materiał prezentujący wirtualne postacie i sytuacje lub korzystający z wirtualnego głosu będzie wymagał oznaczenia jako sztucznie wygenerowany. Dotyczy to w szczególności wszelkiego rodzaju treści i przekazów marketingowych.

Źródłem nowych obowiązków jest art. 50 ust. 4 AI Act, czyli, czyli rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji. Co ważne, procedowana aktualnie nowelizacja AI Act (Digital Omnibus on AI) nie wprowadza w tym zakresie żadnego dodatkowego odroczenia ani okresu przejściowego. Od 2 sierpnia br. nowe wymogi będą w pełni obowiązujące.

Co dokładnie trzeba oznaczać?

Obowiązek oznaczenia dotyczy treści stanowiących deepfake w rozumieniu AI Act, czyli:

obrazów, treści audio lub treści wideo,
wygenerowanych przez AI lub zmanipulowanych przez AI,
które przypominają istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia,
które odbiorca mógłby niesłusznie uznać za autentyczne lub prawdziwe.

Ważne!

Wydane przez Komisję w tym zakresie Wytyczne, za obiekty „które przypominają istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia” uznają wszystkie treści graficzne, dźwiękowe lub wideo, które przypominają obiektyrealistyczne, choć niekoniecznie rzeczywiste. Oznacza to, że wystarczy, aby wygenerowane osoby, przedmioty, miejsca, podmioty lub zdarzenia przypominały kogoś lub coś, co w rzeczywistości może lub mogło istnieć, aby dana treść była objęta obowiązkiem oznaczenia jako deepfake.

W przeciwieństwie do powyższego, zwolnione z obowiązku oznaczenia jako sztucznie wygenerowane będą takie osoby, przedmioty, miejsca, podmioty lub zdarzenia, które są nierealistyczne, na przykład naruszają prawa natury lub fizyki, czy też przedstawiają formy życia, które nie są powszechnie akceptowane w biologii (choćby ludzie latający bez pomocy urządzeń mechanicznych, smoki, słonie prowadzące samochody).

Z kolei ocena kryterium możliwości uznania treści za autentyczne lub prawdziwe odnosi się do zasadniczej cechy treści typu deepfake, polegającej na potencjalnym oszukiwaniu lub wprowadzaniu w błąd co do autentyczności lub prawdziwości treści. Autentyczność treści odnosi się do tego, czy treść jest tym, za co się podaje, pod względem jej źródła lub procesu tworzenia. Prawdziwość treści dotyczy zaś zgodności treści z rzeczywistością.

Co istotne, ocena nie jest w żaden sposób uzależniona od zamiaru podmiotu rozpowszechniającego dany przekaz, a powinna uwzględniać możliwy krąg jego odbiorców oraz osób, które z takim przekazem mogą mieć kontakt. Z perspektywy AI Act ważne jest to, jak dana treść może zostać odebrana, a nie intencja przyświecające jej powstaniu. Podkreśla się, że jest to szczególnie ważne, gdy istnieje prawdopodobieństwo, że dana treść może zostać dostrzeżona przez dzieci, osoby starsze lub inne grupy osób o niższym poziomie umiejętności cyfrowych i związanych ze sztuczną inteligencją lub niższym ogólnym poziomie wiedzy (mogą one zostać łatwiej oszukane lub wprowadzone w błąd co do autentyczności lub prawdziwości treści).

Niemniej, przyjmuje się, że wspieranie przez sztuczną inteligencję manipulacji drobnymi, technicznymi aspektami istniejących treści niestanowiących deepfake z reguły nie będzie miało znaczenia (lub będzie miało niewielkie znaczenie) dla oceny autentyczności lub prawdziwości danej treści przez odbiorcę. Chodzi m.in. o edycję szczegółów tła, korektę oświetlenia, dostosowanie parametrów audio, korekcję kolorów, redukcję szumów, poprawę dostępności lub kompresję plików. Powinno to być jednak oceniane indywidualnie dla każdego przypadku i nie może skutkować przekształceniem treści w deepfake.

Wytyczne Komisji wskazują przykładowo, że o ile korekcja kolorów lub rozszerzenie tła istniejących treści, czy też stosowana w reklamach zmiana skali obrazów produktów prawdopodobnie ma jedynie niewielki wpływ na postrzeganie przez odbiorcę autentyczności i prawdziwości reklamy i produktu, to już istotna edycja szczegółów tła zdjęć dziennikarskich prawdopodobnie negatywnie wpływa na autentyczność i prawdziwość treści.

Kogo dotyczy obowiązek?

Obowiązek dotyczy podmiotów stosujących system AI, czyli każdego, kto do opracowania lub modyfikacji danej treści używa systemów wspieranych przez sztuczną inteligencję. W praktyce będą to zarówno twórcy treści cyfrowych działający na zlecenie – agencje marketingowe, studia kreatywne, domy produkcyjne, freelancerzy, firmy przygotowujące materiały na własne potrzeby, w tym działy marketingu, komunikacji, PR, employer brandingu, sprzedaży, czy e-commerce, jak i osoby prywatne wykorzystujące treści w ramach osobistej działalności zawodowej, w tym twórców cyfrowych.

Nie oznacza to jednak, że firma zatrudniająca zewnętrznego wykonawcę może traktować obowiązek znakowania jako problem pozostający wyłącznie po stronie wykonawcy. Bo choć, formalnie, obowiązek oznaczenia będzie dotyczył tylko tego wykonawcy, który używa systemu AI do stworzenia materiału, to jednak ryzyko biznesowe i reputacyjne uderzy już bezpośrednio w markę, pod którą komunikat jest publikowany. Co za tym idzie, z punktu widzenia odbiorców przekazu, podmiotem odpowiedzialnym za nieoznaczony deepfake będzie ten, kto faktycznie korzysta z przekazu, a nie ten, kto formalnie za niego odpowiada.

Co to oznacza w praktyce i jak należy oznaczać treści deepfake?

W praktyce oznacza to konieczność stosowania oznaczeń dla wszystkich materiałów, które mogą wyglądać jak autentyczne zdjęcia, nagrania, wypowiedzi, relacje z wydarzeń, rekomendacje klientów, wystąpienia ekspertów, filmy produktowe albo komunikaty osób reprezentujących markę, jeżeli faktycznie zostały wygenerowane lub istotnie zmodyfikowane przez AI.

Szczególnej ostrożności wymagają kampanie z udziałem wirtualnych ambasadorów, syntetycznych prezenterów, awatarów wyglądających jak realni ludzie, klonowanych głosów, realistycznych wizualizacji produktów, wygenerowanych scen z udziałem klientów lub pracowników oraz materiałów imitujących relacje z rzeczywistych wydarzeń.

Oznaczenie powinno być zrozumiałe dla odbiorcy, widoczne w momencie kontaktu z treścią i dostosowane do formatu publikacji. Nie wystarczy zatem ogólna informacja zamieszczona w regulaminie, stopce strony albo polityce prywatności. Jeżeli odbiorca widzi obraz, słyszy głos lub ogląda wideo, które przypominają kogoś lub coś, co może lub mogło istnieć w rzeczywistości, powinien otrzymać jasny komunikat, że treść została wygenerowana lub zmanipulowana przy użyciu sztucznej inteligencji.

Komisja opublikowała na swoich stronach grafiki formalnie rekomendowane dla oznaczania treści deepfake, z podziałem na treści:

w całości wygenerowane przez AI,
zmodyfikowane przez AI,
stworzone z udziałem AI.

https://digital-strategy.ec.europa.eu/en/policies/eu-icons-labelling-ai-generated-content

Czy obowiązek dotyczy tylko przekazów marketingowych?

Nie. Obowiązki wynikające z art. 50 ust. 4 AI Act dotyczą wszelkich obrazów, treści audio lub wideo wygenerowanych lub zmanipulowanych przy użyciu AI stanowiących treści deepfake, a ponadto również– co jest wprost wskazane – tekstów publikowanych w celu informowania społeczeństwa o sprawach leżących w interesie publicznym.

Dodać też trzeba, że niezależnie od omawianej regulacji dotyczącej treści deepfake, 2 sierpnia 2026 r. wchodzą w życie również obowiązki określone w art. 50 ust. 1 – 3 AI Act, tj. w szczególności:

obowiązek informowania odbiorcy, że wchodzi w interakcję z systemem AI, co dotyczy m.in. telefonicznej obsługi klienta, wirtualnych konsultantów, wszelkich chatbotów,
obowiązek informowania odbiorcy, że stosowany jest system rozpoznawania emocji lub system kategoryzacji biometrycznej,
obowiązek znakowania przez system AI generujący treści w postaci syntetycznych dźwięków, obrazów, wideo lub tekstu, w formacie nadającym się do odczytu maszynowego, wyników pracy jako sztucznie wygenerowanych lub zmanipulowanych w taki sposób, aby było to wykrywalne.

Co firmy powinny zrobić?

W praktyce, wejście w życie nowych przepisów oznacza konieczność przeglądu pod kątem wykorzystywanych treści całości procesów w obszarze marketingu, PR, HR, sprzedaży i wszędzie tam, gdzie są wykorzystywane komunikaty i przekazy z wykorzystaniem wirtualnych postaci, głosów, postaci lub zdarzeń. W ślad za tym konieczne będzie uwzględnienie nowych regulacji zarówno w procesach tworzenia treści, jak i w umowach z zewnętrznymi dostawcami treści. Od 2 sierpnia 2026 r. oznaczanie realistycznych treści syntetycznych przestaje być bowiem wyłącznie dobrą praktyką, a staje się wymogiem prawnym.

Wdrożenie obowiązków z art. 50 ust. 4 AI Act powinno być traktowane nie tylko jako uciążliwa formalność prawna, ale jako docelowy element procesu tworzenia i publikacji materiałów marketingowych. Minimalny racjonalny standard wdrożenia powinien obejmować mapowanie zastosowań AI w komunikacji, podjęcie decyzji, kiedy i jak oznaczać materiały, aktualizację briefów kreatywnych, zmianę umów z agencjami, przeszkolenie osób publikujących treści oraz archiwizowanie informacji o tym, które materiały zostały stworzone lub zmodyfikowane z użyciem AI.

Najważniejsze jest wdrożenie prostego, skutecznego i powtarzalnego procesu: identyfikujemy użycie AI, oceniamy ryzyko wprowadzenia odbiorcy w błąd, oznaczamy wymagające tego treści i zachowujemy ślad decyzyjny.

Treści AI w marketingu i komunikacji od 2 sierpnia 2026 r.