Pre obchodníkov platia od tohto mesiaca jednoznačné povinnosti v oblasti AI transparentnosti. Nezabudli ste na ne?
Umelá inteligencia nám výrazne uľahčuje prácu. Generuje popisy produktov, vytvára fotky modelov pre e-shopy, riadi zákazníckych chatbotov a v kamenných predajniach pomáha napríklad analyzovať pohyb zákazníkov. Divoká éra neobmedzených a neregulovaných AI experimentov sa však oficiálne skončila.
Od 2. augusta sú kľúčové ustanovenia európskeho Aktu o umelej inteligencii (AI Act) oficiálne v praxi. To znamená, že povinnosti v oblasti transparentnosti, označovania obsahu a obmedzenia vysokorizikových systémov už nie sú hrozbou z budúcnosti, ale sú dnešnou právnou realitou a to aj pre e-shopy a kamenné predajne. Cieľom legislatívy je chrániť spotrebiteľa pred skrytou manipuláciou a zneužitím dát. Ak využívate akúkoľvek formu AI v komunikácii či marketingu, týkajú sa vás nasledujúce pravidlá.
Povinná identifikácia chatbotov
Ak váš zákaznícky servis, nákupného poradcu alebo odpovede na e-maily riadi AI, zákazník to musí vedieť. Upozornenie, že komunikuje s automatizovaným systémom, musí byť jasné a viditeľné hneď od prvého momentu.
Porušenie: V rohu e-shopu pípne okno: „Ahoj, som Lucia z podpory, s čím ti poradím?“ Zákazník si myslí, že píše operátorke z mäsa a kostí, no na druhej strane odpovedá AI model.
Riešenie: Do okna chatu pridajte jasný a viditeľný text: „Komunikujete s AI asistentom Luciou.“ Ak zákazník požiada o človeka, musíte mu umožniť prepojenie na reálneho operátora.
Označovanie syntetického obsahu
Ak na e-shope používate AI na tvorbu modelov, produktových vizuálov, fotiek alebo generovanie textov, tento obsah musí byť jednoznačne označený. Zákazník má právo vedieť, že pozerá na vygenerovaný model alebo číta AI text.
Porušenie: Oblečenie na e-shope prezentujú fotorealistické modelky vygenerované cez Midjourney, prípadne je produkt zasadený do fiktívneho prostredia bez akejkoľvek zmienky o AI.
Riešenie: K fotke alebo do detailu produktu doplníte oznámenie: Vizuál bol vytvorený/upravený pomocou AI. Spotrebiteľ musí vedieť, či sa pozerá na skutočnú fotku, alebo na syntetický obraz. Pri textoch uplatňujte pravidlo ľudskej kontroly. AI môže pripraviť prvý draft, no finálnu správnosť musí schváliť človek. Ak publikujete plne automatizovaný text, pridajte do pätky označenie: „Text bol vygenerovaný pomocou AI.“ Aj fotka v tomto článku bola vytvorená pomocou AI, zdrojom je midjourney.
Dynamické ceny bez manipulácie
Algoritmy na úpravu cien podľa dopytu sú povolené, no AI nesmie zneužívať zraniteľnosť zákazníka (jeho psychický stav, tieseň či vek) na neférové navyšovanie ceny.
Porušenie: E-shop alebo služba nasadili AI algoritmus, ktorý deteguje, že zákazník nakupuje v časovej tiesni alebo v strese (napríklad lístky na poslednú chvíľu alebo slabá baterka v mobile), prípadne vyhodnotí jeho zraniteľnosť (vek, horší zrak, správanie naznačujúce núdzu) a na základe tohto osobného profilu mu selektívne a skryto zvýši cenu.
Riešenie: Algoritmy na úpravu cien nastavte výhradne na základe trhových parametrov (celkový dopyt, stav zásob v sklade, ceny konkurencie). Dynamická tvorba cien pre všetkých zákazníkov naraz je v poriadku, no AI nesmie manipulatívne zvyšovať cenu konkrétnemu jednotlivcovi na základe zneužitia jeho aktuálnej núdze či osobnej zraniteľnosti.
Zákaz rozpoznávania emócií a biometrie
Kamerové systémy v predajniach, ktoré by skenovali tváre zákazníkov a vyhodnocovali ich emócie či demografiu bez ich vedomia, sú po novom prísne regulované až zakázané. Anonymizované počítadlá vstupov sú v poriadku, no akonáhle systém analyzuje osobu, ide o vysoké riziko.
Porušenie: Nainštalovali ste nad regál kameru s AI, ktorá skenuje tváre okoloidúcich, odhaduje ich vek, pohlavie alebo analýzou emócií zisťuje, či sa pri produkte mračia. Toto patrí medzi prísne regulované až zakázané biometrické praktiky.
Riešenie: Vymeňte kamerovú analýzu tvárí za anonymizované 3D senzory či heatmapy. Tie merajú len fyzický pohyb a čas strávený pri regáli bez toho, aby spracovávali biometrické údaje či tvár konkrétneho človeka.
AI pri nábore zamestnancov či riešení reklamácií
Ak na prechádzanie životopisov či vyhodnocovanie reklamácií využívate AI nástroje, musíte zabezpečiť prísny ľudský dohľad. AI nemôže o človeku rozhodnúť úplne sama.
Porušenie: Nasadili ste AI na spracovanie vratiek a systém automaticky zamietne reklamáciu bez toho, aby zákaznícky prípad videl človek. Rovnako pri nábore predavačov AI automaticky vyradí uchádzača.
Riešenie: Zaveďte princíp „uuman-in-the-loop“ (človek v riadiacej slučke). AI môže navrhnúť rozhodnutie alebo roztriediť dáta, no konečné zamietnutie reklamácie alebo vyradenie uchádzača musí vykonať a potvrdiť reálny zamestnanec.
Ešte nekončíme!
Niekoľko špecifických zón, kde AI Act a nadväzujúce regulácie narážajú na každodennú prax, je ešte aj v samotnom marketingu. Zameriavajú sa najmä na transparentnosť a obranu proti skrytej manipulácii.
Princíp je jednoduchý: Ak AI v marketingu slúži ako zrýchľovač kreatívy a pomocník, je to úplne v poriadku. Ak však vytvára falošnú realitu alebo podvedome zavádza zákazníka, prekračuje hranicu zákona.
AI influenceri, hlasové klony a syntetické reklamy
Ak v reklamnej kampani použijete virtuálnu AI modelku, vygenerovaného influencera alebo AI klon hlasu, musíte spotrebiteľa jasne informovať, že ide o syntetický obsah.
Podprahová manipulácia a AI „Dark Patterns“
AI Act zakazuje AI systémy, ktoré využívajú podprahové techniky alebo manipulatívne algoritmy na obchádzanie slobodnej vôle spotrebiteľa. Ak napríklad inteligentný algoritmus analyzuje správanie používateľa na e-shope a na základe jeho váhania vygeneruje fiktívny tlak, napríklad falošnú správu „Práve si tento produkt prezerá 14 ľudí a zostáva posledný kus“, ide o zakázanú psychologickú manipuláciu.
Generované recenzie
Generovanie fiktívnych zákazníckych recenzií, komentárov či príbehov spokojných klientov pomocou textových AI modelov a ich publikovanie na e-shope je v kombinácii s legislatívou o ochrane spotrebiteľa priamou cestou k pokute.
Interná bezpečnosť a dáta marketingových tímov
Marketingové tímy si musia dať pozor na vkladanie citlivých interných dát, napr. databáz zákazníkov, e-mailov či predajných výsledkov do verejne dostupných AI nástrojov na účely tvorby analýz alebo e-mailingových kampaní. Pri komerčnom využívaní AI obrázkov v billboardoch či online reklame je zároveň nutné strážiť si licencovanie a uistiť sa, že vygenerovaný vizuál neporušuje autorské práva.
Sankcie nie sú len kozmetické
Ak to chceme mať dotiahnuté na sto percent, pre kompletný obraz treba poznať aj tú najnepríjemnejšiu stránku. Pri zakázaných praktikách, ako sú zneužívanie zraniteľnosti, nelegálna biometria emócií v predajni či neférové algoritmy hrozia pokuty až do 35 miliónov eur alebo sedem percent z celkového celosvetového obratu. Pri nedodržaní transparentnosti, napríklad neoznačený chatbot, nezverejnenie AI obsahu či ignorovanie ľudského dohľadu, je to do 15 miliónov eur alebo tri percentá z obratu.
Dôvera a transparentnosť ako výhoda
Pravidlá, ktoré vstúpili do platnosti 2. augusta, nemajú retail spomaliť, ale vyčistiť trh od nekalých praktík. AI má byť v retaile ako dobrý asistent v predajni: môže pripraviť podklady, urobiť inventúru, usmiať sa na zákazníka… No nesmie nosiť masku iného človeka, vymýšľať si recenzie ani zákazníkovi potajomky vytiahnuť z peňaženky eurá len preto, že vidí, že sa ponáhľa.
Ak pri chatbotovi priamo priznáte farbu a pri produktoch garantujete pravdivý obsah, nestrácate zákazníka, ale budujete si uňho to najcennejšie: dôveru a transparentný vzťah.
Michaela Hanáková pôsobí ako managing director v agentúre 10/10 Communications. Skúsenosti šéfredaktorky online magazínov v NMH uplatnila aj v Modrom koníku a pri budovaní platformy Hello Tesco. Pred šiestimi rokmi vymenila médiá za PR v MCC PRofeessionals a v agentúre 10/10 Communications, ktorú dnes vedie. Je špecialistka na tvorbu obsahu a komplexného PR, vrátane reputation, brand manažmentu, korporátnej komunikácie. Vedie PR komunikáciu značiek Planeo, SodaStream, Sencor, Philco, Fieldmann, Grafton, Knihobot, Tchibo, Budvar, Terezia Company, Primalex, Fórum Pi s rozumom Slovensko a ďalších. Jej projekty získali niekoľko shortlistov a ocenení v prestížnej súťaži PR agentúr PROKOP.
Súvisiace články:
Michaela Hanáková: UGC vs. influencer vs. content creator – koho naozaj potrebuje vaša značka?
Michaela Hanáková: generácia Z chce od retailu viac než len produkty. Ako sa im priblížiť?
Michaela Hanáková: Už nie FOMO, ale JOMO. Reagujú ešte Slováci na zľavy a Black Friday?
Michaela Hanáková: Zákazník nakúpil. Bol spokojný. Tak prečo sa k vám potom nevrátil?