Što AI Act donosi hrvatskim webshopovima?

Europska unija nedavno je usvojila AI Act, prvi sveobuhvatni zakonski okvir o umjetnoj inteligenciji. Iako se čini da se isti tiče samo “velikih AI sustava”, ova regulativa značajno će utjecati i na eCommerce poslovanje u Hrvatskoj: od personalizacije ponude, oglašavanja i chatbotova, do BNPL sustava i zapošljavanja.

Gdje se AI već koristi u domaćem eCommerce sektoru

Većina webshopova koristi neki od alata umjetne inteligencije za:

• generiranje sadržaja – opis proizvoda, vizuali, video (ChatGPT, Perplexity, Grok, …)
• kreiranje personalizirane preporuke proizvoda na webshopu (Recombee, Crombox, Clerk, …)
• automatizirano targetiranje i bidding u digitalnom oglašavanju (Meta ads, Google ads, …)
• dinamično formiranje cijena i personalizirane promocije (CommerceBuild, Boardfy, Priceva, …)
• automatizacija korisničke podrške kroz Chatbotove (Clearvoice, Tidio, …) te
• detekciju prijevara / botova (Kount, DataDome, …)

AI Act ovaj tip alata svrstava u kategoriju minimalnog ili ograničenog rizika, što znači da nema nekih većih zakonskih obveza – ali postoje zahtjevi za transparentnošću. Gore su izdvojene ključne, a kompletna je kategorizacija rizika također javno objavljena.

Situacije u kojima webshop ulazi u “high-risk” zonu

Ako AI ima značajan utjecaj na prava ili život kupaca, ulazi u područje visokog rizika, uz stroge obveze poput dokumentacije, ljudskog nadzora, logova i kontrole podataka. Evo konkretnih situacija:

Biometrija i prepoznavanje emocija – kamere koje analiziraju emocije kupaca ili nude personalizirane ponude i cijene na temelju prepoznavanja lica većinom su zabranjene ili vrlo strogo regulirane.

AI za kreditno odlučivanje i scoring kupaca

Automatske odluke s velikim utjecajem (kada AI “nagovara” kupca)

AI u zapošljavanju – automatsko rangiranje i filtriranje kandidata s pomoću AI-a svrstava se među visokorizične primjene.

Generativni AI (ChatGPT, Claude, Gemini…) i marketing

Ovo je najpopularniji dio korištenja AI alata, pogotovo u digitalnom marketingu. Za general-purpose i generative AI modele uvodi se poseban režim obveza:

• transparentnost u vezi trening podataka i ograničenja modela
• mjere za sprječavanje zloupotreba
• označavanje AI-generiranog sadržaja u određenim slučajevima

Smjernice za ove modele jasno su definirane i također javno dostupne. Za marketinške timove to znači da od sad moraju jasno označiti korišteni AI sadržaj, da se izbjegne obmana kupca, a uprave su primorane definirati interne politike korištenja AI-ja. Ukratko, zaboravite na “daj to nek’ ChatGPT napiše”, ako to nemate jasno definirano.

Što trebate napraviti?

Krenite od inventure AI alata i procesa. Popišite i mapirajte sve AI upotrebe (marketinški alati, CRM, pricing, HR alati, …). Nakon toga klasificirajte rizike sukladno definiciji (minimalni, ograničeni, visoki, zabranjeni).

Budite maksimalno transparentni. Primjerice, ako koristite chatbot, jasno navedite “Ovaj chatbot koristi umjetnu inteligenciju.” Napravite AI policy, tj. interna pravila za generativni sadržaj, korištenje AI alata, zaštitu i privatnost, itd. 

Trgovci koji ranije uvedu AI governance imat će konkurentsku prednost: višu razinu povjerenja kupaca, lakši ulazak na tržišta EU-a i smanjeni regulatorni rizik. AI Act shvatite kao priliku za diferencijaciju – imat ćete veće povjerenje kupaca.

Savladajte AI alate uz 30 dana podrške

Masterclass je novi koncept radionice/eventa gdje imate priliku učiti i družiti se s najboljim stručnjacima u regiji

Osigurajte svoje mjesto