Urząd Ochrony Konkurencji i Konsumentów rozwija projekt wykorzystujący sztuczną inteligencję do identyfikowania tzw. dark patterns, czyli manipulacyjnych technik stosowanych w handlu internetowym. Inicjatywa ma pomóc organom nadzorczym skuteczniej reagować na nieuczciwe praktyki cyfrowe oraz stworzyć standardy korzystania z narzędzi AI w ochronie konsumentów.
Efekty prac zostaną zaprezentowane także przedstawicielom instytucji współpracujących w ramach Międzynarodowej Sieci Ochrony Konkurencji i Konsumentów (ICPEN), która skupia organy odpowiedzialne za ochronę praw konsumentów w wielu krajach świata.
Manipulacyjne techniki zakupowe w internecie
W środowisku handlu elektronicznego coraz częściej stosowane są mechanizmy określane mianem dark patterns. Są to rozwiązania projektowe w interfejsach stron internetowych i aplikacji, które mają skłonić użytkownika do podjęcia określonej decyzji zakupowej – często nie w pełni świadomej.
Do najczęściej spotykanych przykładów należą m.in.:
- automatyczne dodawanie produktów do koszyka,
- domyślne zaznaczanie dodatkowo płatnych usług,
- liczniki czasu wywierające presję na szybki zakup,
- komunikaty sugerujące ograniczoną dostępność produktu,
- bardzo proste uruchomienie subskrypcji przy jednoczesnym utrudnieniu jej anulowania,
- przyciski „Kup” lub „Zamów” wyróżnione kolorystycznie przy niemal niewidocznej opcji „Zrezygnuj”.
Projektanci interfejsów wykorzystują w takich przypadkach wiedzę z zakresu psychologii decyzji oraz marketingu behawioralnego. Często stosowane są komunikaty emocjonalne lub zawstydzające użytkownika, aby skłonić go do skorzystania z oferty.
Dlaczego dark patterns są skuteczne
Mechanizmy manipulacyjne bazują na naturalnych sposobach podejmowania decyzji przez ludzi. Kluczową rolę odgrywają tu heurystyki, czyli uproszczone reguły myślenia stosowane w sytuacji ograniczonego czasu lub niepewności.
Choć heurystyki pomagają podejmować szybkie decyzje przy niewielkim wysiłku poznawczym, mogą prowadzić także do błędów poznawczych. W środowisku zakupów online takie mechanizmy bywają wykorzystywane do wywoływania presji lub zniekształcania oceny sytuacji przez konsumenta.
Według prezesa UOKiK Tomasza Chróstnego dynamiczny rozwój rynku cyfrowego sprawia, że tradycyjne metody nadzoru nie zawsze nadążają za tempem zmian technologicznych.
– Rynek cyfrowy rozwija się szybciej niż tradycyjne narzędzia nadzorcze. Dlatego musimy sięgać po nowe technologie, aby skutecznie chronić konsumentów. Tym bardziej że sektor e-commerce już dziś wykorzystuje zaawansowane rozwiązania, w tym AI, do analizowania zachowań użytkowników – podkreśla prezes UOKiK.
Projekt finansowany z funduszy UE
W odpowiedzi na rosnącą skalę problemu w 2023 roku UOKiK rozpoczął realizację projektu „Wykrywanie i zwalczanie dark patterns za pomocą sztucznej inteligencji” (Detecting and combating dark patterns with Artificial Intelligence). Projekt finansowany jest ze środków Unii Europejskiej.
Jego główne cele to:
- opracowanie standardów wykorzystania AI w ochronie konsumentów,
- stworzenie narzędzia analizującego strony internetowe pod kątem manipulacyjnych elementów,
- lepsze zrozumienie mechanizmów stosowanych w projektowaniu interfejsów sprzedażowych.
Analiza setek stron internetowych
Pierwsza faza projektu polegała na szczegółowej analizie rynku. Eksperci UOKiK przeanalizowali ponad 300 stron internetowych, głównie z sektora e-commerce, aby zidentyfikować najczęściej stosowane techniki manipulacyjne.
Na podstawie tej analizy powstał zbiór danych wykorzystywany do trenowania narzędzia AI. Równolegle przeanalizowano także skargi konsumentów, co pozwoliło wskazać branże szczególnie podatne na stosowanie dark patterns.
Dodatkowo eksperci przeprowadzili analizę kodu źródłowego 100 stron internetowych, które wcześniej zidentyfikowano jako stosujące manipulacyjne rozwiązania. W kodzie wyodrębniono fragmenty odpowiedzialne za funkcjonowanie poszczególnych elementów interfejsu, takich jak liczniki czasu czy domyślne zaznaczanie opcji dodatkowych.
Zebrane dane posłużyły jako materiał treningowy dla algorytmów sztucznej inteligencji.
Badania neuromarketingowe
Projekt obejmował również badania nad reakcjami użytkowników na manipulacyjne komunikaty marketingowe. W eksperymentach wykorzystano metody neuromarketingowe, takie jak:
- eye tracking, czyli śledzenie ruchu gałek ocznych,
- facial tracking, analizujący reakcje emocjonalne na twarzy użytkownika,
- EEG (elektroencefalografia), mierząca aktywność mózgu.
Dzięki temu możliwe było zbadanie, które elementy interfejsu najbardziej przyciągają uwagę użytkowników oraz jakie emocje wywołują określone komunikaty sprzedażowe.
Badania uzupełniono ankietą internetową, w której uczestnicy podejmowali decyzje zakupowe w symulowanych scenariuszach zakupowych.
Zakupy online pod presją
Z badań UOKiK wynika, że zakupy w internecie są bardzo powszechne w Polsce. Aż 69 proc. osób w wieku 18–65 lat dokonuje zakupów online co najmniej kilka razy w miesiącu, a 15 proc. robi to nawet kilka razy w tygodniu.
Najczęściej wskazywanymi powodami zakupów internetowych są:
- wygoda (72 proc.),
- oszczędność czasu (68 proc.),
- możliwość znalezienia niższych cen (65 proc.).
Jednocześnie wyniki badań pokazują, że komunikaty wywołujące presję czasową mają istotny wpływ na decyzje zakupowe. Ponad połowa respondentów przyznała, że zdarzyło im się kupić produkt pod wpływem informacji o kończącej się promocji.
Konkretnie:
- 53 proc. badanych reaguje na komunikaty o kończącej się promocji,
- 51 proc. na informacje o ograniczonej dostępności produktu,
- 45 proc. na liczniki odliczające czas do końca oferty.
Testy narzędzia AI
W ramach projektu UOKiK testował różne rozwiązania technologiczne, w tym możliwości modeli językowych takich jak GPT-4 opracowany przez firmę OpenAI.
Testy pilotażowe pozwoliły stworzyć prototyp narzędzia AI, które:
- analizuje strukturę i układ stron internetowych,
- identyfikuje elementy manipulacyjne w interfejsach,
- sprawdza kod źródłowy witryn,
- wykorzystuje wyniki badań behawioralnych i neuromarketingowych.
Kolejna faza projektu koncentruje się na testowaniu narzędzia w praktyce oraz opracowaniu wytycznych dotyczących jego wykorzystania w działaniach nadzorczych.
Konferencja o ochronie konsumentów w erze AI
Jedną z okazji do prezentacji wyników projektu będzie konferencja „Protecting Consumers in the Digital Age: AI and Dark Pattern Detection”, która odbędzie się 17 marca w Bydgoszczy.
W wydarzeniu wezmą udział przedstawiciele instytucji współpracujących w ramach ICPEN. Spotkanie będzie poświęcone wymianie doświadczeń oraz dyskusji o tym, jak organy ochrony konsumentów mogą przygotować się na coraz większe wykorzystanie sztucznej inteligencji w gospodarce cyfrowej.
AI jako narzędzie wspierające nadzór
Zdaniem prezesa UOKiK sztuczna inteligencja nie zastąpi instytucji publicznych w egzekwowaniu prawa, ale może znacząco zwiększyć skuteczność działań nadzorczych.
– Skuteczna ochrona konsumentów w erze cyfrowej wymaga połączenia wiedzy prawnej, psychologii decyzji, analizy danych i nowoczesnych technologii. AI nie zastąpi organów ochrony konsumentów, ale może stać się ważnym narzędziem w walce z manipulacyjnym designem – podkreśla Tomasz Chróstny.
Rozwój narzędzi opartych na sztucznej inteligencji może w przyszłości umożliwić automatyczne monitorowanie tysięcy stron internetowych oraz szybsze wykrywanie nieuczciwych praktyk w handlu online. Wraz z rosnącą skalą e-commerce takie rozwiązania stają się coraz ważniejszym elementem systemu ochrony konsumentów.












