UOKiK pracuje nad wykorzystaniem AI do walki z dark patterns

• Sztuczna inteligencja pomoże UOKiK w walce z nieuczciwymi praktykami.
• Rozwijamy projekt dotyczący wykorzystania AI do wykrywania dark patterns. Powstają również zasady korzystania z AI w ochronie konsumentów.
• Swoimi doświadczeniami w tym zakresie podzielimy się z przedstawicielami organów współpracujących w ramach Międzynarodowej Sieci Ochrony Konsumentów (ICPEN).

Automatyczne dodawanie produktów do koszyka, domyślne zaznaczanie dodatkowo płatnych usług. Ponaglające liczniki czasu i komunikaty sugerujące, że promocja zaraz się skończy, albo produkt wyprzeda. Presja szybkiego zakupu. Do tego mechanizmy, w których włączenie subskrypcji jest bardzo proste, ale rezygnacja z niej celowo utrudniona. Krzyczące kolorami przyciski "Kup", "Zamów", "Dodaj" przy ledwo widocznym "Zrezygnuj". Opcje wyboru nazwane tak, by nie być do końca pewnym, na co się decydujemy i w którym momencie procesu zakupowego jesteśmy. Darmowe okresy próbne niepostrzeżenie zmieniające się w płatne subskrypcje. Wszystko okraszone emocjonalnymi komunikatami, zawstydzającymi użytkownika, jeśli nie zdecyduje się na ofertę. Ta wyliczanka niestety nie wyczerpuje zbioru manipulacyjnych technik stosowanych w handlu internetowym - tzw. dark patterns.

Sztuczna inteligencja w służbie konsumentów

Skuteczność dark patterns ma swoje źródło w podstawowych mechanizmach ludzkiej psychiki - w tym jak przetwarzamy dane i podejmujemy decyzje. Słowo klucz to heurystyki, czyli uproszczone zasady podejmowania decyzji w warunkach niepewności lub ograniczonego czasu. Choć pozwalają podejmować, szybko i niewielkim kosztem, zazwyczaj trafne decyzje, to w kontekście dark patterns stają się narzędziem manipulacji. Wynikiem heurystycznego "myślenia na skróty" są błędy poznawcze, które z kolei prowadzą do błędnych decyzji zakupowych.

Projektanci interfejsów e-commerce wykorzystują tę wiedzę podstępnie i z premedytacją, a techniki manipulacji bardzo szybko ewoluują. Wymaga to adekwatnej, technologicznej odpowiedzi ze strony organów ochrony konsumentów takich jak Prezes UOKiK. Szansę na dotrzymanie kroku dynamicznie rozwijającemu się rynkowi daje sztuczna inteligencja.

- Rynek cyfrowy rozwija się szybciej niż tradycyjne narzędzia nadzorcze. Dlatego musimy sięgać po nowe technologie, aby skutecznie chronić konsumentów. Zwłaszcza, że sektor e-commerce już dziś bez oporów korzysta z zaawansowanych technologii, w tym AI, aby wyszukiwać psychologiczne słabości konsumentów i wykorzystywać je przy projektowaniu interfejsów - podkreśla Prezes UOKiK Tomasz Chróstny.

W 2023 r. UOKiK rozpoczął realizację finansowanego ze środków UE projektu "Wykrywanie i zwalczanie dark patterns za pomocą sztucznej inteligencji" (Detecting and combating dark patterns with Artificial Intelligence). Cel to wypracowanie standardów skutecznego wykorzystania sztucznej inteligencji oraz stworzenie narzędzia AI do wykrywania zwodniczych interfejsów.

Podstawa - dobrze poznać wroga i pole bitwy

W pierwszej fazie projektu zespół UOKiK przeanalizował ponad 300 stron internetowych, głównie z sektora e-commerce, aby rozpoznać najczęściej stosowane dark patterns. Na tej podstawie powstały pierwsze dane do trenowania projektowanego narzędzia AI. Równolegle urząd przeanalizował także skargi konsumentów, co pomogło wskazać sektory, w których takie praktyki pojawiają się najczęściej. Jednocześnie eksperci przeanalizowali kod źródłowy 100 stron internetowych oznaczonych jako stosujące dark patterns, wyodrębniając fragmenty kodu odpowiedzialne za manipulacyjne elementy interfejsu, aby służyły jako dodatkowe dane treningowe dla sztucznej inteligencji.

Do pogłębienia analizy posłużyły eksperymenty neuromarketingowe, w których zbadano fizyczne reakcje na bodźce marketingowe przy pomocy technik eye tracking (monitorowanie uwagi wizualnej) i facial tracking (analiza reakcji emocjonalnych) oraz elektroencefalografii (EEG) do pomiaru aktywności mózgu. Całość uzupełniło badanie ankietowe online symulujące realne scenariusze zakupowe.

Zakupy pod presją ciemny wzorców

Aż 69 proc. Polaków w wieku 18-65 lat kupuje w internecie co najmniej kilka razy w miesiącu - co siódma osoba (15 proc.) nawet kilka razy w tygodniu. Najczęściej robią to dla wygody (72 proc.), oszczędności czasu (68 proc.) i pieniędzy (65 proc.). Wynika z badań UOKiK.

Biorąc to pod uwagę, nie dziwi fakt, że największy wpływ na decyzje zakupowe mają komunikaty wywołujące poczucie presji czasowej. Ponad połowa (53 proc.) badanych zadeklarowała, że zdarzyło im się kupić produkt pod wpływem informacji o kończącej się promocji, 51 proc. wskazało na informacje o ograniczonej dostępności produktu, a 45 proc. na licznik odmierzający czas do końca promocji.

Od prototypu do praktyki

W poszukiwaniu rozwiązań AI, UOKiK testował możliwości modelu GPT-4 od OpenAI pod kątem wykrywania dark patterns, opierając się na wypracowanych wytycznych. Wyniki testów pilotażowych pomogły stworzyć narzędzie AI, które analizuje układy stron, wykorzystuje wnioski z badań neuromarketingowych i behawioralnych oraz sprawdza kod źródłowy. Kolejna faza projektu skupia się na testowaniu i prezentacji narzędzia oraz na przygotowaniu wytycznych jak wykorzystywać AI w działaniach UOKiK.

Najbliższą okazją do wymiany doświadczeń i dyskusji nad tym, jak organy ochrony konsumentów mogą przygotować się do wdrażania narzędzi opartych na sztucznej inteligencji, będzie konferencja "Protecting Consumers in the Digital Age: AI and Dark Pattern Detection", która odbędzie się 17 marca br. w Bydgoszczy. Uczestnikami będą przedstawiciele organów współpracujących w ramach Międzynarodowej Sieci Ochrony Konkurencji i Konsumentów (ICPEN).

- Skuteczna ochrona konsumentów w erze cyfrowej wymaga połączenia wiedzy prawnej, psychologii decyzji, analizy danych i nowoczesnych technologii. AI nie zastąpi ani nie wyręczy nas w roli strażnika praw konsumentów w cyfrowym świecie, ale może stać się naszą bronią w walce z manipulacyjnym designem - zaznacza Prezes UOKiK.

Tego, jak rozpoznać dark patterns i jak sobie radzić ze zwodniczymi interfejsami, dowiesz się z poradnika "Nie klikaj w ciemno!"

Pliki do pobrania