Chatbot AI Grok, rozwijany przez firmę xAI Elona Muska, po tym jak udostępnił usługę generowania seksualnych deepfak’ów (roznegliżowanych zdjęć osób) na platformie X, znalazł się w centrum międzynarodowego skandalu. Eksperci Check Point alarmują – należy zamknąć lukę na poziomie modelu, aby polecenia i edycje prowadzące do sztucznego „rozbierania” użytkowników były blokowane.
W opinii ekspertów firmy Check Point, platformy powinny traktować ten problem jak incydent bezpieczeństwa i usuwać lukę na poziomie samego modelu, aby wykluczyć możliwość zniekształcania rzeczywistości jako treści seksualnych. Zwracają jednocześnie uwagę na fakt, iż brak międzynarodowych traktatów i wspólnych regulacji dotyczących AI sprawia, że platformy takie jak X starają się unikać odpowiedzialności. – Częściowe ograniczenia nie uchronią ofiar, których wizerunki zostały już stworzone, udostępnione i zapisane – podkreśla Charlotte Wilson z firmy Check Point.
Podobne stanowisko prezentuje rząd RP. – Niekontrolowana AI szaleje i wyrządza coraz większe szkody. Grok znów, z inspiracji Elona Muska testuje, jakie granice może przekroczyć…. Nie ma zgody na bezkarne łamanie prawa i tworzenie przez AI treści nielegalnych, niszczących ludzi i psychikę — zauważył Minister cyfryzacji Krzysztof Gawkowski we wpisie na platformie X.
– Powiedzmy to jasno, to że system, który obraża, promuje treści seksualne i narusza godność to wina zarządzania oraz braku zasad etycznych platformy — dodaje minister.
Skala problemu wywołała zdecydowaną reakcję władz na całym świecie. Unia Europejska określiła zachowanie Groka jako „nielegalne” i „odpychające”. O dochodzeniach mówili również urzędnicy we Francji, Indiach i Malezji.
Grok został uruchomiony w 2023 roku jako „ostrzejsza” alternatywa dla konkurencyjnych chatbotów, które posiadają więcej zabezpieczeń. Latem ubiegłego roku dodano funkcję generatora obrazów – Grok Imagine – wyposażono w tzw. „spicy mode”, umożliwiający tworzenie treści dla dorosłych. To właśnie ten element, w połączeniu z publiczną widocznością generowanych obrazów, sprawił, że kontrowersyjne treści mogły szybko rozprzestrzeniać się w internecie. W odpowiedzi na falę oburzenia i krytyki, Grok zaczął ograniczać możliwość generowania i edytowania obrazów dla większości użytkowników (dostępne obecnie dla do płacących subskrybentów).
Eksperci jednak zauważyli, że Grok przez ostatnie tygodnie spełniał liczne, potencjalnie złośliwe prośby użytkowników – od „ubierania” kobiet w bikini po umieszczanie ich w jednoznacznie seksualnych pozach. W kilku przypadkach pojawiły się poważne obawy, że wygenerowane obrazy mogą dotyczyć dzieci.
Przyszłość Groka pod znakiem zapytania
Skandal wokół Groka pokazuje, jak cienka jest granica między innowacją a odpowiedzialnością. Publiczna widoczność treści, „odważne” podejście do ‘’niezależności treści’’ i niewystarczające zabezpieczenia sprawiły, że chatbot Muska stał się symbolem problemów, z jakimi mierzy się dziś branża AI. Pytanie nie brzmi już, czy potrzebne są regulacje – ale jak szybko i jak skutecznie zostaną wdrożone, zanim technologia wyrządzi kolejne szkody.
