Jigsaw, podmiot należący do Google, który odpowiada za prognozowanie pojawiających się zagrożeń w sferze cyfrowej i przeciwdziałanie takim zagrożeniom, ogłosił, że Perspective, darmowy interfejs API na licencji Open Source, który stosuje uczenie maszynowe do wykrywania toksycznych komentarzy, obecnie przetwarza 500 milionów zgłoszeń dziennie i w wymierny sposób ogranicza toksyczność treści w celu ulepszenia komunikacji w sieci na szeroką skalę. W trzecim wydaniu czasopisma online „The Current”, opublikowanym dzisiaj, szczegółowo omówiono kwestię nieustannej i wyniszczającej toksyczności w Internecie oraz rolę, jaką narzędzia uczenia maszynowego, takie jak Perspective, mogą odegrać w jej zredukowaniu.
Uruchomiony w 2017 roku w celu zwalczania toksycznych treści w Internecie i nękania, Perspective ocenia komentarze w oparciu o ich przewidywany wpływ na rozmowę i pomaga platformom internetowym w utrzymywaniu sekcji komentarzy, jako przestrzeni do ciekawych i produktywnych rozmów.
„Toksyczność w internecie jest wszechobecnym problemem, który niewspółmiernie wpływa na marginalizowane grupy, zagraża niezależnemu dziennikarstwu i wypiera wolność wyrazu i zdrową komunikację – powiedział Jared Cohen, dyrektor generalny Jigsaw. – Nasi partnerzy zauważyli wymierne obniżenie toksyczności na swoich platformach, co pozwala im na stworzenie bezpieczniejszej przestrzeni wymiany poglądów przez użytkowników. Angażujemy się we współpracę z partnerami i instytucjami naukowymi w celu nieustannego trenowania naszych modeli, co pozwala na jeszcze lepszą identyfikację toksyczności i równoczesne minimalizowanie stronniczości oraz wspieranie zdrowej komunikacji”.
Jigsaw zbudował Perspective z wykorzystaniem modeli opracowanych przy współpracy z zespołem Counter Abuse Technology w Google i obecnie umożliwia różnorodnym platformom tworzenie bezpiecznej przestrzeni dialogu, przy zastosowaniu wielu funkcji:
Informacja dla komentujących: Perspective może przekazywać komentującym informacje zwrotne dotyczące potencjalnej toksyczności ich treści w czasie rzeczywistym, co wywołuje znaczące rezultaty:
Coral by Vox Media, wiodące forum dyskusyjne wykorzystywane przez przedstawicieli świata mediów na całym świecie, stosuje tę funkcję w celu umożliwienia komentującym zmianę sformułowania ich treści przed publikacją. Kontrolowane badanie przeprowadzone przez McClatchy wykazało, że 40 procent użytkowników zmieniło swoje komentarze w odpowiedzi na informację zwrotną;
OpenWeb, wiodąca platforma społecznościowa skierowana do odbiorców publikowanych treści, którą odwiedza ponad 100 milionów aktywnych użytkowników miesięcznie, zastosowała tę funkcję po przeprowadzeniu badania OpenWeb, w ramach większego badania Jigsaw, które wykazało, ze spośród wszystkich komentujących, którzy zmienili formę językową komentarza, 44,7 % komentujących zastąpiło lub usunęło obraźliwe zwroty, a 7,6 % zdecydowało się na całkowite przeredagowanie swoich komentarzy.
Wsparcie moderatorów: Perspective również służy jako wsparcie dla moderatorów w wydajniejszej pracy i obniżeniu toksyczności na ich platformach:
„The New York Times” opracował narzędzie Moderator wykorzystujące Perspective do priorytetowego traktowania komentarzy przesłanych do moderacji przez człowieka i zatwierdzania tych, które najprawdopodobniej pomyślnie przejdą weryfikację przeprowadzoną przez człowieka. Stosując Perspective, The Times zwiększył liczbę artykułów, które mogły być otwarte dla komentujących, co pozwala na dostarczenie czytelnikom szerszego i bardziej zróżnicowanego wyboru artykułów z otwartą sekcją komentarzy;
FACEIT, jedna z największych platform gamingowych w Europie, stosuję ocenę toksyczności Perspective do udzielania ostrzeżeń i blokowania dostępu użytkownikom, którzy mogą zwrócić się do moderatora o ostateczną weryfikację decyzji. Na skutek tej moderacji w czasie rzeczywistym, FACEIT odnotował obniżenie liczby nieodpowiednich komentarzy o 20 procent;
Cofina, portugalska spółka medialna, była w stanie ograniczyć moderację przez człowieka o 60 %, oszczędzając swojemu zespołowi co najmniej 2 godziny dziennie pracy po zintegrowaniu Perspective z ich systemem CMS w celu moderacji komentarzy w ich dziennikach sportowych i finansowych.
„API Perspective ogromnie poprawił nasze możliwości wykrywania toksycznych treści w komentarzach. Sprawiło to, że działania naszych moderatorów są bardziej skuteczne i wydajne, a od wdrożenia tego narzędzia, mogliśmy zwiększyć liczbę artykułów z możliwością komentowania o około jedną trzecią” – Marcia Loughran, Community Editor, „The New York Times”.
„Praca z Perspective umożliwiła nam promowanie pozytywnych interakcji pomiędzy setkami dynamicznych i zaangażowanych społeczności i dziesiątkami milionów użytkowników. Rozwiązania są eleganckie i bezproblemowe oraz wspierają naszą wizję wyższej jakości zaangażowania i ograniczenia toksyczności” – Nadav Shoval, dyrektor generalny i współzałożyciel OpenWeb.
„W Coral skupiamy się na ułatwieniu i przyspieszeniu podstawowych działań moderatorów. Perspective pomaga nam poprzez identyfikację komentarzy w kilku językach, które wymagają podjęcia bezzwłocznych działań. Współpraca z zespołem Perspective w realizacji tej misji układa się świetnie” – Andrew Losowsky, dyrektor Coral by VoxMedia.
„Zintegrowaliśmy Perspective z naszym systemem CMS w celu moderowania komentarzy w naszych dziennikach sportowych i finansowych. Obniżyliśmy moderację przez człowieka o 60 %. Oszczędzamy co najmniej dwie godziny dziennie i jesteśmy bardzo zadowoleni z wyników. Poprawiło to również jakość komentarzy na naszych stronach internetowych i zaangażowanie użytkowników” – Nuno Alves, dyrektor ds. technicznych online, Cofina Media.
„W FACEIT realizujemy misję bezpośredniego rozwiązywania problemu toksyczności i nękania w świecie gier. Z naszą rozrastającą i zmieniającą się społecznością graczy, musieliśmy zbudować skuteczne rozwiązania, stosowane na szeroką skalę. Perspective dostarczył nam doskonałego modelu toksyczności, który zastosowaliśmy jako podstawę do stworzenia naszego silnika przeznaczonego do przeciwdziałania toksyczności” – Maria Laura Scuri, dyrektor ds. analityki biznesowej, FACEIT.
Poprzez partnerstwa, Jigsaw wytrenował Perspective w nowych językach, stawiając ten model uczenia maszynowego na lepszej pozycji do poprawy komunikacji online na skalę światową – jest obecnie dostępny w języku angielskim, francuskim, hiszpańskim, niemieckim, włoskim i portugalskim. Partnerzy Perspective to, m.in, El Pais, Le Monde, Cofina i wielu innych wydawców, którzy rozumieją znaczenie dobrej jakości komunikacji na swoich platformach, w różnych językach.
Jigsaw również nieustannie współpracuje z partnerami w celu opracowania sposobów na niwelowanie stronniczości w uczeniu maszynowym. Dodatkowe informacje na temat ostatnich badań Jigsaw znajdują się tutaj.
Dodatkowe informacje na temat Perspective i możliwości wypróbowania tego narzędzia znajdują się w trzecim wydaniu The Current.
Jigsaw
Jigsaw jest podmiotem należącym do Google, który prognozuje pojawiające się zagrożenia i im przeciwdziała, tworząc definiujące naszą przyszłość badania i technologie, ukierunkowane na poprawę bezpieczeństwa naszego świata.
