Jak działa pilot moderacji na Twoich danych

Pilot to sprawdzenie na próbce Twoich treści, zanim cokolwiek wdrożysz na stałe. Dostajesz konkretny wynik na własnych danych, a nie obietnice.

Co przynosisz

Próbkę swoich treści, na przykład 1 000–10 000 ogłoszeń lub opinii. Jeśli masz historyczne decyzje moderatorów, przydadzą się do oceny zgodności i do dostrojenia modelu. Jeśli ich nie masz, zaczynamy od API i ustawiania progów.

Cztery kroki

1. Ustalamy zasady: co wolno, czego nie wolno i co ma trafić do człowieka.

2. Uruchamiamy system na próbce Twoich treści.

3. Przeglądamy razem przypadki graniczne i błędy.

4. Liczymy wynik i przygotowujemy raport.

Co mierzymy

Jaki odsetek treści trafia do ALLOW, REVIEW i BLOCK. Jak decyzje wypadają względem ocen Twoich moderatorów na tej samej próbce. Ile jest fałszywych alarmów (uczciwe treści zablokowane lub skierowane do przeglądu) i ile przeoczonych naruszeń. Ile pracy zostaje zespołowi w kolejce REVIEW.

Nie podajemy z góry liczb skuteczności ani oszczędności. Zależą od Twoich danych i zasad, dlatego robimy pilot.

Dane i prywatność

Gdzie przetwarzamy dane w pilocie, ustalamy na początku. Publicznej chmury użyjemy tylko wtedy, gdy się na to zgodzisz. Po wdrożeniu system może działać w Twoim środowisku. Zakres pilota i warunki ustalamy z Tobą przed startem.

Zobacz też