TikTok zwalnia moderatorów treści. Zastąpi ich sztuczna inteligencja

Zespół „Trust and Safety” w Berlinie, liczący ok. 150 osób, odpowiadał za usuwanie treści zawierających m.in. przemoc, pornografię, mowę nienawiści i dezinformację. Moderowano materiały w wielu językach, w tym niderlandzkim - informują produkujący programy w tym języku flamandzki nadawca VRT i „The Brussels Times”. Chiński koncern ByteDance, do którego należy TikTok, zapowiedział, że dalsza moderacja będzie realizowana przez zewnętrzne firmy, wspierane przez sztuczną inteligencję.

Zobacz: TikTok Pro w Europie. Czym różni się od klasycznej aplikacji?

Zwolnienia w TikToku

17 lipca br. w Berlinie około 50 osób protestowało przeciw planom TikToka, trzymając banery z napisem „Wytrenowaliśmy wasze maszyny – zapłaćcie nam, na co zasługujemy”. Niemiecki związek zawodowy reprezentujący pracowników sektora usług Ver.di zapowiedział dalsze działania, jeśli firma nie wycofa się z planowanych zwolnień.

Związki zawodowe ostrzegają, że AI potrafi błędnie klasyfikować nawet niewinne treści – np. tęczowe flagi – jako politycznie kontrowersyjne. „To niebezpieczne. Nie można moderacji oddać w pełni algorytmom” – powiedziała Sara Tegge, jedna ze zwolnionych moderatorek, cytowana przez agencję AFP.

Według informacji VRT w berlińskim biurze TikToka pracowało 11 moderatorów odpowiedzialnych za język niderlandzki. Jeden z nich, cytowany anonimowo, ostrzega: „Już teraz często reagujemy za późno na niebezpieczne trendy, bo jesteśmy zbyt małym zespołem. Zastąpienie nas przez AI tylko pogorszy sytuację. Aplikacja stanie się mniej bezpieczna”.

Zobacz: Rodzice sprawdzą, co nastolatki robią na TikToku. Platforma z nowymi opcjami

AI dobrze zastąpi człowieka? 

Eksperci również podchodzą do decyzji krytycznie. „AI nie potrafi rozpoznać subtelnych form mowy nienawiści ukrytej w emoji, kodach czy muzyce. Tylko człowiek ma ten kontekst” – powiedział na antenie VRT Radio 1 specjalista ds. AI Olivier Cauberghs. Jego zdaniem zwolnienia moderatorów wpisują się w globalny trend wycofywania się platform z inwestycji w ręczną moderację, co może prowadzić do wzrostu liczby treści nielegalnych lub nieodpowiednich.

W zeszłym roku TikTok zwolnił cały zespół moderatorów treści w Amsterdamie, obejmujący około 300 osób. Zespół odpowiadał za weryfikację treści w językach: niderlandzkim, angielskim i włoskim.TikTok utrzymuje, że większość treści naruszających regulamin (np. związanych z przemocą) jest już usuwana dzięki AI. Jednocześnie firma zapewnia, że ręczna moderacja będzie kontynuowana w Europie, ale realizowana przez podwykonawców.