CGD - Crypto Government Department logo CGD - Crypto Government Department logo
Forklog 2025-08-25 15:13:37

Модераторы контента заявили о 80% ошибок ИИ-систем

Искусственный интеллект усложняет, а не упрощает работу модераторов контента. Он не может надежно распознавать жестокость и зло, пишет Bloomberg со ссылкой на 13 профессиональных фильтраторов онлайн-материалов. Один из сотрудников TikTok под псевдонимом Кевин заявил, что более года назад ему поручили использовать ИИ-программу в своей работе. Он оценил количество ошибок примерно в 70%. Например, искусственный интеллект может сообщить о низком уровне топлива на приборной панели автомобиля на видео, хотя должен проанализировать спидометр, показывающий 200 км/ч. Кевин считает, что, несмотря на возникающие трудности, работодатели продолжат заменять людей машинами. Профессиональные модераторы подтвердили утверждение — ИИ начинают применять быстрее, чем он учится качественно отсеивать вредоносный контент. Эксперты опасаются возникновения контролируемой искусственным интеллектом интернет-среды, в которой ненависть, пропаганда, совращение детей и другие формы онлайн-угроз будут свободно распространяться. «Если встать на путь внедрения ИИ, чтобы сократить количество специалистов по безопасности, это приведет к ее снижению. Нужны живые люди», — заявил директор по технологиям Канадского центра защиты детей Ллойд Ричардсон. Работа модератора контента наносит эмоциональные травмы, а наем достаточного количества людей — сложная задача. Пользователи только на YouTube загружают более 20 млн видео в день. Компании делают ставку на искусственный интеллект, однако он лишь мешает. Из 13 модераторов, с которыми поговорили журналисты Bloomberg, 12 заявили об усложнении работы после интеграции нейросетей. «Мы не можем полагаться на подсказки ИИ. В 80% случаев он ошибается. Мы даже не смотрим на его предложения», — заявила 36-летняя сотрудница казахстанской фирмы по модерации контента Жанерке Каиденова. Кевин тратит время на исправление ошибок, вручную проставляя сверхточные метки для всего увиденного. Эта работа только увеличивает нагрузку и отнимает время, которое можно было бы потратить на более срочные задачи. Он уверен, что его дотошные исправления фактически обучают систему, и в итоге она заменит его, хотя руководство прямо об этом не говорит. Напомним, в мае 2024 года Reddit объявила о партнерстве с OpenAI, которое предоставило реддиторам и модераторам новые функции на базе ИИ.

Διαβάστε την Αποποίηση Ευθυνών : Όλο το περιεχόμενο που παρέχεται εδώ στον ιστότοπό μας, τους υπερσυνδεδεμένους ιστότοπους, τις σχετικές εφαρμογές, τα φόρουμ, τα ιστολόγια, τους λογαριασμούς κοινωνικών μέσων και άλλες πλατφόρμες (“Site”) προορίζεται μόνο για τις γενικές πληροφορίες σας, που προέρχονται από τρίτες πηγές. Δεν κάνουμε καμία εγγύηση οποιουδήποτε είδους σε σχέση με το περιεχόμενό μας, συμπεριλαμβανομένης ενδεικτικά της ακρίβειας και της ενημέρωσης. Κανένα μέρος του περιεχομένου που παρέχουμε δεν αποτελεί οικονομική συμβουλή, νομική συμβουλή ή οποιαδήποτε άλλη μορφή συμβουλών που προορίζεται για τη συγκεκριμένη εμπιστοσύνη σας για οποιονδήποτε σκοπό. Οποιαδήποτε χρήση ή εξάρτηση από το περιεχόμενό μας είναι αποκλειστικά με δική σας ευθύνη και διακριτική ευχέρεια. Πρέπει να πραγματοποιήσετε τη δική σας έρευνα, να ελέγξετε, να αναλύσετε και να επαληθεύσετε το περιεχόμενό μας προτού βασιστείτε σε αυτά. Η διαπραγμάτευση είναι μια εξαιρετικά επικίνδυνη δραστηριότητα που μπορεί να οδηγήσει σε μεγάλες απώλειες, επομένως συμβουλευτείτε τον οικονομικό σας σύμβουλο πριν λάβετε οποιαδήποτε απόφαση. Κανένα περιεχόμενο στον ιστότοπό μας δεν προορίζεται να είναι παράκληση ή προσφορά