Стример HoldMyDualShock столкнулся с несовершенством алгоритма YouTube на основе ИИ, который выполняет роль модератора. Об этом он рассказал на своей странице в X.
HoldMyDualShock вёл эфир, на котором обсуждал новости поп-культуры и кино. В какой-то момент его трансляция прервалась, и зрители оповестили его об этом в X, параллельно пытаясь узнать причину. Выяснилось, что стрим был отключён из-за ИИ-модератора, который принял микрофон контент-мейкера за огнестрельное оружие. В сообщении от администрации сервиса HoldMyDualShock также предупредили, что следующее нарушение может привести к удалению аккаунта и бессрочной блокировке.
Эпизод с HoldMyDualShock — не единственный, когда блогеры жаловались на модерацию с помощью искусственного интеллекта на YouTube. Однако представители платформы отметили, что не собираются отказываться от алгоритма. В частности, генеральный директор YouTube Нил Мохан заявил, что «искусственный интеллект позволит лучше и точнее выявлять и пресекать противоправный контент, а также справляться с масштабными нарушениями».