Искусственный интеллект YouTube «отыскал» в Pokémon GO эротический контент

Ряд ведущих популярных YouTube -каналов пострадал от чрезмерно трудолюбивого, но при этом не слишком образованного искусственного интеллекта. Mystic7, Trainer Tips, Marksman и другие увидели, что их ролики о Pokémon GO удалены, а некоторые ведущие лишились своих каналов и даже аккаунтов. Виной тому оказалась аббревиатура CP.

Так, мой канал только что закрыли за нарушение правил сообщества в отношении «сексуального контента». YouTube, это ты о покемонах или о чём-то ещё?

В Pokémon GO буквами СР обозначают боевые очки, Combat Points. Зачастую это сочетание используется и в других случаях. Так, ютубер Billiam объяснил, что так сократил название игры Club Penguin , выпущенной Disney. Но искусственный интеллект расшифровал аббревиатуру как child pornography, «детская порнография». Соответственно, все ролики, обучающие быстрому набору опыта в Pokémon GO или рассказывающие о детской многопользовательской игре, автоматически превратились в запрещённый контент.

Если кто-то из команды YouTube делает заметки о сегодняшнем провале, CP означает Combat Points. Я сам против неприемлемого контента, но ваш алгоритм надо научить понимать КОНТЕКСТ. И ещё раз повторяю, до того как удалять аккаунты, надо проверять всё ВРУЧНУЮ

После того как пострадавшие обратились к команде YouTube, справедливость восторжествовала. Но владельцам каналов приходится быть осторожными с тегами и заголовками, ведь никому не известно, на какие ещё буквосочетания натренирован модераторский алгоритм YouTube.