Канал Chess YouTuber хорватского шахматиста Антонио Радича был заблокирован за «вредоносный контент», как обычно, без объяснения причин. Правда, через 24 часа сервис был восстановлен.
Канал Радича, у которого более миллиона подписчиков, считается самой популярным шахматным каналом на YouTube. Карантинные меры в связи с COVID-19 вообще вызвала вспышку интереса к шахматам: с марта 2020 года сервер и социальная сеть Chess.com добавляли около 2 миллионов новых участников в месяц.
Поскольку YouTube держит в секрете свои алгоритмы, компьютерщики из Carnegie Mellon University решили самостоятельно выяснить причины блокировки. Сопоставив время блокировки с размещением контекста на канале, они предположили, что обсуждение Радичем «черного против белого» с Хикару Накамурой, самым молодым американцем, получившим титул гроссмейстера, случайно активировало фильтры искусственного интеллекта YouTube.
Запустив моделирование с помощью программного обеспечения, обученного обнаруживать «язык вражды», команда обнаружила, что из более чем 680 000 комментариев, взятых с пяти популярных шахматных каналов YouTube, 82% были отмечены как как «разжигающие ненависть», поскольку содержали термины «черный», «белый», «атака» и «угроза».
Исследователи сообщили о полученных результатах на ежегодной конференции Ассоциации содействия развитию ИИ, и предложили платформе включать шахматный язык в свои алгоритмы, чтобы предотвратить дальнейшую путаницу. При этом они подчеркнули, что если кого-то, столь известного, как Радич, ошибочно блокируют, «это вполне может происходить незаметно для многих других людей, которые не так хорошо известны».
Администрация YouTube воздержалась от комментариев.
А тем временем искусственный интеллект учится манипулировать людьми.
По материалам Daily mail
Читайте также:
Искусственный интеллект определяет тип личности по селфи
В Израиле искусственный интеллект будет работать пляжным спасателем