Нейросеть YouTube нашла расизм в видео и комментариях, посвящённых шахматам.

Антонио Радич — владелец канала, посвящённого шахматам, с более чем миллионом подписчиков, в прямом эфире брал интервью у гроссмейстера Хикару Накамуры, когда трансляция внезапно прервалась. Её удалили, а канал заблокировали за «вредное и опасное содержимое».

В ходе последующего тестирования обнаружилось, что нейросеть, обученная на языковой модели Google, считает фразу «белые жестоко атакуют чёрных и топчут их оборону» выражением ненависти с вероятностью ~60%.