Диктатура толерантности: почему шахматы стали расистской игрой, и при чем тут искусственный интеллект

На минувшей неделе в медиа пространстве передовых стран неожиданно столкнулись две модные темы — расизм и искусственный интеллект. Британская газета Independent опубликовала предположительную причину блокировки сервисом YouTube самого популярного шахматного канала планеты, который ведет хорватский гроссмейстер Антонио Радич.

Во время игры с японским гроссмейстером YouTube внезапно заблокировал канал без всяких объяснений — и так же без объяснений вернул его на место спустя сутки. Сам Радич выдвинул смелую версию: на волне Black Lives Matter (BLM) его канал, постоянно твердящий «белые против черных!», «белые переходят в атаку!», «позиция черных слаба», «черные создают реальную угрозу» и тому подобное — был неверно понят алгоритмом искусственного интеллекта, работающего на YouTube роботом-полицейским.

Чтобы проверить эту версию, исследователь университета Карнеги-Мэллоун применил ИИ-классификатор к репликам, собранным на пяти популярных шахматных каналах. И точно: проверив вручную тысячу комментариев, ученый обнаружил, что 82% из них были ошибочно обозначены искусственным интеллектом как расистские и содержащие хейт-спич.

Впрочем, у самого искусственного интеллекта в передовом мире сейчас тоже проблемы. Прогрессивное американское издание Vice опубликовало текст об исследовании, согласно которому системы искусственного интеллекта, генерирующие изображения людей, сами пронизаны расизмом и сексизмом. В частности, они склонны изображать женщин в более сексуально привлекательном виде, то есть в топиках и юбочках, в то время как мужчин — в одежде, подчеркивающей их профессиональную принадлежность.

Но и это еще не все: изображая преступников, искусственный интеллект склонен чаще делать их лица более смуглыми — в то время как чиновников и прочую положительную в западном мире публику, вплоть до экс-президента США Обамы, он, напротив, склонен высветлять. Более того: алгоритмы по автоматическому распознаванию лиц, возможно, уже сейчас более пристально следят за темнокожими, чем за белыми.

Вывод очевиден: при лабораториях, которые сейчас занимаются системами искусственного интеллекта, очень скоро должны появиться специальные комиссии по деколонизации. То есть, они будут перевоспитывать как самих ученых (ну, так уж получилось, что они — в основном белые гетеросексуальные мужчины), так и обучаемых ими роботов.

Фокус, однако, в том, что реальность — та, которая у американцев за окном — подтверждает, что представители расовых меньшинств действительно чаще совершают преступления, что женщины чаще стремятся выглядеть красивей, а мужчины профессиональней, чем наоборот.

Так что мы понятия не имеем, что будет с передовыми странами после того, как их системы искусственного интеллекта станут еще и идеологизированными. И как быстро какой-нибудь робот-полицейский однажды откажется следить за очередным подозреваемым, потому что окажется, что квота на смуглых подозреваемых в этом месяце уже выбрана и выполнять свои обязанности дальше — это уже расизм.

И кстати, интересно — как быстро какой-нибудь YouTube начнет репрессировать российских пользователей на том основании, что в их сюжетах мало негров и секс-меньшинств?». Это, кстати, еще один повод не полагаться на импорт и как можно скорее создавать собственные аналоги всех этих сервисов. Нам и без роботов-комиссаров забот хватает.