Брейга Адейемо, кандидат наук в области коммуникации, Иллинойский университет в Чикаго.
Маргинальные группы населения часто страдают от непреднамеренных последствий новых технологий. Например, алгоритмы, которые автоматически принимают решения о том, кто получит возможность видеть тот или иной контент или как интерпретировать изображения, страдают от расовых и гендерных предубеждений. Люди с несколькими маргинализированными идентичностями, например, чернокожие и инвалиды, подвергаются еще большему риску, чем люди с одной маргинализированной идентичностью.
Вот почему, когда Марк Цукерберг изложил свое видение метавселенной – сети виртуальных сред, в которых множество людей могут взаимодействовать друг с другом и цифровыми объектами, – и сказал, что это коснется каждого продукта, создаваемого компанией, мне стало страшно. Как исследователь, изучающий пересечения расы, технологий и демократии – и как чернокожая женщина – я считаю, что важно внимательно изучить ценности, которые кодируются в интернете нового поколения.
Проблемы уже всплывают на поверхность. Аватары, графические персоны, которые люди могут создавать или покупать для представления себя в виртуальной среде, имеют разную цену в зависимости от предполагаемой расовой принадлежности аватара, а расистские и сексистские притеснения появляются в современных иммерсивных средах до метавселенной.
Для того чтобы следующая итерация интернета была инклюзивной и работала для всех, необходимо, чтобы люди из маргинализированных сообществ играли ведущую роль в ее формировании. Кроме того, для того чтобы Большие технологии были подотчетны общественным интересам, необходимо регулирование с зубами. Без этого метавселенная рискует унаследовать проблемы сегодняшних социальных сетей, а то и стать чем-то худшим.
Утопические видения против суровой реальности
Утопические представления на заре развития Интернета обычно заключались в том, что жизнь в сети будет радикально отличаться от жизни в физическом мире. Например, люди представляли себе интернет как способ избежать части своей идентичности, такой как раса, пол и классовые различия. В действительности интернет далеко не безрасовый.
В то время как техноутопии рассказывают о желаемом видении будущего, реальность новых технологий часто не соответствует этим представлениям. На самом деле, интернет принес обществу новые формы вреда, такие как автоматическое распространение пропаганды в социальных сетях и предвзятость алгоритмов, которые формируют ваш опыт работы в сети.
Цукерберг описал метавселенную как более иммерсивный, воплощенный интернет, который “откроет множество удивительных новых возможностей”. Это видение не только будущего интернета, но и будущего образа жизни. Каким бы смещенным ни было это видение, метавселенная, как и предыдущие версии интернета и социальных сетей, вероятно, будет иметь широкомасштабные последствия, которые изменят то, как люди общаются, путешествуют, учатся, работают и играют.
Вопрос в том, будут ли эти последствия одинаковыми для всех? История подсказывает, что ответ отрицательный.
Технология никогда не бывает нейтральной
Широко используемые технологии часто по умолчанию предполагают личность и тело белого мужчины. Ученый-компьютерщик из Массачусетского технологического института Джой Буоломвини показала, что программное обеспечение для распознавания лиц хуже работает с женщинами, а тем более с женщинами с темным цветом лица. Это подтверждают и другие исследования.
Джой Буоломвини из MIT объясняет “закодированный взгляд”, приоритеты, предпочтения и предрассудки людей, формирующих технологии.
Белизна заложена в этих технологиях по умолчанию, даже при отсутствии расы как категории для алгоритмов машинного обучения. К сожалению, расизм и технологии часто идут рука об руку. Чернокожие женщины-политики и журналисты непропорционально часто становятся мишенью для оскорбительных или проблемных твитов, а чернокожие и латиноамериканские избиратели подвергались дезинформационным кампаниям в Интернете во время избирательного цикла 2020 года.
Эта историческая связь между расой и технологиями заставляет меня беспокоиться о метавселенной. Если метавселенная должна стать воплощенной версией интернета, как описал ее Цукерберг, то означает ли это, что уже маргинализированные люди будут испытывать новые формы вреда?
Facebook и его отношения с чернокожими людьми
Общие отношения между технологиями и расизмом – это только часть истории. Компания Meta имеет плохие отношения с чернокожими пользователями на своей платформе Facebook, и с чернокожими женщинами в частности.
В 2016 году репортеры ProPublica обнаружили, что рекламодатели на рекламном портале Facebook могут исключать группы людей, которые видят их рекламу, на основании расовой принадлежности пользователей или того, что Facebook называет “этнической близостью”. Эта опция вызвала большой резонанс, поскольку Facebook не спрашивает у своих пользователей их расовую принадлежность, что означает, что пользователям присваивается “этническая принадлежность” на основе их активности на платформе, например, какие страницы и посты им нравятся.
Другими словами, Facebook, по сути, составлял расовый профиль своих пользователей на основе того, что они делают и любят на своей платформе, создавая возможность для рекламодателей дискриминировать людей по расовому признаку. С тех пор Facebook обновила свои категории таргетинга рекламы и больше не включает “этническую принадлежность”.
Однако рекламодатели по-прежнему могут нацеливаться на людей на основе их предполагаемой расовой принадлежности через расовые прокси, которые используют комбинации интересов пользователей, чтобы сделать вывод о расовой принадлежности. Например, если рекламодатель видит из данных Facebook, что вы проявляете интерес к афроамериканской культуре и премии BET Awards, он может сделать вывод, что вы чернокожий, и предложить вам рекламу товаров, которые он хочет продать чернокожим.
Хуже того, Facebook часто удаляет комментарии чернокожих женщин, которые выступают против расизма и сексизма. По иронии судьбы, комментарии чернокожих женщин о расизме и сексизме подвергаются цензуре – в просторечии именуемой “get zucked” – за якобы нарушение политики Facebook против языка вражды. Это часть более широкой тенденции в рамках онлайн-платформ, когда чернокожих женщин наказывают за высказывание своих опасений и требование справедливости в цифровом пространстве.
Согласно недавнему отчету Washington Post, Facebook знал, что его алгоритм наносит непропорционально большой ущерб чернокожим пользователям, но предпочел ничего не предпринимать.
Демократически подотчетная метавселенная
В интервью с Вишалом Шахом, вице-президентом Meta по метавселенной, ведущий Национального общественного радио Ауди Корниш спросил: “Если вы не можете справиться с комментариями в Instagram, то как вы справитесь с футболкой, на которой написаны слова ненависти в метаверсии? Как вы справитесь с митингом ненависти, который может произойти в метаверсии?”. Аналогично, если чернокожих наказывают за высказывания против расизма и сексизма в Интернете, то как они смогут сделать это в метавселенной?
Для того чтобы метавселенная была инклюзивной и способствовала развитию демократических ценностей, а не угрожала демократии, необходимы справедливость дизайна и регулирование социальных сетей.
Справедливость в дизайне – это постановка людей, не обладающих властью в обществе, в центр процесса проектирования, чтобы избежать увековечивания существующего неравенства. Это также означает начать с рассмотрения ценностей и принципов, которыми следует руководствоваться при проектировании.
Федеральные законы защищают компании социальных сетей от ответственности за сообщения и действия пользователей на их платформах. Это означает, что они имеют право, но не обязаны следить за порядком на своих сайтах. Регулирование деятельности “Больших технологий” крайне важно для решения проблем социальных сетей сегодня и, по крайней мере, не менее важно до того, как они создадут и будут контролировать следующее поколение интернета.
Метавселенная и я
Я не против метавселенной. Я за демократически подотчетную метавселенную. Однако я утверждаю, что для этого необходимо создать более совершенную нормативную базу для интернет-компаний и более справедливые процессы проектирования, чтобы технология не продолжала коррелировать с расизмом.
На данный момент преимущества метавселенной для меня не перевешивают ее издержки. Но так не должно оставаться.
