I.Введение
1.Комитет по ликвидации расовой дискриминации на своей девяносто второй сессии решил провести дискуссию по теме «Расовая дискриминация в современном мире: расовое профилирование, этнические чистки и актуальные глобальные вопросы и проблемы». Эта тематическая дискуссия состоялась в Женеве 29 ноября 2017 года и была посвящена анализу опыта, вызовов и уроков, извлеченных на сегодняшний день в ходе борьбы с расовым профилированием и этническими чистками, а также вопросу о том, каким образом Комитет мог бы укрепить свою работу по борьбе с расовым профилированием и этническими чистками в целях повышения ее воздействия на местах.
2.По итогам дискуссии Комитет сообщил о намерении заняться выработкой общей рекомендации, содержащей руководящие указания по вопросу предупреждения расового профилирования и борьбы с ним, чтобы помочь государствам-участникам выполнять свои обязательства, в том числе в связи с представлением докладов. Настоящая общая рекомендация адресована всем тем, кто участвует в борьбе с расовой дискриминацией, и посредством ее опубликования Комитет хотел бы содействовать укреплению демократии, верховенства закона, мира и безопасности между общинами, народами и государствами.
3.На своей девяносто восьмой сессии Комитет приступил к обсуждениям, направленным на разработку общей рекомендации о предупреждении расового профилирования и борьбе с ним, в консультации со всеми заинтересованными сторонами. Комитет также провел обсуждения со специалистами различного профиля, уделив особое внимание вопросу о том, как на расовом профилировании может сказаться внедрение искусственного интеллекта.
II.Установленные принципы и практика
4.При подготовке настоящей общей рекомендации Комитет принял во внимание свою обширную практику реагирования на применение расового профилирования сотрудниками правоохранительных органов, прежде всего в контексте рассмотрения докладов государств-участников и в ключевых общих рекомендациях. Комитет непосредственно затронул вопрос о расовом профилировании в своей общей рекомендации № 30 (2004) о дискриминации неграждан, где он рекомендовал государствам обеспечивать, чтобы любые меры, принимаемые для борьбы с терроризмом, не носили дискриминационного характера по своей направленности или последствиям и не осуществлялись по признаку расы, цвета кожи, происхождения или национальной или этнической принадлежности и чтобы неграждане не подвергались расовому или этническому профилированию или стереотипизации (п. 10); в общей рекомендации № 31 (2005) о предупреждении расовой дискриминации в процессе отправления и функционирования системы уголовного правосудия, где Комитет рекомендовал государствам-участникам принять необходимые меры для недопущения допросов, задержаний и обысков людей, де-факто основанных исключительно на их внешности, цвете кожи, облике, принадлежности к расовой или этнической группе или любом «профилировании», которое порождает в отношении них более серьезные подозрения (п. 20); и в общей рекомендации № 34 (2011) о расовой дискриминации в отношении лиц африканского происхождения, где Комитет рекомендовал государствам принять решительные меры по противодействию любым тенденциям преследовать, клеймить, применять стереотипы или характеризовать по признаку расы лиц африканского происхождения со стороны работников правоохранительных органов, политиков и специалистов в области просвещения (п. 31). Расовое профилирование затрагивается и в других рекомендациях, например в общей рекомендации № 13 (1993) о подготовке сотрудников правоохранительных органов по вопросам защиты прав человека, где Комитет подчеркнул, что сотрудники правоохранительных органов должны проходить подготовку для обеспечения соблюдения ими прав человека всех лиц без различия по признаку расы, цвета кожи, национального или этнического происхождения (п. 2); общей рекомендации № 23 (1997) о правах коренных народов, где Комитет подчеркнул, что коренные народы должны быть свободны от любой дискриминации, в частности по признаку коренного происхождения или самобытности (подп. 4 b)); общей рекомендации № 27 (2000) о дискриминации в отношении рома, где Комитет рекомендовал государствам в зависимости от обстоятельств принимать меры для предотвращения незаконного применения силы полицией в отношении рома, в частности в связи с арестом и задержанием (п. 13), а также для укрепления доверия между общинами рома и полицией; общей рекомендации № 32 (2009) о значении и сфере применения особых мер в Конвенции, где Комитет упомянул концепцию «интерсекциональности», через призму которой Комитет рассматривает ситуации двойной или множественной дискриминации, — например дискриминации по признакам гендера или религии, — когда дискриминация по такому признаку, как представляется, имеет место в сочетании с признаком или признаками, перечисленными в статье 1 Конвенции (п. 7); и общей рекомендации № 35 (2013) о борьбе с ненавистническими высказываниями на почве расизма.
5.Комитет неоднократно выражал обеспокоенность по поводу использования расового профилирования сотрудниками правоохранительных органов в своих заключительных замечаниях и рекомендовал государствам-участникам принимать меры для прекращения этой практики.
6.Кроме того, расовое профилирование было непосредственно признано в качестве нарушения международного права прав человека рядом других международных механизмов по защите прав человека. В 2009 году Комитет по правам человека, приняв решение по делу Уильямс Лекрафт против Испании, стал первым договорным органом, непосредственно признавшим, что расовое профилирование представляет собой незаконную дискриминацию. В более недавних заключительных замечаниях Комитет по правам человека регулярно выражал обеспокоенность в связи с продолжающейся практикой расового профилирования со стороны сотрудников правоохранительных органов, объектами которой становятся, в частности, такие конкретные группы, как мигранты, просители убежища, лица африканского происхождения, коренные народы, а также представители религиозных и этнических меньшинств, включая рома; эту обеспокоенность разделил и Комитет против пыток.
7.В Дурбанской программе действий, принятой государствами-членами на Всемирной конференции по борьбе против расизма, расовой дискриминации, ксенофобии и связанной с ними нетерпимости, состоявшейся в Дурбане, Южная Африка, в 2001 году, к государствам был обращен настоятельный призыв разработать, осуществлять и обеспечить применение эффективных мер с целью ликвидации расового профилирования, включающего в себя практику сотрудников полиции и других правоохранительных органов, заключающуюся в использовании в той или иной степени расы, цвета кожи, происхождения или национальной или этнической принадлежности в качестве основания для проведения в отношении соответствующих лиц следственных действий или для определения того, принимало ли то или иное лицо участие в уголовно наказуемой деятельности (п. 72).
8.В докладе, представленном Совету по правам человека в 2007 году, Специальный докладчик по вопросу о поощрении и защите прав человека и основных свобод в условиях борьбы с терроризмом отметил, что после событий 11 сентября 2001 года правоохранительные органы различных государств используют методы борьбы с терроризмом, основанные на использовании профилей террористов, которые включают в себя такие характеристики, как предполагаемая раса, этническая принадлежность, национальное происхождение или религия того или иного лица. Специальный докладчик подчеркнул, что практика профилирования террористов по признаку «расы» несовместима с принципами прав человека, является неподходящим и неэффективным средством выявления потенциальных террористов и влечет за собой значительные негативные последствия, которые могут сделать такие меры контрпродуктивными в борьбе с терроризмом.
9.Настоящая общая рекомендация также составлена в рамках и в качестве вклада в осуществление Повестки дня в области устойчивого развития на период до 2030 года с ее всеобъемлющими обязательствами сделать так, чтобы никто не был забыт, и в первую очередь уделять внимание тем, кто больше всего отстал, что задает важнейшие отправные точки и ориентиры для работы Комитета, особенно в отношении цели 10 в области устойчивого развития, касающейся сокращения неравенства внутри стран и между ними, и цели 16, касающейся поощрения создания мирных и инклюзивных обществ в интересах устойчивого развития, обеспечения доступа к правосудию для всех и создания эффективных, подотчетных и инклюзивных учреждений на всех уровнях.
III.Область применения
10.Комитет нередко выражал свою обеспокоенность по поводу использования сотрудниками правоохранительных органов расового профилирования по отношению к различным группам меньшинств на основе таких конкретных характеристик, как предполагаемая раса, цвет кожи, происхождение или национальная или этническая принадлежность того или иного человека. Комитет выражал обеспокоенность в связи с сообщениями о том, что сотрудники правоохранительных органов, например полиции и пограничных служб, при выполнении своих обязанностей произвольно выхватывают людей, прибегают к произвольным проверкам документов, выборочным досмотрам личных вещей на железнодорожных вокзалах, в поездах и аэропортах и осуществляют произвольные задержания. Комитет с обеспокоенностью отметил, что применение расового профилирования возросло на фоне повсеместной обеспокоенности по поводу терроризма и миграции, что усугубляет предрассудки и нетерпимость по отношению к представителям некоторых этнических групп.
11.Комитет признал, что наиболее уязвимыми с точки зрения расового профилирования являются такие конкретные группы, как мигранты, беженцы и просители убежища, лица африканского происхождения, коренные народы, а также национальные и этнические меньшинства, включая рома.
12.Кроме того, Комитет отмечает, что расизм, расовая дискриминация, ксенофобия и другие формы отчуждения могут усугубляться в результате растущего использования новых технологий, включая искусственный интеллект, в таких сферах, как безопасность, пограничный контроль и доступ к социальным услугам. Однако в настоящей общей рекомендации основное внимание Комитет уделяет алгоритмическому принятию решений и искусственному интеллекту в связи с расовым профилированием со стороны сотрудников правоохранительных органов; поэтому многие другие темы, связанные с потенциально опасными последствиями применения искусственного интеллекта, остаются за пределами ее сферы охвата. Хотя в некоторых областях искусственный интеллект может способствовать повышению эффективности ряда процессов принятия решений, Комитет в то же время отдает себе отчет в существовании реального риска проявления алгоритмической предвзятости в ситуациях, когда искусственный интеллект используется для принятия решений в контексте правоохранительной деятельности. Алгоритмическое профилирование вызывает серьезную озабоченность, а его последствия для прав жертв могут быть очень серьезными.
IV.Определение и понимание расового профилирования
13.Какого-либо универсального определения расового профилирования в международном праве прав человека нет. Но поскольку речь идет о явлении, которое дает о себе знать во всех регионах мира, различные международные и региональные правозащитные органы и учреждения выработали определения расового профилирования, которые содержат ряд общих элементов. Расовое профилирование: а) совершается правоохранительными органами; b) не имеет под собой объективных критериев или разумных оснований; c) осуществляется по признакам расы, цвета кожи, родового, национального или этнического происхождения или их пересечения с другими соответствующими признаками, такими как религия, пол или гендер, сексуальная ориентация и гендерная идентичность, инвалидность и возраст, миграционный статус или трудовой или иной статус; d) используется в конкретных контекстах, таких как иммиграционный контроль и борьба с преступностью, терроризмом или другими видами деятельности, которые предположительно нарушают или могут привести к нарушению закона.
14.Расовое профилирование реализуется через такое поведение или такие действия, как произвольные остановки, обыски, проверки документов, расследования и задержания.
15.Межамериканская комиссия по правам человека определила расовое профилирование как тактику, принятую по предполагаемым мотивам общественной безопасности и защиты на основе стереотипов, касающихся расы, цвета кожи, этнической принадлежности, языка, происхождения, религии, гражданства или места рождения или сочетания этих факторов, а не объективных подозрений, при которой отдельные лица или группы людей выделяются дискриминационным образом исходя из ошибочного представления о том, что люди с такими характеристиками будто бы склонны к совершению конкретных видов преступлений. Арабский комитет по правам человека сообщил, что расовое профилирование можно определить как использование сотрудниками правоохранительных органов обобщений или стереотипов, связанных с предполагаемой расой, цветом кожи, происхождением, гражданством, местом рождения, национальным или этническим происхождением, вместо объективных доказательств или индивидуального поведения, в качестве основы для констатации того, что данное конкретное лицо занимается или занималось преступной деятельностью, что приводит к дискриминационному принятию решений. В своей общеполитической рекомендации № 11 о борьбе с расизмом и расовой дискриминацией в работе правоохранительных органов, принятой в 2007 году, Европейская комиссия по борьбе с расизмом и нетерпимостью определила расовое профилирование как использование правоохранительными органами, без объективных и разумных оснований, таких признаков как раса, цвет кожи, язык, религия, гражданство или национальное или этническое происхождение при контроле, слежении или проведении расследований.
16.В докладе, представленном Совету по правам человека в 2015 году, Специальный докладчик по вопросу о современных формах расизма, расовой дискриминации, ксенофобии и связанной с ними нетерпимости указал, что расовое и этническое профилирование со стороны сотрудников правоохранительных органов обычно понимается как использование сотрудниками органов правопорядка, служб безопасности и пограничного контроля расы, цвета кожи, происхождения или национальной или этнической принадлежности в качестве основания для проведения в отношении соответствующих лиц тщательных досмотров, проверок документов и расследований или для определения причастности того или иного человека к преступной деятельности.
17.Верховный комиссар Организации Объединенных Наций по правам человека заявила, что под расовым профилированием понимается процесс, посредством которого правоохранительные органы опираются на обобщения на основе расы, цвета кожи, родового, национального или этнического происхождения, а не на объективные доказательства или индивидуальное поведение, когда они останавливают людей, осуществляют личный досмотр, проверяют документы и проводят расследования, либо принимают решения о причастности человека к преступной деятельности. В этом случае расовое профилирование ведет к дискриминационному принятию решений. Верховный комиссар отметила далее, что, независимо от того, проистекает ли расовое профилирование из отношения и практики отдельных сотрудников или из дискриминационной культуры или политики правоохранительных органов, оно давно укоренилось во многих учреждениях.
18.Для целей настоящей общей рекомендации под расовым профилированием понимается то, как оно охарактеризовано в пункте 72 Дурбанской программы действий, а именно практика сотрудников полиции и других правоохранительных органов, заключающаяся в использовании в той или иной степени расы, цвета кожи, происхождения или национальной или этнической принадлежности в качестве основания для проведения в отношении соответствующих лиц следственных действий или для определения того, принимало ли то или иное лицо участие в уголовно наказуемой деятельности. В этом контексте расовая дискриминация часто пересекается с дискриминацией по другим признакам, таким как религия, пол и гендер, сексуальная ориентация и гендерная идентичность, инвалидность, возраст, миграционный статус, а также трудовой или иной статус.
19.Расовое профилирование со стороны сотрудников правоохранительных органов может включать в себя также рейды, пограничные и таможенные проверки, домашние обыски, выбор объектов для слежки, операций по поддержанию или восстановлению правопорядка или иммиграционные решения. Эти действия могут осуществляться как в контексте поддержания порядка на улицах, так и в контексте контртеррористических операций.
20.Расовое профилирование связано со стереотипами и предрассудками, которые могут быть осознанными или неосознанными, а также индивидуальными или институциональными и структурными. Стереотипизация становится нарушением международного права прав человека, когда стереотипные представления на практике используются для подрыва осуществления прав человека.
V. Принципы и общие обязательства по Конвенции
21.Выявление, предотвращение и пресечение практики расового профилирования со стороны сотрудников правоохранительных органов является неотъемлемой частью достижения целей Международной конвенции о ликвидации всех форм расовой дискриминации. Практика расового профилирования со стороны сотрудников правоохранительных органов нарушает основополагающие принципы прав человека, которые основаны на следующем: а) недискриминации по признаку расы, цвета кожи, родового, национального или этнического происхождения или по другим взаимопересекающимся признакам; и b) равенстве перед законом. Она может также нарушать права на надлежащую правовую процедуру и справедливое судебное разбирательство. Эти принципы и права закреплены во Всеобщей декларации прав человека (ст. 2 и 7) и в Конвенции (ст. 2 и 5 а)).
22.В преамбуле Конвенции подчеркивается, что все люди равны перед законом и имеют право на равную защиту закона от любой дискриминации и от всякого подстрекательства к дискриминации. Хотя сам термин «расовое профилирование» в Конвенции не упоминается, это не мешает Комитету выявлять практику расового профилирования и изучать взаимосвязь между расовым профилированием и стандартами, изложенными в Конвенции.
23.В соответствии со статьей 2 Конвенции каждое государство обязуется не совершать в отношении лиц, групп или учреждений каких-либо актов или действий, связанных с расовой дискриминацией, и гарантировать, что все государственные органы и государственные учреждения, как национальные, так и местные, будут действовать в соответствии с этим обязательством. Поскольку расовое профилирование является практикой, способной поощрять и увековечивать акты расизма и расовые предрассудки и стереотипы, оно противоречит самой идее Конвенции. Соответственно, государства-участники обязаны пересмотреть свою политику, законы и правила для обеспечения того, чтобы расовое профилирование не применялось и не поощрялось. Государства-участники обязаны принимать активные меры по ликвидации дискриминации на законодательном, политическом и институциональном уровнях. Запрет на участие в актах расового профилирования и обязательство обеспечить, чтобы государственные органы и учреждения не применяли практику расового профилирования, вытекают также из статьи 5 Конвенции. Практика расового профилирования несовместима с правом каждого человека, без различия расы, цвета кожи, национального или этнического происхождения, на равенство перед законом и на равное обращение. Кроме того, она несовместима с недискриминационной гарантией других гражданских прав, таких как право на свободу передвижения.
24.В соответствии со статьей 6 Конвенции государства-участники обязаны обеспечивать каждому человеку, находящемуся под их юрисдикцией, эффективную защиту от любых актов расовой дискриминации. Соответственно, государства- участники должны принимать превентивные меры для обеспечения того, чтобы государственные органы и государственные учреждения не занимались практикой расового профилирования. Статья 6 Конвенции также требует от государств- участников обеспечивать каждому человеку, находящемуся под их юрисдикцией, эффективную защиту от любых актов расовой дискриминации. Государства- участники обязаны обеспечить наличие в их внутригосударственной правовой системе адекватных и эффективных механизмов, позволяющих установить факты применения расового профилирования и положить конец такой практике. Кроме того, государства- участники должны гарантировать право добиваться справедливого и адекватного возмещения или компенсации ущерба, причиненного в результате расовой дискриминации в форме расового профилирования. Они должны гарантировать возможность эффективным образом обеспечить реализацию этого права. В свете того факта, что практика расового профилирования регулярно затрагивает членов определенной группы или групп людей, государствам-участникам рекомендуется рассмотреть вопрос о создании механизмов коллективного обеспечения прав в контексте расового профилирования.
25.В статье 7 Конвенции подчеркивается роль преподавания, образования, культуры и информации в борьбе с расовой дискриминацией. Что касается расового профилирования, то выполнение обязательства государств-участников не участвовать в актах расовой дискриминации зависит от поведения государственной власти и государственных институтов. Поэтому крайне важно, чтобы сотрудники национальных правоохранительных органов, в частности, были должным образом информированы о своих обязательствах. Поскольку расовое профилирование часто является результатом устоявшейся и не наталкивающейся на сопротивление практики государственных органов и государственных институтов, государства-участники должны обеспечить, чтобы национальные сотрудники правоохранительных органов были в достаточной степени осведомлены о том, как избегать практики расового профилирования. Повышение такой осведомленности может помочь предотвратить применение практики расового профилирования и преодолеть ее там, где она укоренилась. Соответственно, государствам-участникам следует обеспечить, чтобы сотрудники государственных органов и учреждений, занимающиеся правоохранительной деятельностью, проходили надлежащую подготовку для обеспечения того, чтобы они не прибегали к практике расового профилирования.
VI. Последствия расового профилирования
26.Расовое профилирование оказывает негативное и накапливающееся воздействие на отношения и благополучие отдельных лиц и общин, поскольку человек может регулярно подвергаться расовому профилированию в своей повседневной жизни. Жертвы расового профилирования часто принижают и скрытно переживают его последствия ввиду отсутствия эффективных средств правовой защиты и инструментов восстановления в правах. Будучи само по себе незаконным, расовое профилирование также может быть неэффективным и контрпродуктивным как инструмент общего правоприменения. Люди, считающие себя жертвами дискриминационных действий со стороны сотрудников правоохранительных органов, как правило, теряют доверие к органам охраны правопорядка и, как следствие, менее склонны сотрудничать с ними, что может ограничить эффективность деятельности таких органов. Практика расового профилирования влияет на повседневную работу органов охраны правопорядка и подрывает, будь то посредством сознательных или неосознанных действий, способность оказывать поддержку жертвам преступлений, принадлежащим к затронутым общинам. Ощущение попранной справедливости и унижение, утрата доверия к правоохранительным органам, вторичная виктимизация, боязнь репрессий и ограниченный доступ к информации о юридических правах или помощи могут приводить к несообщению о преступлениях и ограничению объема информации, собираемой для целей профилактики преступности.
27.Расовое профилирование тесно связано с языком ненависти, и Комитет часто рассматривал эти две формы дискриминации вместе. Распространение идей, основанных на расовой или этнической ненависти, систематическое обращение к языку вражды в средствах массовой информации и расистские политические высказывания государственных должностных лиц усугубляют дискриминацию и стереотипы со стороны сотрудников правоохранительных органов. Этнические группы, против которых направлен язык ненависти, будут также объектами расового профилирования. Кроме того, расовое профилирование со стороны правоохранительных органов, изображает группы, сталкивающиеся с расовой дискриминацией, как более склонные к совершению преступлений, влияя на общеполитический дискурс и усиливая распространение ненависти на почве расизма.
28.Расовое профилирование может также оказывать негативное воздействие на пользование людьми гражданскими и политическими правами, включая право на жизнь (статья 6 Международного пакта о гражданских и политических правах), свободу и личную неприкосновенность (ст. 9), неприкосновенность частной жизни (ст. 17) и свободу передвижения (ст. 12), свободу ассоциации (ст. 22) и на эффективное средство правовой защиты (ст. 2 (п. 3)).
29.Полное осуществление экономических, социальных и культурных прав, таких как право на достаточное жилище (статья 11 Международного пакта об экономических, социальных и культурных правах), здоровье (ст. 12), образование (ст. 13-14) и труд (ст. 6), также может быть затронуто расовым профилированием.
30.Расовое профилирование со стороны сотрудников правоохранительных органов имеет далеко идущие последствия на всех уровнях системы отправления правосудия, особенно уголовного. Расовое профилирование может, среди прочего, приводить к следующему: а) чрезмерной криминализации некоторых категорий лиц, пользующихся защитой в соответствии с Конвенцией; b) укреплению вводящих в заблуждение стереотипных связей между преступностью и этнической принадлежностью и культивированию абьюзивной оперативной практики; c) непропорционально высоким показателям инкарцерации для групп, защищаемых в соответствии с Конвенцией; d) большей уязвимости лиц, принадлежащих к группам, защищаемым Конвенцией, перед злоупотреблением силой или властью со стороны сотрудников правоохранительных органов; e) занижению сведений об актах расовой дискриминации и преступлениях на почве ненависти; и f) вынесению судами более суровых приговоров в отношении членов общин, подвергающихся такой практике.
VII. Алгоритмическое профилирование и расовые предрассудки и дискриминация
31.В связи с быстрым технологическим прогрессом действия сотрудников правоохранительных органов в растущей степени определяются или строятся на алгоритмическом профилировании, которое может включать в себя большие данные, автоматизированное принятие решений и инструменты и методы на базе искусственного интеллекта. Хотя такой прогресс способен сделать решения и действия сотрудников правоохранительных органов более адресными, эффективными и действенными, существует немалый риск того, что они могут также воспроизводить и усиливать предвзятость и усугублять дискриминационную практику или приводить к ней22. Учитывая непрозрачность алгоритмического анализа и методов принятия решений, в частности, с использованием искусственного интеллекта, дискриминационные результаты алгоритмического профилирования нередко могут быть менее очевидными и более трудными для обнаружения, чем в случае решений, принимаемых человеком, и, следовательно, оспорить их может быть сложнее. Кроме того, правозащитники обычно не располагают достаточным арсеналом технических средств для выявления таких дискриминационных методов.
32.Существуют различные пункты входа, через которые в системы алгоритмического профилирования может быть внесена предвзятость, включая сам дизайн систем, выбор источников и объемов данных, на которых производится обучение таких систем, социальные и культурные предрассудки, которые могут быть занесены в эти наборы данных разработчиками, сами модели искусственного интеллекта и то, каким образом результаты, полученные с помощью модели искусственного интеллекта, используются на практике. В частности, отрицательные результаты могут быть обусловлены следующими факторами, связанными с данными: a) включение в используемые данные информации, касающейся защищаемых характеристик; b) включение в наборы данных так называемой «прокси-информации», например, указание почтовых индексов, соответствующих сегрегированным кварталам городов, часто может косвенно указывать на расовое или этническое происхождение человека; c) использование данных, отражающих предвзятое отношение к той или иной группе; и d) использование данных низкого качества, в том числе потому, что они плохо отобраны, неполны, неверны или устарели.
33.Особые риски возникают при использовании алгоритмического профилирования для определения вероятности совершения преступных актов либо в определенных населенных пунктах, либо определенными группами или даже отдельными людьми. Предиктивная полицейская аналитика, при которой исторические данные используются для прогнозирования вероятных будущих событий, легко может приводить к дискриминационным результатам, в частности, когда используемые наборы данных страдают одним или несколькими из описанных выше недостатков. Например, исторические данные об задержаниях в том или ином квартале могут отражать расовую предвзятость в полицейской практике. Включение этих данных в предиктивную модель охраны порядка, порождает риск получения прогнозов, отражающих столь же предвзятые оценки, на основе которых в этом квартале будет развернуто чрезмерное полицейское присутствие, что, в свою очередь, может привести к еще большему числу задержаний в том же квартале, завершив тем самым опасный порочный круг обратной связи.
34.Сообщалось, что похожие механизмы действуют и в судебных системах. Применяя какую-либо санкцию или принимая решение посадить человека в тюрьму, освободить под залог или применить другое наказание, государства все чаще прибегают к использованию алгоритмического профилирования для предсказания вероятности того, что этот человек может совершить одно или несколько преступлений в будущем. Власти собирают информацию о криминальном прошлом человека, его семьи и друзей, а также об их социальных условиях, включая их трудовую и научную деятельность, для оценки «опасности», которую представляет данное лицо, на основе баллов, присваиваемых алгоритмом, механизм действия которого, как правило, остается тайным. Такое использование алгоритмического профилирования вызывает озабоченность, аналогичную той, которая описана в пункте 33 выше.
35.Все более широкое использование технологий распознавания лиц и наблюдения для отслеживания и контроля представителей конкретных демографических групп вызывает озабоченность с точки зрения многих прав человека, включая право на неприкосновенность частной жизни, свободу мирных собраний и ассоциации, свободу выражения мнений и свободу передвижения. Эта технология предназначена для автоматического опознания людей по геометрии лица, приводя к потенциальному профилированию людей на основе таких дискриминирующих признаков, как раса, цвет кожи, национальное или этническое происхождение или гендер. Камеры, оснащенные системой распознавания лиц в реальном времени, широко применяются для выявления и отслеживания людей, что может позволить правительствам и другим субъектам следить за перемещениями большого числа людей, возможно, на основе защищаемых характеристик. Кроме того, как выяснилось, точность распознавания лиц может различаться в зависимости от цвета кожи, этнического происхождения или гендерной принадлежности человека, что может приводить к дискриминации.
36.В некоторых случаях алгоритмы для определения этнической или национальной принадлежности отдельных людей используются при ДНК-тестировании. Результаты таких ДНК-тестов могут приводить к профилированию. В соответствии с консенсусом научного сообщества Комитет отмечает отсутствие прямой связи между этнической или национальной принадлежностью человека и строением его ДНК. Поэтому Комитет осуждает использование ДНК-профилирования государствами и правоохранительными органами, особенно при пограничном контроле. Кроме того, результаты ДНК-профилирования использовались правоохранительными органами для ложных заявлений о том, что некоторые этнические меньшинства будто бы более склонны к насилию, и эти группы, в свою очередь, подвергались дискриминационной полицейской практике.
VIII. Рекомендации
37.Для решения проблемы расового профилирования правительствами, правоохранительными органами и организациями гражданского общества был принят комплекс стратегий. Комитет считает, что эти стратегии обеспечивают основу для его рекомендаций в адрес государств и других субъектов.
A.Законодательные и политические меры
38.Для эффективной борьбы с расовым профилированием, в качестве предварительного условия и не умаляя значения других мер, необходимо наличие всеобъемлющего законодательства о запрещении расовой дискриминации, в том числе не только уголовного, но и гражданского и административного законодательства. Государствам следует разрабатывать и эффективно осуществлять законы и политику, определяющие и запрещающие расовое профилирование со стороны сотрудников правоохранительных органов. Такие меры следует подкреплять четкими указаниями для правоохранительных органов, обеспечивающими соответствие внутренних регламентов, включая стандартные оперативные процедуры и кодексы поведения, стандартам и принципам прав человека. Государствам следует также отдавать себе отчет в том, какие законы и нормативные акты потенциально делают возможным расовое профилирование или облегчают его на практике. Им следует провести работу по выявлению таких законов и соответственно изменить или отменить их.
39.Государствам следует обеспечить, чтобы правоохранительные органы в консультации с соответствующими группами населения разработали подробные руководящие указания по поводу порядка производства задержаний и личных досмотров с точными стандартами, позволяющими избегать расового профилирования. Им следует создать эффективные, независимые механизмы мониторинга, как внутреннего, так и внешнего, и предусмотреть дисциплинарные меры для реагирования на нарушения. Им следует также проводить периодические аудиты с помощью независимых экспертов для выявления пробелов во внутренних регламентах и практике. Настоятельно рекомендуется обеспечить прозрачность в отношении результатов таких процедур, поскольку это может укрепить подотчетность правоохранительных органов и доверие к ним со стороны целевой аудитории и общин.
40.Согласно статье 6 Конвенции государства должны обеспечить каждому человеку, на которого распространяется их юрисдикция, эффективную защиту и средства защиты через компетентные национальные суды и другие государственные институты в случае любых актов расовой дискриминации, посягающих, в нарушение Конвенции, на его права человека и основные свободы, а также права предъявлять в эти суды иск о справедливом и адекватном возмещении или удовлетворении за любой ущерб, понесенный в результате такой дискриминации.
41.Государствам рекомендуется применять подходы, ориентированные на интересы жертв, и эффективно координировать работу своих служб поддержки путем поощрения моделей сотрудничества между властями, общинами, организациями гражданского общества, в том числе представляющими группы, сталкивающиеся с перекрестными формами дискриминации, и национальными правозащитными учреждениями. Комитет подчеркивает взаимосвязь между статьями 5 а) и 6 Конвенции и отмечает необходимость эффективно консультироваться с судебными органами и другими органами, отправляющими правосудие, и вовлекать их в эти процессы, чтобы не допустить закрепления расового профилирования в уголовном судопроизводстве.
B.Образование и подготовка в области парв человека
42.Государствам следует разработать специализированные обязательные учебные программы для сотрудников правоохранительных органов, которые повышают понимание ими влияния предвзятости на их работу и показывают, как обеспечить недискриминационное поведение. По мере возможности, к разработке и проведению такой подготовки следует привлекать представителей групп, подвергающихся стигматизации, в том числе тех, кто сталкиваются с перекрестными формами дискриминации. Правоохранительным органам следует обеспечить, чтобы обучение по месту службы по вопросам борьбы с дискриминацией и предвзятостью при выполнении полицейских функций дополнялось институциональными мерами, направленными на ограничение полицейского усмотрения и усиление подконтрольности там, где может проявляться такая стереотипизация и предвзятость. Кроме того, учитывая озабоченность по поводу ограниченного воздействия подготовки на изменение личностных установок и поведения, подготовку по вопросам недискриминации и предвзятости следует регулярно оценивать и обновлять, с тем чтобы она возымела желаемое действие.
43.Как специалисты по искусственному интеллекту, так и должностные лица, которые интерпретируют данные, должны иметь четкое представление об основных правах, с тем чтобы не допускать ввода данных, в которых может быть отражена расовая предвзятость или которые могут приводить к ней. Государствам следует обеспечить предоставление подготовки по вопросам расизма и расовой дискриминации, в частности, экспертам и должностным лицам, занимающимся интерпретацией данных, сотрудникам судебных и правоохранительных органов. Государствам следует разработать порядок осуществления закупочной деятельности на основе обязательных требований, запрещающих расовую дискриминацию.
44.Государствам в сотрудничестве с национальными правозащитными учреждениями и специализированными организациями следует поощрять подготовку организаций гражданского общества по вопросам алгоритмической предвзятости и новых технологий.
45.Образование и подготовка в области прав человека имеют жизненно важное значение для обеспечения того, чтобы сотрудники полиции не допускали дискриминации. Национальные правозащитные учреждения в сотрудничестве с организациями гражданского общества могут играть центральную роль в подготовке сотрудников правоохранительных органов, в аудите новых технологий, которые могут приводить к дискриминации, и в выявлении других рисков на практике.
C.Меры, связанные с набором на службу
46.Государствам следует обеспечить, чтобы правоохранительные органы разрабатывали стратегии набора, удержания и продвижения по службе сотрудников, поощряющие разнообразие кадрового состава, отражающее состав обслуживаемого населения. Такие стратегии могли бы включать в себя установление внутренних квот и разработку программы набора сотрудников из этнических меньшинств. Это может повлиять на внутриучрежденческую культуру и отношение личного состава, обеспечив меньшую предвзятость в процессе принятия решений.
47.Государствам следует обеспечить, чтобы правоохранительные органы регулярно проводили оценку политики в области набора кадров и продвижения по службе и, в случае необходимости, принимали временные специальные меры для эффективного преодоления недопредставленности представителей различных групп национальных или этнических меньшинств и групп, сталкивающихся с перекрестными формами дискриминации, в частности по признаку религии, пола и гендера, сексуальной ориентации, инвалидности и возраста.
D.Работа полиции с населением
48.Государствам следует обеспечить, чтобы правоохранительные органы разрабатывали стратегии эффективного взаимодействия с лицами и группами, сталкивающимися с расовой дискриминацией, для учета самобытности, динамики и потребностей различных общин. Это должно способствовать улучшению коммуникации и снижению уровня недоверия и расового профилирования. Диалог между полицией и населением не должен ограничиваться общинными лидерами, поскольку многие группы, включая женщин, недопредставлены на уровне лидеров общин и могут нуждаться в целенаправленной информационно-пропагандистской работе, учитывающей их специфические озабоченности. Показательным примером может служить работа с молодыми людьми, которые чаще всего становятся объектом действий полиции.
49.Государствам следует принять меры для обеспечения того, чтобы общественная информация, поступающая от полиции и других правоохранительных органов, основывалась на достоверных и объективных статистических данных и не увековечивала стереотипы и предрассудки в отношении этнических групп, подвергающихся дискриминации. Кроме того, государствам следует воздерживаться от разглашения личных данных предполагаемых правонарушителей, которые связаны с предполагаемой расовой принадлежностью, цветом кожи, родовым, национальным или этническим происхождением, если только такое разглашение не является строго необходимым и не служит законной цели, например в случае объявлений в розыск.
E.Дезагрегированные данные
50.Государствам следует регулярно собирать и отслеживать количественные и качественные данные о соответствующей правоприменительной практике, такой как проверки документов, остановки транспортных средств и обыски при пересечении границ, которые включают информацию о запрещенных основаниях для расовой дискриминации, в том числе о ее пересекающихся формах, а также о причинах правоприменительных действий и об их результатах. Анонимизированные статистические данные о такой практике следует доводить до сведения общественности и обсуждать с местным населением. Сбор данных следует осуществлять в соответствии со стандартами и принципами прав человека, положениями о защите данных и гарантиями неприкосновенности частной жизни. Эта информация должна использоваться сугубо по ее назначению.
51.Государствам следует также избегать таких форм автоматизированной обработки персональных данных, которые состоят в использовании персональных данных для оценки определенных личностных аспектов физического лица, в частности для анализа или прогнозирования аспектов, связанных с родом занятий этого лица, экономическим положением, состоянием здоровья, личными предпочтениями, интересами, благонадежностью, поведением, местоположением или поездками.
F.Подотчетность
52.Государствам следует создать независимый от правоохранительных и других силовых органов механизм отчетности для получения от граждан жалоб на расовую дискриминацию, расизм и расовое и этническое профилирование. Такой механизм должен быть наделен полномочиями по оперативному и эффективному расследованию жалоб и работать в координации с гражданским обществом и органами по наблюдению за соблюдением прав человека. Он должен также публично отчитываться о результатах свой деятельности в соответствии с положениями о защите данных и стандартами в области прав человека. Таким механизмам следует учитывать особые потребности людей с инвалидностью в случаях перекрестной дискриминации.
53.Государствам следует создать надзорные механизмы, как внутри правоохранительных органов, так в вне их, в целях предотвращения дискриминационного поведения; таким механизмам следует разработать внутренние руководящие принципы, политику и правила для борьбы с расовым профилированием и его предотвращения, а также обеспечить внутреннюю подотчетность путем принятия дисциплинарных мер к нарушающим их должностным лицам.
54.Случаи расового профилирования со стороны правоохранительных органов следует эффективно расследовать в соответствии с международными стандартами в области прав человека. Виновных следует преследовать в судебном порядке, а в случае осуждения надлежащим образом наказывать, а жертвам следует предоставлять компенсацию.
55.Государствам следует обеспечить, чтобы старшие должностные лица правоохранительных органов поощряли недискриминационную политику и практику в своих учреждениях, осуществляли строгий контроль за поведением сотрудников и привлекали их к ответственности за проступки с помощью внутреннего независимого механизма надзора. Эти действия могут поддерживаться предоставлением доступа к данным и анализу процессов принятия решений и практике работы личного состава. Старшим должностным лицам следует также анализировать воздействие правоприменения и оперативной работы, в том числе в сфере борьбы с терроризмом, поскольку это может оказывать несоразмерное воздействие на маргинализированные группы и общины.
56.Национальным правозащитным учреждениям и организациям гражданского общества рекомендуется отслеживать случаи расового профилирования и оказывать помощь жертвам такого профилирования. Им следует повышать осведомленность общественности, обнародовать результаты своей работы, выступать застрельщиками перемен и конструктивно взаимодействовать с правоохранительными органами и другими национальными и местными институтами.
57.Международным и региональным правозащитным механизмам, национальным правозащитным учреждениям и органам по вопросам равенства, группам гражданского общества и представителям общественности необходимо предоставить возможность подавать жалобы на дискриминационную практику правоохранительных органов. Представителям общественности необходимо предоставить возможность подавать жалобы через независимые механизмы.
G.Искусственный интеллект
58.Государствам следует обеспечить, чтобы системы алгоритмического профилирования, используемые для целей охраны порядка, полностью соответствовали международным нормам в области прав человека. Для этого, прежде чем осуществлять закупку или развертывание таких систем, государствам следует принять соответствующие законодательные, административные и другие меры для определения цели их использования и как можно более точного регулирования параметров и гарантий, предотвращающих ущемления прав человека. Такие меры, в частности, должны быть направлены на обеспечение того, чтобы развертывание систем алгоритмического профилирования не подрывало право не подвергаться дискриминации, право на равенство перед законом, право на свободу и личную неприкосновенность, право на презумпцию невиновности, право на жизнь, право на неприкосновенность частной жизни, свободу передвижения, свободу мирных собраний и ассоциаций, защиту от произвольного ареста и других мер, а также право на эффективные средства правовой защиты.
59.Прежде чем использовать технологию распознавания лиц, государствам следует тщательно оценивать потенциальное воздействие такой технологии на права человека, поскольку она может приводить к неправильной идентификации из-за недостаточной репрезентативности собранных данных. До развертывания на национальном уровне государствам следует рассмотреть возможность ее применения в течение пробного периода под надзором независимого надзорного органа с участием представителей, отражающих разнообразный состав населения, с тем чтобы предотвратить любые возможные случаи неправильной идентификации и профилирования по цвету кожи.
60.Государствам следует обеспечить, чтобы системы алгоритмического профилирования для использования в правоохранительной деятельности разрабатывались с учетом принципа прозрачности и позволяли исследователям и гражданскому обществу получить доступ к программным кодам и проверить их. Следует проводить постоянную оценку и мониторинг воздействия этих систем на права человека на протяжении всего их жизненного цикла, и государствам следует принимать соответствующие меры по смягчению последствий в случае выявления рисков или негативного влияния на права человека. В рамках этих процессов следует изучать потенциальные и фактические дискриминационные последствия алгоритмического профилирования по признакам расы, цвета кожи, родового, национального или этнического происхождения и их пересечение с другими признаками, включая религию, пол и гендер, сексуальную ориентацию и гендерную идентичность, инвалидность, возраст, миграционный статус и трудовое или иное положение. Такие исследования по возможности следует проводить до разработки или покупки таких систем и, по крайней мере, перед их вводом в эксплуатацию и на протяжении всего периода их использования. Такие процессы должны включать оценку воздействия на местное население. К процессам оценки и уменьшения негативного воздействия следует привлекать потенциально или реально затрагиваемые группы и соответствующих экспертов.
61.Государствам следует принимать все надлежащие меры для обеспечения прозрачности при использовании систем алгоритмического профилирования. Это включает в себя публичное раскрытие информации об использовании таких систем и содержательные объяснения по поводу принципов работы систем, используемых наборов данных и мер, которые принимаются для предотвращения или смягчения негативного воздействия на права человека.
62.Государствам следует принять меры для обеспечения того, чтобы наделить независимые надзорные органы полномочиями по контролю над использованием инструментов на базе искусственного интеллекта государственными органами, а также по их оценке на основе критериев, разработанных в соответствии с Конвенцией, чтобы они не увековечивали неравенство и не приводили к дискриминационным результатам. Государствам следует также обеспечить регулярный мониторинг и оценку функционирования таких систем в целях выявления недостатков и принятия необходимых мер по исправлению положения. Когда результаты оценки той или иной технологии указывают на высокий риск дискриминации или других нарушений прав человека, государствам следует принимать меры по недопущению использования такой технологии.
63.Государствам следует принять меры для обеспечения того, чтобы разработка, развертывание и внедрение систем искусственного интеллекта в правоохранительной деятельности, осуществляемые частным сектором, соответствовали правозащитным стандартам. Государствам следует обеспечить также принятие и периодический пересмотр руководящих указаний и кодексов поведения, которые должны соблюдаться компаниями при программировании, использовании и коммерциализации алгоритмов, способных привести к расовой дискриминации или в целом к любым другим формам дискриминации, которые могут нарушать Конвенцию.
64.Государствам следует принять нормативные акты, обеспечивающие, чтобы органы государственного сектора, частные предприятия и другие соответствующие организации в процессе разработки, изучения, продажи и использования алгоритмов: а) соблюдали принцип равенства и недискриминации и уважали права человека в целом в соответствии с Руководящими принципами предпринимательской деятельности в аспекте прав человека (в частности, руководящими принципами 1-3, 11 и 24); b) соблюдали принцип предосторожности и любые административные или законодательные меры, принятые для обеспечения транспарентности; c) публично раскрывали информацию о том, имеют ли правоохранительные органы доступ к частным данным о физических лицах; и d) избегали оказания неравного или несоразмерного воздействия на социальные группы, находящиеся под защитой Конвенции.
65.Государствам следует обеспечивать надлежащее расследование всех случаев алгоритмической предвзятости и применение санкций.
66.Государствам следует обеспечивать, чтобы компании, разрабатывающие, продающие или эксплуатирующие системы алгоритмического профилирования для правоохранительной деятельности, были обязаны привлекать многопрофильные группы специалистов по таким дисциплинам, как социология, политология, информатика и право, в целях определения рисков и обеспечения соблюдения прав человека. С этой целью государствам следует поощрять компании проводить должные экспертизы на предмет соответствия правам человека, которые предусматривают: а) проведение оценок для выявления и анализа любого фактического или потенциального неблагоприятного воздействия на права человека; b) интеграцию этих оценок и принятие надлежащих мер для предупреждения и смягчения выявленного неблагоприятного воздействия на права человека; c) отслеживание эффективности принимаемых ими мер; и d) представление официальной информации о том, какие меры приняты в связи с воздействием на права человека.
67.В процессе выявления, оценки, предотвращения и смягчения неблагоприятного воздействия на права человека компаниям следует уделять особое внимание факторам, связанным с наборами данных, о которых говорится в пункте 27 выше. Данные, используемые для обучения систем, следует отбирать, а модели следует разрабатывать таким образом, чтобы не допускать дискриминационных результатов и других неблагоприятных последствий для прав человека. Кроме того, компаниям следует добиваться разнообразия, справедливости и иной инклюзивности в составе групп разработчиков систем алгоритмического профилирования. Компании следует также открыть себя для независимого аудита их систем алгоритмического профилирования, проводимого сторонними организациями. В тех случаях, когда риск дискриминации или других нарушений прав человека оценивается как слишком высокий или не поддающийся снижению, в том числе из-за характера запланированного или прогнозируемого вида их использования государством, субъектам частного сектора следует воздерживаться от продажи или внедрения системы алгоритмического профилирования.
68.Государствам следует документировать случаи расовой дискриминации, связанные с использованием искусственного интеллекта, а также превентивные меры, санкции и средства правовой защиты и включать такую информацию в свои доклады Комитету.
69.Правозащитным органам, государствам, национальным правозащитным учреждениям и организациям гражданского общества следует проводить исследования и распространять их результаты, выявлять примеры передовой практики принятия эффективных мер по устранению расовых предрассудков, обусловленных применением искусственного интеллекта, в том числе в связи с соответствием правам человека и этическими аспектами машинного обучения, и определить соответствующие критерии интерпретации или транспарентности процессов программирования и обучения алгоритмов через призму Международной конвенции о ликвидации всех форм расовой дискриминации.