«Легитимация технологий искусственного интеллекта: методика изучения на основе case study»: репортаж с выступления Леонида Косалса.

11 февраля 2021 года состоялся семинар научно-учебной группы Социально-правовые исследования, на котором выступил с докладом участник группы Леонид Янович Косалс, профессор кафедры экономической социологии. В семинаре также приняли участие Алена Леденева, профессор Университетского колледжа Лондона, Великобритания, и Леонид Симачев, директор центра исследований структурной политики ВШЭ. 

В современном мире появляется всё больше технологий и инноваций, использование которых вызывает в обществе вопросы о том, как эти новые технологии соотносятся с базовыми ценностями. Таким образом, может получаться так, что из-за разной общественной и государственной оценки, разного воздействия регуляторов одна и та же технология может получить совершенно разное развитие в различных странах. Примером такой технологии может быть технология распознавания лиц, работающая на базе алгоритмов машинного обучения: она получает широкое распространение в таких странах, как Россия и Китай, и куда более серьезно ограничена в применение в странах Европы и Северной Америки. В этих странах существенно различается правоприменительная практика, касающаяся этой технологии и применения к ней законодательств о защите персональных данных. При этом докладчик подчеркивает, что сами эти законы не сильно отличаются от страны к стране.

Леонид Янович предлагает рассматривать легитимацию как систему социального иммунитета, который становится “фильтром”, замедляющим распространение инноваций в конкретном обществе. Значит, и понимание того, как работают эти “фильтры”, поможет прогнозировать перспективы различных технологий в разных социальных, политических и культурных контекстах.

Важно разделять понятия легальности – формальные правовые ограничения, и легитимность – неформальные социальные ограничения. Легитимация – это именно процесс приобретения легитимности.

Сама легитимность существует в разных сферах: технология может быть легитимной с точки зрения государства, но не с точки зрения населения или бизнеса. В каждой из сфер легитимация может иметь свои особенности и идти со своей скоростью. Именно виды легитимности в разных сферах предлагается изучать в рамках исследований, которые планируются в соответствии с заявленной методикой.

Можно также говорить о трех видах легитимности: прагматической, моральной и когнитивной. Регина Решетеева в рамках дискуссии обратила внимание на то, что это деление не самое однозначное, так как сложно разделить когнитивную легитимность и две других. Для целей исследования легитимации технологий Леонид Косалс предлагает понимать когнитивную легитимность как знание о технологии, моральную легитимность как наличие морального оправдания технологии, и прагматическую легитимность как наличие убеждения о существовании практической пользы технологии.

«Существует противоречие между прагматической и моральной легитимностью: достижение прагматической легитимности может сопровождаться (и иногда сопровождается) отсутствием морального оправдания, связанного с опасениями потенциального или реального вреда высшим социальных целям. От того, как разрешается этот конфликт, зависит скорость и успешность распространения технологий ИИ, а также их реальный социально-экономический эффект, соотношение пользы и вреда», – говорит Леонид Косалс.

Особый интерес представляет распространение нелегитимных технологий: в рамках исследований специально планируется рассмотреть кейс распространения инновации с “оспариваемой” легитимностью - технологии распознавания лиц.

Далее Леонид Янович и коллеги-студенты конкретизировали задачи исследования и индикаторы, которые они планируют использовать для определения стадий процесса легитимации: от зарождающейся инновации до инновации на стадии широкого распространения.

В рамках дискуссии Юрий Симачев, глава центра структурной политики, задал вопрос о возможности существования подобного социального иммунитета (а не только законодательного механизма ограничения) в российской реальности. В рамках исследования необходимо подробно посмотреть, к примеру, на то, как конкретно поток исков мог изменить правоприменительную практику.

Репортаж подготовила:
Курихина Дарья
Участница научной группы социально-правовых исследований
Стажер-исследователь Лаборатории экономико-социологических исследований.