Верховный Суд опубликовал приказ председателя ВС от 3 сентября № 59-П об утверждении Концепции внедрения технологий искусственного интеллекта в судопроизводство РФ (далее – Концепция).
Предложенные Концепцией показатели преимущественно оценивают масштаб использования технологий искусственного интеллекта и скорость работы: долю судей, применяющих сервисы, количество подготовленных проектов документов, время поиска судебной практики. Но скорость сама по себе еще не означает повышение качества правосудия. Например, утверждение 80% сгенерированных проектов без существенных правок может свидетельствовать как о высоком качестве системы, так и о формировании у судей автоматического доверия к ее выводам.
В связи с этим представляется, что успех следует оценивать не только по сокращению сроков судопроизводства, но и по точности каждого конкретного инструмента, количеству исправленных ошибок, сохранению процессуальных прав сторон, безопасности данных и реальному снижению нагрузки на судебный аппарат с учетом затрат на создание и эксплуатацию системы.
На первом этапе наибольшую пользу, на мой взгляд, может принести автоматизация простейших и формализуемых процессов: проверка комплектности документов, их классификация, распознавание речи и разделение говорящих при протоколировании, техническая проверка текстов. Главным бенефициаром здесь станет суд и его аппарат. Стороны процесса, полагаю, выиграют только в том случае, если ускорение не будет достигаться за счет снижения качества рассмотрения дела.
Более того, есть риск возникновения информационной асимметрии: суд будет использовать внутренний алгоритмический анализ дела, тогда как стороны не всегда смогут понять, какие данные, критерии и судебные акты повлияли на вывод системы. В связи с этим реальную пользу адвокаты и прокуратура, как представляется, смогут получить только при наличии равного доступа к релевантным сервисам, прозрачности применения ИИ судом и возможности проверить и оспорить его результаты. Пока такие механизмы детально не определены, для представителей сторон речь идет о косвенных преимуществах – более быстрых процессах, точных протоколах и уменьшении количества технических ошибок.
Отрицать внедрение ИИ бессмысленно: он уже стал частью технологического развития. Но однозначного ответа на вопрос о соотношении пользы и вреда, на мой взгляд, быть не может. Сами по себе нейросети не являются ни полезным, ни вредным инструментом: итоговый эффект зависит от огромного количества факторов – конкретного сценария применения, качества модели и исходных данных, допустимой цены ошибки, квалификации пользователей, организации контроля, прозрачности алгоритмов, защищенности инфраструктуры, возможности оспорить полученный результат и многих иных критериев.
Как отмечалось выше, ИИ можно широко применять для автоматизации технических и организационных процессов в работе суда. Учитывая современный уровень развития нейросетей, полагаю целесообразным начинать с рутинных, проверяемых и легко управляемых задач. Здесь потенциальная польза, вероятнее всего, превышает риски. При этом передавать ИИ содержательную оценку обстоятельств дела, толкование норм права и формирование судебного решения на текущем этапе преждевременно.
Особенно острой является проблема работы с судебной практикой. ИИ может не только выдумать акт или цитату – подобные случаи уже неоднократно возникали и возникают в разных странах. Даже если найденный акт реален, он может быть нерелевантен конкретному спору. Современные модели пока недостаточно надежно учитывают всю совокупность фактов, различают юридически значимые обстоятельства и выявляют причинно-следственные связи в сложных или неоднозначных делах. В связи с этим формировать судебные решения на основании ИИ-подборок без глубокой проверки, опыта и экспертизы конкретного судьи, на мой взгляд, опасно.
Вызывает также вопросы заявленная в Концепции цель унификации судебной практики. Единообразие необходимо, но сложившаяся практика не всегда безупречна и может расходиться с законом или нуждаться в развитии. Представляется, если ИИ будет воспроизводить статистически преобладающий подход и предупреждать судью об отклонении от него, это способно законсервировать спорные позиции и затруднить изменение практики. ИИ должен показывать судье разные линии практики и их основания, а не «подталкивать» к наиболее распространенному решению.
Особенно неоднозначным представляется требование мотивировать отклонение от рекомендации ИИ. Судья должен мотивировать судебный акт, а не свое несогласие с алгоритмом. Требование актуально исключительно с точки зрения последующего обучения ИИ и улучшения системы, но первое время оно может усложнить работу и без того загруженной судебной системы.
Изложенное дает основания полагать, что при автоматизации технических и формализуемых процессов пользы, скорее всего, будет больше. При использовании ИИ в содержательной части правосудия – для оценки доказательств, толкования права и формирования решений – на текущем уровне развития технологий риски способны перевесить преимущества. Вопрос, на мой взгляд, должен заключаться не в том, внедрять ли ИИ вообще, а в том, для каких задач, на каком этапе и при каких гарантиях его допустимо использовать.
Ошибки могут привести не только к неправильному решению по отдельному делу, но и к массовому воспроизводству ошибочного подхода, закреплению некорректной практики, дискриминационным результатам и утечкам данных. В этом отличие алгоритмической ошибки от человеческой: она значительно легче масштабируется.
Резюмируя, отмечу, что нейросеть не является субъектом ответственности. Итоговый судебный акт остается актом суда, а судья обязан критически оценить использованные материалы. Однако было бы неверным возлагать весь риск на конкретного судью, если ИИ-система централизованно выбрана и внедрена судебной системой. Ответственность, полагаю, должна быть распределена: судья отвечает за осмысленную оценку материалов и принятое решение, судебная система и оператор – за правила применения, проверку качества и безопасность сервиса, разработчик – за технические дефекты в пределах своих обязательств. Концепция пока не устанавливает детальную модель такой ответственности. До масштабирования представляется необходимым определить порядок фиксации действий ИИ, уведомления сторон о его использовании, а также оспаривания его выводов, расследования системных ошибок и приостановления работы проблемной модели.
