Искусственный интеллект (ИИ) уже трудно обсуждать как технологическую новинку. Этот этап по существу пройден. ИИ входит в государственное управление, бизнес-процессы, юридическую практику, документооборот, аналитику данных и принятие решений. Поэтому вопрос о том, стоит ли применять данные технологии, звучит все реже: они уже активно применяются.
Для юридического сообщества принципиален другой вопрос: можем ли мы внедрять ИИ в масштабе так, чтобы люди, бизнес и государство могли ему доверять? Масштабирование ИИ без доверия – это не цифровая трансформация, а приумножение рисков. Чем больше решений, документов, рекомендаций и оценок проходят через алгоритмические системы, тем важнее понимать, кто и за что отвечает, какие данные используются, как проверяется результат и что происходит, если алгоритм ошибся.
На первый взгляд может показаться, что доверие к ИИ – это прежде всего вопрос качества модели. Если модель быстрая, точная, защищенная и отечественная – значит, ей можно доверять. Но для юриста такой ответ примитивен, а потому неприемлем.
Качество модели важно, но оно не исчерпывает проблему доверия. Одна и та же модель может быть допустимой в справочном сервисе и рискованной в системе, которая влияет, к примеру, на доступ человека к услуге, кадровое решение или юридически значимый результат. Поэтому доверять нужно не только модели. Доверять нужно всей системе ее применения.
Именно здесь возникает потребность формирования архитектуры доверия.
Доверие к ИИ должно включать данные, процедуру, человека, который проверяет результат, организацию, которая внедрила систему, правила распределения ответственности и механизм, с помощью которого человек может оспорить ошибочное решение. Это необходимо для того, чтобы технологический результат стал социально приемлемым, управляемым и ответственным.
В российской правовой дискуссии уже обозначены важные элементы будущего регулирования ИИ: риск-ориентированный подход, доверенные модели, информирование граждан, маркировка синтезированного контента, распределение обязанностей между участниками ИИ-системы, возможность обжалования решений, принятых с использованием нейросети.
Однако законодатель может задать рамку, но доверие не возникает автоматически из факта принятия закона или включения модели в реестр – оно формируется в каждом конкретном ИИ-проекте. Его нельзя просто заявить. Его можно только построить.
На мой взгляд, архитектура доверия отвечает, как минимум, на семь вопросов.
Первый: зачем мы применяем ИИ?
Многие цифровые проекты начинаются с абстрактного «надо внедрить ИИ». Но если процесс изначально хаотичен, ИИ не сделает его зрелым – скорее, ускорит хаос. В связи с этим первым шагом должно быть определение цели: что именно требуется улучшить – скорость обработки обращений, качество анализа документов, выявление ошибок, снижение нагрузки на сотрудников?
Без ясной цели ИИ превращается в дорогую игрушку с серьезными правовыми последствиями. Особенно опасно внедрение по принципу «сначала запустим, потом разберемся». В юридически значимых сферах такой подход недопустим.
Второй: какие данные мы передаем системе?
Нейросети «питаются» данными, и для юриста это зона профессиональной ответственности. Необходимо понимать, какие сведения используются, где они обрабатываются, кто имеет к ним доступ, можно ли их обезличить и не нарушается ли конфиденциальность.
Особое значение это имеет для адвокатской деятельности, где информация зачастую связана с тайной доверителя, коммерческой тайной, персональными данными, стратегией защиты или переговорной позицией. Передача таких сведений в неясный внешний сервис без должной оценки может создать риск, не сопоставимый с полученной экономией времени.
Локальный запуск модели в закрытом контуре – важная мера. Но сам по себе он еще не означает полное доверие. Важен технологический суверенитет. При этом суверенность не равна безошибочности: отечественная модель тоже может ошибаться, искажать выводы и уверенно создавать правдоподобный, но неверный по содержанию и выводам текст.
Третий: каков уровень риска конкретного сценария?
Не все форматы работы с нейросетями одинаковы. Одно дело – генерация черновика письма, другое – работа ИИ, влияющая на получение услуги, доступ к работе или юридически значимое решение.
Чем сильнее нейросеть влияет на права и интересы человека, тем выше должны быть требования к проверке материалов, созданных ИИ, объяснимости, человеческому контролю и ответственности. Поэтому риск-ориентированный подход должен существовать не только в нормативном регулировании, но и в управленческой практике.
Четвертый: где в системе находится человек?
В отношении ИИ зачастую возникают две крайности. Первая: все отдать машине, потому что она быстрее и «объективнее». Вторая: ничего не использовать, потому что есть риски. Обе позиции, на мой взгляд, слабы.
Зрелая модель иная – ИИ может готовить, анализировать, структурировать, предлагать варианты и помогать в поиске аргументов. Но в значимых ситуациях человек должен сохранять контроль, способность понять результат и оставлять за собой полномочие принятия окончательного решения.
Формального наличия человека в этом контуре недостаточно. Если сотрудник просто нажимает кнопку «согласен» после рекомендации ИИ – это не человеческий контроль, а формальность. Реальный человеческий контроль означает, что специалист понимает ограничения системы, критически оценивает результат и лично отвечает за итоговое решение.
Для юридической профессии это особенно важно. Адвокаты и юристы не вправе подменять собственное профессиональное суждение «машинным» текстом. ИИ может подготовить черновик правовой позиции, но он не знает дело так, как его знает, например, адвокат, выступающий в качестве защитника или представителя, и не отвечает перед доверителем за последствия ошибки.
Пятый: можно ли объяснить результат?
Один из главных источников тревоги, связанной с использованием ИИ, – непрозрачность пути, по которому система пришла к выводу. Система решила, но не объяснила. Отказала, но не раскрыла логику. Как защищаться от решения, механизм которого человеку недоступен?
Для доверенного ИИ недостаточно уведомить человека: «здесь использовался искусственный интеллект». Это важно, но этого мало. Человек должен понимать хотя бы в общих чертах, какие данные и обстоятельства повлияли на результат. Иначе право на обжалование может оказаться формальным.
Шестой: кто несет ответственность за ошибки ИИ?
ИИ – это сложная цепочка: модель, данные, инфраструктура, настройки, пользовательские действия, регламенты и контроль. Поэтому ответственность не может быть устроена примитивно. Но один принцип должен быть абсолютно понятен: если организация внедряет ИИ, она не вправе потом сказать человеку: «Так решила система» – систему кто-то выбрал, настроил, допустил к работе, определил сферу применения и порядок проверки. Основная опасность – «коллективная безответственность», когда каждый участник цепочки формально за что-то отвечает, но всегда может «указать на другого».
Для юридической профессии это означает, что результат, включенный в правовую позицию, документ, консультацию или процессуальную стратегию, не может быть «ничьим». Если адвокат, юрист использовал ИИ и принял результат в работу, он отвечает за профессиональное решение использовать или не использовать этот результат.
Седьмой: что происходит при ошибке?
Ошибки неизбежны, и здесь не стоит питать иллюзий. Однако опасность представляет скорее не ошибка, а система, в которой ошибку нельзя обнаружить, объяснить, исправить и обжаловать. Доверенный ИИ невозможен без учета инцидентов, процедуры пересмотра, механизма обращения, компенсации вреда и понятного порядка действий при сбое.
Здесь появляется важная правовая идея – право на разумное недоверие к ИИ. Это не «право на невежество», не отказ от прогресса и не призыв остановить технологическое развитие. Это право человека знать, когда ИИ влияет на значимое решение; понимать общую логику такого решения; возразить, потребовать пересмотра, обжаловать и получить компенсацию, если вред причинен использованием технологии.
Люди доверяют не системам, которые никогда не ошибаются – таких систем нет. Люди доверяют системам, где понятно, кто действует, по каким правилам, как проверяется результат и кто отвечает, если что-то пошло не так.
Из этого следует практический вывод: каждому значимому ИИ-проекту нужен правовой паспорт.
Такой паспорт не должен восприниматься как бюрократическое излишество. Это страховочный правовой каркас, который позволяет заранее определить ключевые параметры проекта: цель применения ИИ, категории обрабатываемых данных, запрещенная для передачи информация, уровень риска, используемая модель или сервис, порядок проверки результата, ответственное лицо или подразделение, правила хранения и аудита, порядок информирования человека, механизм обжалования, действия при ошибке или инциденте.
В отсутствие такого паспорта организация зачастую начинает отвечать на критические вопросы слишком поздно – после утечки информации, при получении жалобы, в случае ошибочного отказа, спорного решения или репутационного кризиса.
Для адвокатуры и юридического сообщества эта логика имеет особое значение. Юрист будущего – это не человек, который просто научился писать хорошие запросы к нейросети. И не человек, который заранее отвергает любые технологии. Юрист будущего – архитектор доверия между человеком, алгоритмом, бизнесом и государством. Он должен понимать технологию настолько, чтобы не бояться ее, и понимать право настолько, чтобы не испытывать ложных иллюзий. Его задача – создавать условия, при которых развитие не нивелирует ответственность, профессиональную тайну, состязательность, объяснимость и возможность защиты.
В заключение добавлю, что масштабное внедрение ИИ неизбежно. Но масштабировать нужно не только модели, вычислительные мощности и сервисы, а в первую очередь доверие.
Доверенный ИИ – это не «национальная» или «суверенная» модель с высокими показателями эффективности. Это система, в которой известно, какие данные используются, кто проверяет результат, кто отвечает за ошибку и как человек может защитить свои права и законные интересы.
