Как стало известно «АГ», адвокат Алексей Аванесян при изучении обвинительного приговора в отношении своего подзащитного, признанного виновным по подп. «а», «в» ч. 5 ст. 290 УК РФ, выявил признаки использования искусственного интеллекта. Он обжаловал приговор в апелляцию, однако жалоба была оставлена без удовлетворения.
Защитник обжаловал приговор, предположительно частично составленный с помощью ИИ
4 июня Ейский суд вынес приговор, которым признал С. и А. виновными в совершении преступления, предусмотренного п. «а», «в» ч. 5 ст. 290 УК РФ. Им было назначено наказание в виде семи лет лишения свободы с отбыванием наказания в ИК строгого режима, с лишением права занимать должности в правоохранительных органах, связанных с осуществлением функций представителя власти, на пять лет. В срок отбытия наказания зачтено время содержания осужденных под стражей с 6 июня 2024 г. до вступления приговора в законную силу из расчета один день содержания под стражей за один день лишения свободы в колонии строгого режима в соответствии с п. «а» ч. 3.1 ст. 72 УК РФ.
Защитник осужденного С. Алексей Аванесян подал апелляционную жалобу, в которой помимо прочего указал, что в тексте приговора имеются пять фрагментов с явными признаками машинного происхождения:
1. «Активная позиция защиты каждого подсудимого – это право каждого подсудимого, но линию защиты выбирает каждый самостоятельно, и чем больше суду представлялись доказательства стороной защиты о якобы невиновности подсудимых, о якобы допущенных процессуальных нарушениях в период предварительного следствия, тем отчетливее вырисовывалась картина обратного – объективная сторона данного преступления никуда не делась. Все показания подсудимых, свидетелей, по правдоподобному объяснению объективного положения только убеждают суд в причастности обоих подсудимых к инкриминируемому им преступлению, свидетельствуют о повышенной социальной опасности содеянного, так как подсудимые упорно отрицали объективно установленные факты».
2. «Все показания свидетелей, подсудимых, все интерпретации целой плеяды защитников доказательств по делу не отменяют объективной стороны данного состава преступления в данных обстоятельствах».
3. «А вот в обеих проверках по выявлению правонарушений, по которым Арбитражный суд позднее вынес два решения, чудесным образом участвовали подсудимые, несмотря на весь прекрасно организованный и подтвержденный распоряжением ГУ МВД по Краснодарскому краю зональный контроль со стороны ГУ МВД России по Краснодарскому краю, о котором суду поведала свидетель защиты».
4. «Вообще сторона защиты при рассмотрении данного уголовного дела, несмотря на то, что суд уделил достаточно времени рассмотрению каждого ходатайства, удовлетворял ходатайства защитников, постоянно проводила какие-то свои параллельные судебному следствию действия, получала искомые документы и только после этого представляла их суду, что вело к затягиванию процесса и к нарушению прав других участников процесса, так как вынуждала суд проводить повторные запросы, в том числе и в государственные организации».
5. «Профессиональная компетентность старшего офицера полиции, юриста высшей квалификации, его личностные качества как решительного должностного лица, которому невозможно навязать чью-то волю, в том числе и со стороны младшего по званию офицера, у суда сомнений не вызывают».
Алексей Аванесян отметил, что использованные логические конструкции искусственные, противоречат принципу презумпции невиновности. «Смысловая нагрузка построена на риторическом противопоставлении, не отражающем анализ доказательств. Повтор “якобы” типичен для автогенерации с негативной коннотацией с признаками предвзятости. Грамматически и стилистически фразы нарушены, логика построения отсутствует. Текст перегружен вводными конструкциями, что типично для генеративных моделей. Фраза “по объяснению объективного положения” является бессмысленной с юридической точки зрения. Употребление словосочетания “какие-то свои” недопустимо в судебном акте. Это разговорная конструкция, не соответствующая тону официального документа. Фраза расплывчата, не конкретизирована, не имеет доказательной поддержки. Суждения автора эмоционально окрашены, нарушают принцип беспристрастности суда. Фразы построены декларативно, без ссылки на конкретные действия или доказательства. Такая риторика характерна для генеративных систем, а не судебной аналитики», – пояснил адвокат.
Согласно ст. 297 УПК РФ приговор должен быть законным, обоснованным и мотивированным. В соответствии со ст. 17 УПК судья оценивает доказательства по своему внутреннему убеждению, а согласно ст. 15 УПК – правосудие осуществляется на основе состязательности и равенства сторон. Использование ИИ противоречит этим положениям, так как исключает личное правовое размышление судьи, указал Алексей Аванесян. В п. 5 ч. 2 ст. 61 Закона о статусе судей в РФ закреплено, что судья несет персональную ответственность за принятые решения. «При использовании ИИ невозможно обеспечить указанную ответственность», – заметил адвокат. В Постановлении КС от 31 марта 2023 г. № 13-П/2023 указано: «Недопустимо воспроизведение формальных, шаблонных формулировок, не отражающих индивидуальные особенности дела».
Алексей Аванесян обратил внимание на то, что ни в УПК, ни в других федеральных законах РФ не предусмотрено использование искусственного интеллекта для подготовки приговоров. «Его скрытое применение нарушает принцип законности», – указал он.
Алексей Аванесян просил вынести в адрес Ейского городского суда Краснодарского края частное представление с целью обратить внимание суда на допущенные нарушения, связанные с изготовлением судебного акта с использованием искусственного интеллекта (автогенерации), и потребовать принятия мер по устранению подобной практики.
Также изложив доводы относительно невиновности доверителя, осужденного по п. «а», «в» ч. 5 ст. 290 УК, адвокат просил отменить обвинительный приговор в отношении С. и вынести новый, признав его виновным по ч. 3 ст. 159 УК РФ, назначив наказание, не связанное с фактическим лишением свободы, засчитав в срок наказания период содержания под стражей.
Кроме того, Алексей Аванесян обратился в экспертную организацию с вопросом: содержатся ли в представленных на исследование материалах (фрагментах текста приговора) лингвистические признаки генерации текста с использованием технологии искусственного интеллекта. Согласно заключению эксперта в этих материалах содержатся лингвистические признаки отклонения текстов от нормы юридического подстиля языка, с большой долей вероятности свидетельствующие о генерации текста с использованием технологии искусственного интеллекта.
Рассмотрев доводы адвоката о несоответствии приговора суда требованиям ст. 297 УПК, апелляционный суд посчитал, что они не подлежат удовлетворению. Так, указала апелляция, обжалуемый приговор изложен в ясных и понятных выражениях, в отсутствие непринятых сокращений и слов, неприемлемых в официальных документах. Выбранная судом стилистика изложения определенных умозаключений не влияет на законность принятого судом решения, не противоречит нормам Уголовно-процессуального закона РФ и Постановлению Пленума ВС от 29 ноября 2016 г. № 55 «О судебном приговоре». Апелляционная жалоба была оставлена без удовлетворения.
Комментарий защитника
В комментарии «АГ» Алексей Аванесян поделился, что сторона защиты обратилась к специалисту, оплатила его работу и представила заключение в суд. Оно было исследовано в судебном заседании и приобщено к материалам дела, но апелляция не дала ему никакой оценки. «Мы хотели, чтобы краевой суд дал оценку заключению либо инициировал проверку. Суд имеет право провести проверку, чтобы установить, что судья первой станции, например, использовал факсимиле при подписи приговора и протокола, что недопустимо», – пояснил адвокат.
Алексей Аванесян отметил: у стороны защиты не было претензий к тому, что при изготовлении приговора использовался ИИ в целом – вопрос вызвало то, что ИИ использовался частично, в пяти фрагментах. «Это говорит о том, что либо судья, подписывая приговор, его не читал, либо искусственный интеллект используется только там, где необходимо обойти неудобные моменты и те вещи, которые они не могут описать. Возможно, искусственному интеллекту была поставлена задача: дать оценку доказательствам, которые были исследованы в судебном заседании, либо доказательствам защиты, и их проигнорировать. Если бы приговор писал ИИ целиком, то он основывался бы на протоколе судебного заседания, всех материалах дела и не смог бы обойти грубые нарушения, которые там были», – полагает он.
По мнению Алексея Аванесян, применение искусственного интеллекта при составлении приговора – прекрасное нововведение, с которым не стоит бороться, но которое необходимо урегулировать. «Сейчас ИИ используют некоторые адвокаты, судьи и прокуроры, это очень удобно. Важно использовать его во благо, а не для того, чтобы обойти закон», – подчеркнул он.
Алексей Аванесян посчитал, что применение искусственного интеллекта в судебной системе очень полезно – главное, чтобы суд проверял то, что написала машина. «С учетом того, как суды перегружены, пусть аудио и протоколы судебного заседания анализируют ИИ. Все равно мы всё проверяем, слушаем оригинал и читаем протокол, – отметил адвокат. – Имеется множество ИИ-моделей, необходимо выбрать один наиболее подходящий. Так, у ChatGPT есть слабая сторона: он придумывает судебные акты, это знает каждый юрист. Если таким же образом какой-то стажер или помощник в Ейском городском суде так же будет работать, судья сошлется на какое-то несуществующее решение суда. Никто этого не заметит. Поэтому нужен порядок».
Алексей Аванесян рассказал, что намерен обратиться в кассацию. «Учитывая, что это, наверное, первое дело при наличии соответствующего заключения, очень радует, что есть такие методики», – заключил он.
Мнения адвокатов
Адвокат BGP Litigation Алексей Лямин отметил, что действующее процессуальное законодательство по своей сути уже содержит запрет на использование искусственного интеллекта при составлении приговора. «В частности, исключительно суд обязан разрешать вопросы, которые должны найти отражение в приговоре, и именно суд обязан составить приговор. Аналогичное требование предъявляется к обвинительным заключению и акту, которые должны быть составлены следователем и дознавателем. В свою очередь, для других участников процесса таких ограничений нет, и многие коллеги уже используют возможности искусственного интеллекта, который заменяет им помощников и стажеров. Он подкупает удобством и скоростью работы, результат можно получить практически мгновенно. Однако нельзя забывать и о рисках: искусственный интеллект до сих пор склонен к фантазированию и далеко не всегда способен исправить собственные ошибки», – заключил он.
«Сама по себе возможность использования ИИ при составлении любого судебного решения вызывает в профессиональном сообществе серьезные дискуссии. Действительно, действующее уголовно-процессуальное законодательство не предусматривает возможности использования искусственного интеллекта, в особенности при составлении приговора. Спорность применения ИИ при составлении приговора заключается в том, что приговор постановляется судом в совещательной комнате, где должны быть обеспечены тайна судебного совещания и спокойное обсуждение вопросов, подлежащих разрешению, с соблюдением гарантий независимости судьи. При таких обстоятельствах возникает закономерный вопрос: может ли считаться нарушением тайны совещания генерирование текста и отдельных фрагментов приговора или фактическое обсуждение тезисов с таким цифровым помощником», – пояснил адвокат практики уголовного права и процесса «Инфралекс» Мартин Зарбабян.
По его мнению, главное условие для использования ИИ при составлении судебных решений – соответствие акта требованиям законности, обоснованности и справедливости. «Утилитарный взгляд на данную проблематику подсказывает, что активное использование ИИ при составлении судебных решений может сократить сроки рассмотрения дел, многократно повысить эффективность правосудия и качество принимаемых решений. Однако если ИИ сейчас активно внедряется, а в отдельных случаях уже используется при оказании врачами медицинской помощи, то, очевидно, что широкое применение ИИ в ходе осуществления правосудия и практической деятельности – это логичное и закономерное развитие правоприменительной деятельности в эпоху цифровых технологий. В данном случае важно другое – чтобы такое применение ИИ сопровождалось одновременным сохранением персональной ответственности человека за принятое решение, написанное или сгенерированное с помощью цифрового помощника», – заключил Мартин Зарбабян.
Позиция ФПА
Вице-президент Федеральной палаты адвокатов РФ Евгений Рубинштейн отметил, что развитие информационных технологий затрагивает все сферы человеческой жизни. Судопроизводство и иные виды правоприменения не стали исключением. «Со временем мы будем наблюдать более широкое использование ИИ, и перед участниками процесса будут вставать совершенно неожиданные вопросы о правомерности обращения к нему. В сложившихся современных условиях правоприменения использование ИИ вряд ли может ухудшить качество рассмотрения уголовных дел. Более того, можно предположить, что объективное использование возможностей ИИ сейчас только улучшит качество судебных актов. Другой вопрос, что вносит сведения в систему ИИ человек с присущим ему правосознанием, профдеформацией и целеполаганием. Поэтому надеяться, что применение ИИ принципиально изменит ситуацию, не приходится», – полагает он.
По мнению Евгения Рубинштейна, со временем встанет вопрос о регулировании использования ИИ в правоприменении. «На сегодняшний момент не представляется возможным определить исчерпывающий перечень вопросов, которые должны быть урегулированы. Думается, что процесс регламентации будет носить ответный характер на возникающие проблемы. Между тем уже сейчас можно предположить, что ИИ сыграл бы позитивную роль в разрешении сущностных проблем правоприменения. Например, в уяснении вопроса, на все ли доводы участников судебного разбирательства в судебном акте были даны ответы. Или учтены ли при вынесении решения доказательства, на которые ссылается участник судопроизводства. При отрицательном ответе на поставленные вопросы суд проверочной инстанции мог бы отменять судебные акты, не прибегая к рассмотрению по существу. При таком использовании ИИ правоприменители не смогут игнорировать доводы и вынуждены будут рассматривать их в полном объеме», – считает вице-президент ФПА РФ.
«Сейчас нет запрета обращения к ИИ любого из участников процесса. Сами по себе систематизирующие правоприменительные акты упрощают использование ИИ, поэтому видится риск утери навыков юридического письма, анализа документов, формирования защитительной позиции и работы над подготовкой и участия в прениях. Законодатель уже достаточно давно сформировал тренд на упрощенчество в уголовном процессе, сначала введя, а в последующем развивая особые порядки судебного разбирательства. Поэтому существенно ухудшить положение ИИ уже не сможет», – резюмировал он.
