«(Де)гуманизация» юриспруденции?

В 1895 г. Томас Эдисон предрек крах коневодства – он был убежден, что вскоре вслед за велосипедом появится средство передвижения, которое сможет заменить одновременно двух лошадей и карету. Строго говоря, автомобили на тот момент уже существовали, но о массовом производстве речь не шла – медленные, хрупкие, громоздкие и требующие много топлива – они воспринимались скорее как забавные игрушки для богатых, а не как полноценное средство передвижения. Кроме того, в крупных городах содержать лошадей было дорого, и вообще они доставляли владельцам (и не только им) массу неудобств, но это был настолько традиционный способ передвижения, что об ином и помыслить было невозможно.

Тем не менее, прочитав в газете заметку о грядущей эре автомобилей, воодушевленный изобретатель Александр Уинтон пришел к банкиру, чтобы поделиться идеей разработки «кареты с мотором». Банкир, выслушав Уинтона, сообщил, что глубоко разочаровался в клиенте, и усомнился в его психическом здоровье – в конце концов, как может какое-то дурацкое приспособление заменить лошадь?

Однако Уинтон не опустил руки и к 1897 г. разработал и успешно продал один из первых на территории США автомобилей – покупателем был инженер Роберт Эллисон. На вырученные от редких продаж деньги Уинтон продолжал дорабатывать конструкцию, обмениваясь опытом с другими изобретателями по всей стране. Технические характеристики улучшались, преимущества лошадей становились все более сомнительными, и уже спустя пять лет Уинтон, Олдс и Форд выпускали автомобили тысячами. Масштабы производства требовали его интенсификации, и на заводы была внедрена система поточного производства, основанная на принципе конвейера, который в XX в. навсегда изменил индустрию и мир.

Искусственный интеллект (далее – ИИ), на мой взгляд, можно сравнить с подобной системой или с двигателем внутреннего сгорания, который, будучи результатом труда лучших умов своей эпохи, привел к началу массовой индустриализации и внес неоценимый вклад в переход от мануфактурного производства к промышленному. ИИ претендует на ту же роль, но уже в сфере интеллектуального труда – возможно, что он, как и двигатель внутреннего сгорания для XIX и XX вв., очертит контуры XXI в. и последующих столетий. Вместе с тем, когда речь заходит об использовании нейросетей в таких традиционно-гуманитарных отраслях, как юриспруденция, данная возможность зачастую воспринимается скептически – разве может языковая модель заменить человека?! ИИ – как автомобиль в XIX в. – воспринимается как забавная игрушка, практическая ценность которого, возможно, и не нулевая, но явно не стоит устроенной вокруг него шумихи. Не вдаваясь в противоположную крайность, заключающуюся в преувеличении возможностей ИИ и восприятии его либо как панацеи от всех бед, либо, напротив, как «ящика Пандоры», который нужно срочно обложить регуляциями и никогда не открывать, попробуем разобраться, чем языковые модели способны помочь юристам и смогут ли они заменить их.

С точки зрения архитектуры ИИ может строиться на основе различных подходов, но нейросети стремятся моделировать структуру человеческого мозга и – что особенно важно – способны оперировать в условиях неполной информации: т.е. «додумывать» недостающие фрагменты на основе вводных данных и собственного «опыта». Теоретически они должны быть способны, как и человек, проводить контекстуальный анализ поданного запроса, отбирать из собственного багажа знаний релевантную информацию, восстанавливать недостающие звенья и на выходе генерировать убедительный ответ. Отмечу, что пока ИИ особенно хорошо справляется именно с последней задачей – быть убедительным. Время от времени случаются сбои – нейросеть генерирует логически стройный текст на заданную тему, который при этом содержит ошибочную информацию. Отчасти это походит на речь студента, который, не зная правильного ответа на вопрос экзаменатора, уверенно выдумывает его на ходу.

Указанный цикл обработки информации практически не отличается от традиционной работы юриста – мы тоже используем данные из окружающей среды, обрабатываем их, применяя релевантные юридические навыки, и получаем готовый юридический продукт – например, драфт договора или консультационную услугу. Подготовка типовых шаблонов, поиск правовой информации, ведение и хранение документов уже сегодня автоматизированы и позволяют эксперту исключить значительную часть рутины из своей деятельности. Следовательно, важнейшей задачей ИИ должна стать автоматизация творческой деятельности юриста, которую невозможно оптимизировать машинными методами.

Итак, что же может ИИ, чего не могут юристы? В общем-то, ничего. Но есть нюансы.

Ключевой параметр – количество единовременно обрабатываемой информации. Достоверно не доказано, но предполагается, что объем человеческой памяти равен одному петабайту (или 1 млн терабайт). Это немало. Другое дело – объем кратковременной или оперативной памяти. Для человека он ограничен формулой «семь плюс-минус два» – т.е., увидев однократно ряд символов, человек, как правило, сможет сразу воспроизвести 5–9 из них. Объем оперативной памяти нейросети измеряется в токенах и составляет 32 тыс. токенов. Токены прямо не конвертируются в символы или слова, но один токен равен примерно четырем символам. Соответственно, объем оперативной памяти нейросети составляет порядка 128 тыс. символов против 5–9 единиц у человека. 128 тыс. символов – это практически книга, и если бы нейросеть была школьником и выполняла задание на пересказ текста, ровно столько она, один раз ознакомившись с источником, смогла бы воспроизвести дословно. Но это в теории – на практике количество токенов, с которыми может работать нейросеть в одном сеансе, обычно ограничивается, и сложные запросы приходится разбивать на несколько частей. Впрочем, инженеры могут замаскировать этот процесс и сделать его совсем или почти незаметным для конечного пользователя.

Из указанного должно следовать основное преимущество ИИ перед человеком – способность единовременно работать с колоссальными объемами информации. Для проверки данного тезиса я провел ряд экспериментов с одной из нейросетей и представляю вам их результаты.

Как известно, нагрузку нужно наращивать постепенно, поэтому первый тест был самым простым: я попросил ИИ перевести с английского на русский язык решение Его величества Апелляционного суда Англии и Уэльса¹. Текст решения не только был написан высокопарным языком королевского судопроизводства, но и посвящен вопросам допустимости указания ИИ как изобретателя в патентных заявках. Здесь важно сделать оговорку: языком нейросети по умолчанию является английский (т.е., если в запросе фигурирует перевод текста с английского на русский, нейросеть переводит с «родного» языка на «неродной»). С этим же фактором связано возможное использование в переведенных на русский язык текстах нетипичных для данного языка конструкций.

Я предложил ИИ для перевода примерно 10 страниц – фабулу дела и решение суда. Перевод не превзошел моих ожиданий, но в целом порадовал: сложные речевые обороты, с которыми справится не всякий человек, владеющий юридическим английским, нейросеть преобразовала в понятные предложения на русском языке. В целом текст по-прежнему ощущался несколько «машинным» (работавшие с любым онлайн-переводчиком поймут, о чем речь), однако это легко исправлялось – достаточно было поставить ИИ задачу переформулировать предложение или абзац, которые выглядели неестественно.

Учитывая, что перевод такого большого фрагмента текста занял у нейросети меньше пяти минут, а результат был довольно качественным, я решил, что первое испытание пройдено.

Далее я решил проверить способности ИИ к анализу и резюмированию – достаточно сложному интеллектуальному труду. Я попросил нейросеть дать краткий пересказ переведенной им ранее части текста – введения в фабулу рассматриваемого дела объемом примерно три страницы. За несколько секунд ИИ предоставил ответ, который, на мой взгляд, стоит привести полностью:

Дальнейшие попытки с другими фрагментами текста также оказались удачными, и я сделал вывод, что с функцией анализа текстов нейросеть действительно справляется намного быстрее и не хуже человека.

Следующий этап был крайне важен для меня как юриста – я хотел убедиться в умении ИИ верифицировать результаты его труда, чтобы не оказаться в неловкой ситуации. Я задал нейросети ряд несложных вопросов из сферы гражданского права, и в большинстве случаев получил приемлемые ответы. В экспериментах на более ранних версиях программного обеспечения мне удавалось «подловить» нейросеть на абсурдных вопросах, ответы на которые в рамках законодательства найти было невозможно, – теперь нейросеть «исправилась» и даже поправляла меня, если я запрашивал что-то бессмысленное.

Вместе с тем ИИ не всегда четко отграничивает правовые нормы друг от друга и порой приводит ссылки на положения законодательства, отдаленно относящиеся к предмету запроса. Еще хуже у него с предоставлением электронных ссылок на источники – например, когда я спросил у нейросети, где можно найти приведенные ею положения Гражданского кодекса, в ответ была предоставлена ссылка на Федеральный закон «О закупках и поставках сельскохозяйственной продукции, сырья и продовольствия для государственных нужд». Когда я указал нейросети на ошибку, она выдала новую ссылку на ГК, которая в этот раз привела к давно утратившему силу Приказу ФФОМС от 15 марта 2001 г. № 16 «Об утверждении форм ведомственного статистического наблюдения».

Результаты данного эксперимента я оценил как неудовлетворительные.

Далее я составил 10 различных документов с целью выяснить, реально ли подготовить соответствующий законодательству документ с помощью нейросети, не выискивая по нескольку часов нужную мне форму и не обращаясь к юристу. Среди составленных в ходе тестирования документов были несколько договоров купли-продажи и подряда, соглашение о конфиденциальности и два договора займа.

Важно уточнить, что результаты работы ИИ по созданию документов в большей степени зависят от запроса (промпта), переданного нейросети: чем он детальнее и подробнее, тем лучше результат, и наоборот – абстрактный запрос приведет к тому, что нейросеть запутается в данных и скорее всего выдаст совершенно неприемлемый текст. Создание качественного промпта, подробно описывающего структуру и желаемые особенности документа, может занять от нескольких минут до получаса и более. На практике для нейросети мы делаем несколько таких промптов в неделю, чтобы у пользователей была возможность использовать их по нажатию кнопки. Такие же промпты я использовал в рамках эксперимента.

В большинстве случаев первичный результат оказался скорее удовлетворительным – документы соответствовали минимальным требования законодательства. Более того, удалось доработать их также с помощью нейросети (для этого, впрочем, уже приходилось использовать познания в цивилистике). В целом документы, составленные нейросетью «с первой попытки», ощутимо уступали составленным юристом, но в то же время представляли собой приемлемую базу для дальнейшей работы. Я отказался принять результаты и запросил повторное формирование документов «с нуля» только в отношении нескольких договоров купли-продажи и подряда – то, что получалось у нейросети «на выходе», выглядело слишком сумбурным, и я не хотел разбираться в деталях, чтобы понять, какие из сгенерированных блоков текста подходят, какие – нет. Кроме того, я неоднократно просил нейросеть сокращать и перефразировать текст так, чтобы он был сформулирован более простым языком. В некоторых спорных ситуациях ИИ-ассистент давал вполне корректные комментарии о том, почему то или иное положение не рекомендуется включать в договор.

Таким образом, я решил, что итоговое «тестирование на профпригодность» ИИ прошел, но с важной оговоркой – любой результат его труда требовал «ручной» верификации юристом.

Возвращаясь к затронутой в начале статьи «автомобильной» тематике, ИИ можно сравнить с гоночным болидом – в идеальных условиях он способен демонстрировать феноменальные результаты, но эти «идеальные условия» должны предварительно подготовить люди. В ином случае ИИ – это «черный ящик», который может выдать как желаемый результат, так и поток «мусора».

Таким образом, на вопрос, вынесенный в подзаголовок, – заменит ли нейросеть юриста? – ответ, как представляется, может быть крайне осторожным: на данный момент любой созданный при помощи языковой модели текст требует верификации человеком, а значит, использование ИИ в юриспруденции сегодня может заменить труд разве что помощника юриста, притом помощника весьма непредсказуемого, хотя и старательного. Полноценной заменой юриста, к которой нуждающиеся смогут обращаться вместо специалиста-человека, ИИ станет еще не скоро. Впрочем, я неслучайно написал «станет» в утвердительном тоне – ведь первые автомобили тоже уступали лошадям…

Так или иначе, пока что человек торжествует над машиной, «дегуманизация» юриспруденции не состоялась, зато «гуманизация» – появление у юристов инструментария, способного многократно экономить время, силы и нервы, – стала немного ближе, что, безусловно, не может не радовать.