Как сообщалось ранее, 16 ноября в Москве, в отеле «Арарат Парк Хаятт», при поддержке Федеральной палаты адвокатов РФ прошел II Московский адвокатский форум, который собрал 200 адвокатов из 51 субъекта Российской Федерации. В рамках третьей – стратегической – сессии форума участники мероприятия обсудили вопросы, касающиеся искусственного интеллекта (ИИ) и этических аспектов его использования в работе адвокатов.
Стратегическую сессию открыл ее модератор – советник ФПА РФ Юрий Пилипенко, сообщает пресс-служба ФПА РФ. Ситуацию со стремительным развитием технологий ИИ он поставил в один ряд с ветхозаветной историей о строительстве Вавилонской башни, финал которой известен. Юрий Пилипенко подчеркнул, что попытка человека создать свое интеллектуальное подобие уже приводит к тому, что это подобие по некоторым показателям становится более интеллектуальным, чем его создатель.
Что можно поручать ИИ, а что – нет?
Право выступить первым Юрий Пилипенко предоставил академику Российской академии наук, декану философского факультета ГАУГН, руководителю Совета по методологии искусственного интеллекта и когнитивных наук РАН Владиславу Лекторскому. Тот сообщил, что возглавляемый им Совет был создан еще 20 лет назад, в него входят специалисты в разных областях, в том числе юристы, экономисты, психологи, математики, философы. Члены Совета ежегодно собираются на конференциях и других мероприятиях, чтобы обсудить актуальные темы, связанные с ИИ.
Спикер обозначил проблемные вопросы: «Что можно поручать искусственному интеллекту, а что поручать ему нельзя? Как сделать, чтобы человек оставался человеком?».
По мнению Владислава Лекторского, одной из наиболее острых проблем, спровоцированных использованием ИИ, является трансформация научной парадигмы. Сейчас ИИ позволяет обрабатывать колоссальные массивы данных и строить высокоточные прогнозы, однако зачастую логика принятия им решений остается непрозрачной для человека. Возникает риск функционирования в «непонимаемом мире», где технологическая точность результата не сопровождается его концептуальной объяснимостью.
В социальной сфере наблюдается двоякий эффект. С одной стороны, технологии ИИ открывают беспрецедентные возможности для персонализации образования и создания цифровых двойников человека. С другой – существуют серьезные опасения относительно возникновения «цифровой тупости» и утраты навыков самостоятельного критического мышления. Аналогичная дилемма актуальна для медицины: высокая эффективность автоматизированной диагностики сталкивается с проблемой доверия и риском совершения фатальных ошибок в ситуациях, непосредственно влияющих на жизнь и смерть пациента.
Владислав Лекторский обратил внимание адвокатов, что юридическое сообщество всерьез обсуждает вопрос правосубъектности систем ИИ, установления режима их прав, ответственности и даже защиты имущества. Рассматриваются вопросы охраны интеллектуальной собственности при создании различного контента ИИ-моделями. Эксперты подчеркивают, что ИИ не должен рассматриваться исключительно как вспомогательный инструмент; его статус будет эволюционировать в сторону партнерского взаимодействия, что требует принципиально новых юридических определений.
Ключевым вызовом, по мнению Владислава Лекторского, остается сохранение человеческой идентичности. Чрезмерное делегирование полномочий алгоритмам несет риск «расчеловечивания». В связи с этим важнейшей задачей профессионального юридического сообщества становится разработка механизмов регулирования, которые позволят эффективно использовать потенциал ИИ, сохраняя при этом основополагающие принципы свободы воли, ответственности и автономии личности.
Юрий Пилипенко, поблагодарив спикера за выступление, отметил: «Очень здорово, что вы высказались об искусственном интеллекте без свойственного во многих местах пренебрежения или предубеждения по отношению к искусственному интеллекту».
Главная проблема использования ИИ – галлюцинирование
Советник ФПА РФ Ольга Шварц рассказала о конкретных проблемах, с которыми в зарубежных странах уже сталкиваются адвокаты, применяющие ИИ. По ее словам, задача при использовании ИИ состоит в том, чтобы «использовать его нам, а не ему нас».
Главной проблемой она назвала «галлюцинирование» ИИ: он выдает несуществующие цитаты, источники и судебные прецеденты. Если для студента это грозит лишь незачтенной работой, то адвокат, ссылающийся в суде на несуществующий прецедент, рискует гораздо серьезнее. Чем сложнее запросы адвоката к ИИ, тем больше ИИ старается угодить своему пользователю, дав ему то, что он хочет увидеть, даже ценой выдачи недостоверной информации.
Ольга Шварц привела данные базы дел, по которым судами выявлено использование адвокатами информации, «сгаллюцинированной» ИИ. Эту базу ведет парижский юрист Дамьен Жавлатен с 2023 г. По состоянию на 11 ноября текущего года в ней собрано 2273 дела из всех стран мира, насчитывающих 5169 некорректных ссылок, придуманных ИИ. Из них 1304 инцидента относятся к делам, где граждане представляли себя в суде сами, а в 911 случаях галлюцинации ИИ содержались в документах, представленных в суд адвокатами. На США приходится около 69% всех записей о таких инцидентах (613 дел).
Наиболее обширная практика привлечения к ответственности за использование ИИ сложилась именно в США, где адвокаты, судьи и прокуроры состоят в единой ассоциации юристов. Санкции за использование ИИ варьируются от штрафа, взыскания судебных издержек и отстранения от дела до приостановления лицензии на полгода или год и лишения статуса. Общая сумма штрафов во всех странах, по которым ведется наблюдение, достигает 1,6 млн долларов. Первым лишенным лицензии в Великобритании стал индийский адвокат Ашок Кумар, который, несмотря на то что его неоднократно уличали в использовании ИИ, постоянно отрицал свою вину.
Схожая практика есть и в России. Она сложилась в основном в арбитражных судах, но недавно инцидент был зафиксирован и при рассмотрении уголовного дела: адвокат попросил ИИ сделать выжимку из протокола, и тот не только исказил показания свидетелей, но и «придумал» новых, свидетельствующих в пользу защиты.
Как пояснила Ольга Шварц, адвокатские сообщества разных стан разрабатывают исключительно рекомендательные документы по использованию ИИ в профессиональной деятельности. Среди рисков, от которых предостерегают такие рекомендации, – нарушение авторских прав, разглашение персональных данных и адвокатской тайны (материалы нельзя загружать в открытые иностранные ИИ-модели), а также гонорарная политика: во многих американских штатах говорят о конце практики почасовой оплаты. Рекомендации предполагают, чтобы результаты деятельности ИИ проверял только человек и ответственность за документы лежала на адвокате. Крупным юридическим фирмам рекомендовано создавать закрытые внутренние ИИ-системы, а небольшим рекомендуют анонимизировать данные при их загрузке в общедоступные ИИ-модели.
После завершения выступления спикера Юрий Пилипенко в качестве резюме кратко перечислил те виды нарушений при использовании ИИ, за которые адвокат может быть привлечен к ответственности: использование непроверенной информации с галлюцинациями ИИ, нарушение авторского права, нарушение адвокатской тайны при передаче информации на обработку ИИ, а также нарушение гонорарной политики.
Философский взгляд на ИИ
Первый вице-президент ФПА РФ Михаил Толчеев назвал проблему галлюцинаций ИИ не столь серьезной: источники нужно проверять, а если задействовать несколько ИИ-систем, которые перепроверяют друг друга, она сводится к минимуму. Простые судебные споры в некоторых юрисдикциях уже полностью переводятся на рассмотрение с помощью ИИ, а возникающие из-за этого ошибки решаются страхованием. При этом ошибается ИИ в разы реже человека, поскольку у него нет эмоционального фона, сужающего сознание.
Спикер предложил осмыслить использование ИИ с философских позиций. Человеческий разум он представил как распределенную когнитивную сеть, которая создала язык, письменность, культуру и пользуется ими. После оцифровки накопленных человечеством знаний ИИ с огромной скоростью обрабатывает эти знания и обращается к «узелкам» когнитивной сети. Главная проблема состоит в том, что пользователи ИИ получают лишь результат, выпадает весь процесс соотнесения выработки ответа с картиной мира. В результате такой практики использования ИИ люди перестают думать. Если ИИ-помощники станут слишком удобными, судьи и адвокаты перестанут перепроверять результаты работы ИИ и будут принимать решения на их основе.
На поле юриспруденции – символической системы, основанной на языке, – ИИ «всегда нас переиграет»: «он гораздо лучше законник, чем мы с вами», убежден Михаил Толчеев. А вот этика, внутренний нравственный закон – это то, что, по его мнению, глубже и важнее. Этика не позволит людям стать рабами ИИ.
Спикер выделил три кардинальные опасности использования ИИ: утрату свободы воли, когда постановку задач и принятие решений станет слишком удобно делегировать машине; предвзятость данных, которую ИИ воспроизводит и умножает; а также то, что когда ИИ возьмет на себя функции начинающих специалистов, которым обычно передают рутинные операции, не будет формироваться опыт, который необходим, чтобы стать специалистом высокого класса.
Первый вице-президент ФПА РФ считает, что ценность юриста заключается не в умении найти в законе нужную статью, а в интерпретации и толковании права, которая невозможна без этики и высших понятий о добре и зле. Адвокат в эпоху ИИ будет зарабатывать на ответственности за подпись под каждым документом.
Четыре этажа угроз использования ИИ
Управляющий партнер адвокатского бюро «Забейда и партнеры» Александр Забейда рассказал, как он выстроил систему из десятков ИИ-агентов, которые в том числе контролируют почасовые отчеты адвокатов и охраняют данные. Система работает локально, без передачи информации во внешние облачные сервисы. Спикер подчеркнул, что создатели ИИ не могут объяснить, почему модели работают именно так, – так же, как ученые пока не объяснили феномен коллективного бессознательного (он привел пример муравейника, где все муравьи знают, что делать, при этом у них нет «управляющего партнера»).
Спикер назвал четыре «этажа» угроз ИИ для профессии: тайна доверителя, навыки адвоката, работа адвокатских образований и будущее профессии. Говоря об угрозе тайне доверителя, Александр Забейда заметил: как только документ отправлен на внешний сервер, на него перестает распространяться адвокатская тайна – суды в США уже обязали OpenAI (компанию-разработчика ChatGPT) хранить даже удаленные переписки с пользователями. Отдельно спикер отметил усовершенствование и удешевление технологий, позволяющих красть информацию с использованием ИИ – как через поиск уязвимостей в хранилищах информации в интернете, так и с помощью создания дипфейков (клонирование внешности и голоса).
Переходя к угрозе навыкам адвоката, Александр Забейда привел исследование Массачусетского технологического института, которое показало, что если при написании эссе человек пользовался помощью ИИ, его мозг был задействован значительно меньше, чем у тех испытуемых, кто писал эссе сам или просто использовал интернет. Отсюда следует вывод: чем больше люди делегируют интеллектуальный труд ИИ, тем быстрее они деградируют.
В числе угроз работе адвокатских образований спикер назвал блокировки. Нередко зарубежные модели ИИ блокируют российских юристов. Так, 13 ноября ИИ-модель Claude стала требовать у российских пользователей, которые пытались пользоваться ею в обход блокировок, паспорт. В такой ситуации адвокат, пользовавшийся этой ИИ-моделью, остается без всех наработок, которые у него были.
Александр Забейда обратился к вызову, речь о котором уже шла в выступлении Михаила Толчеева: если машины заберут рутину, на которой вырастали старшие юристы, младшим юристам негде будет нарабатывать опыт. Возникнет проблема сокращения количества молодых адвокатов. В авиации, где уже давно распространена технология автопилота, угрозу утраты человеком навыков решают так: пилотов обязательно тренируют для поддержания навыков ручного пилотирования.
В завершение выступления Александр Забейда напомнил рекомендацию Адвокатской палаты города Москвы о том, что адвокату следует получать у доверителя согласие на то, что при оказании юридической помощи он будет использовать ИИ.
В завершение сессии Юрий Пилипенко спросил у Владислава Лекторского, есть ли перспективы появления сознания у ИИ. В своем ответе Владислав Лекторский отметил, что о наличии сознания можно судить либо по внешним признакам, либо по наличию феноменального переживания. Некоторые внешние признаки, похожие на функции обладающего сознанием человека, у ИИ уже наблюдаются, а вот феноменального переживания у него, скорее всего, нет. Необходимость достижения такого искусственного сознания у ИИ Владислав Лекторский поставил под вопрос.

