×

«Галлюцинацию» порождает не нейросеть, а требование заполнить раздел

Ошибка инструмента при отсутствии проверки становится ошибкой юриста
Материал выпуска № 18 (467) 16-30 сентября 2026 года.

В статье приведены результаты исследования, целью которого было выяснить, каким именно образом результат анализа реальных судебных актов зависит от постановки задачи для нейросети. В выборку вошли реальные арбитражные судебные акты разных типов. Подавляющее большинство фактических искажений пришлось на вариант с жестко заданной структурой, то есть «галлюцинация» возникает не там, где модель чего-то не поняла, а там, где от нее потребовали ответ, которого в документе нет. Авторы указали на три выделяемых профессиональным сообществом вектора, которые по сути очерчивают границы профессионального скептицизма при использовании искусственного интеллекта: предел верификации фактов – защита от «галлюцинаций»; предел конфиденциальности – защита адвокатской тайны; предел процессуального решения – авторство воли остается за адвокатом. Даны практические рекомендации адвокатам.

Об ошибках нейросетей при работе с документами написано много, и почти всегда разговор идет о модели: эта надежнее, та «галлюцинирует», дождемся следующего поколения. Работа с арбитражными судебными актами показывает, что заметная часть искажений связана не с моделью, а с тем, как сформулирован запрос к ней. Точнее – с требованием заполнить заранее заданные разделы, не оставляя их пустыми.

Рассказать:
Другие мнения
Пешков Сергей
Пешков Сергей
Почетный адвокат АП Московской области, председатель КА г. Москвы «Новый Арбат»
Проверять нужно не только факты, но и смысл защиты
Legal tech
Сохранять связь каждого юридически значимого тезиса с первоисточником
03 ноября 2026
Багдасарян Артем
Багдасарян Артем
Адвокат, член Адвокатской палаты города Москвы, КА «Диктатура Закона», член АЮР
Процессуально-правовая природа смысловой ошибки интерпретации
Legal tech
Важно прямо обозначать процессуальный статус доводов ИИ в судебном документе
03 ноября 2026
Плешаков Алексей
Плешаков Алексей
Член Совета Адвокатской палаты города Севастополя
Чтобы ИИ не переписал позицию адвоката для судьи
Legal tech
О риске искажения процессуальной позиции при ее машинной интерпретации
03 ноября 2026
Владимиров Вячеслав
Владимиров Вячеслав
Член Адвокатской палаты города Москвы, Московская городская коллегия адвокатов «Бастион»
Адвокатский ИИ-контур: помощник, а не замена профессионального решения
Legal tech
Об идее разработки цифрового рабочего пространства адвоката
28 октября 2026
Закомолдин Алексей
Закомолдин Алексей
Научный советник АБ «Земчихин и партнеры», руководитель Центра бизнес-образования ТПП г. Тольятти, доцент, к.ю.н.
Судья останется человеком, но останется ли «человеческим» решение суда?
Legal tech
О Концепции внедрения ИИ в судопроизводство
29 сентября 2026
Танкова Алина
Танкова Алина
Руководитель практики цифрового права и ТМТ i-Legal
Нейросеть не является субъектом ответственности
Legal tech
Алгоритмическая ошибка в отличие от человеческой значительно легче масштабируется
24 сентября 2026
Яндекс.Метрика