В комментарии к статье Павла Исаева и Юлии Кузьмичевой «„Галлюцинацию“ порождает не нейросеть, а требование заполнить раздел» (см.: «АГ». 2026. № 18 (467)) автор как специалист в области разработки ИИ-продуктов предлагает несколько уточнений и выводов в продолжение исследования. Практический результат предложенных авторами статьи решений он видит в изменении критериев приемки работы юридического ИИ-помощника. Следует проверять, правильно ли он определяет роли участников и назначение указанных в акте сумм, обозначает ли недостаток сведений, сохраняет ли связь с источником и позволяет ли быстро обнаружить подмену смысла.
Павел Исаев и Юлия Кузьмичева показали ошибку, которую легко пропустить при проверке: подмену роли сведений. Нейросеть может точно воспроизвести сумму и при этом превратить присужденное в заявленное, а довод стороны – в вывод суда. Как разработчик ИИ-продукта я считаю, что именно такие ошибки должны определять требования к ИИ-помощнику. Проверки существования документа и совпадения цифр для этого недостаточно.
