ИИ — это не поисковая система: почему чат-боты выдумывают судебные дела (и как их на этом поймать)

Многие специалисты, особенно в сфере юриспруденции и исследований, относятся к генеративному ИИ как к следующей ступени эволюции традиционных баз данных. Они предполагают, что при вводе запроса в чат-бот система осуществляет поиск по объективному каталогу фактов и выдает наилучший результат.
Это опасное заблуждение. ИИ — это не поисковая система, а скорее чересчур старательный стажер, всеми силами стремящийся угодить.
Если вы понимаете эту фундаментальную разницу, ИИ может стать удобным инструментом для повышения вашей продуктивности. Если же нет — это может стоить вам карьеры. Мой собственный опыт практикующего юриста в использовании ИИ резко колебался между этими двумя крайностями.
Пятиминутное чудо в зале суда

Исключительно позитивный пример использования ИИ произошел во время масштабного судебного процесса в Центральном уголовном суде (Tribunal da Comarca da Guarda) в Португалии в январе 2026 года. В деле участвовали коллегия судей, семеро подсудимых и присутствовали обширные материалы дела объемом 2015 страниц.
Во время дневного заседания председательствующий судья принял неожиданное решение заслушать показания свидетеля по имени М., выступление которого вообще не было запланировано. Человеку было бы физически невозможно за считанные минуты проанализировать все эпизоды участия этого свидетеля в процессе. Учитывая фактор внезапности, мы попросили у судьи короткий пятиминутный перерыв для сбора информации.
Из-за строгих правил конфиденциальности данных и адвокатской тайны моя команда использует исключительно локальные ИИ-приложения (такие как LM Studio и Qwen). Они запускаются непосредственно на наших ноутбуках для обработки документов с конфиденциальной информацией, что гарантирует отсутствие подключения к интернету. Я поручил нашему локальному ИИ выполнить поиск по оцифрованному делу по имени свидетеля и связанным с ним фактам.
За несколько секунд ИИ выдал нам все страницы, где фигурировал М., и выстроил связи с другими фактами, которые человеческий глаз не смог бы легко заметить за столь короткое время.
Короткого перерыва, предоставленного судьей, нам как раз хватило, чтобы подтвердить релевантность найденной искусственным интеллектом информации. Это была абсолютная победа эффективности ИИ.
Обратная сторона реальности: разговорная угодливость
Вдохновившись подобными успехами, легко потерять бдительность и начать слепо доверять тому, что выдает ИИ. В адвокатской практике для подкрепления своей позиции очень полезно ссылаться на решения вышестоящих судов. Традиционные правовые поисковые системы требуют точного совпадения по ключевым словам, что может привести к часам безрезультатных поисков. ИИ, интуитивно понимающий естественный язык, кажется идеальным решением.
Однако традиционные правовые базы данных (например, LexisNexis) работают по принципу извлечения информации. Если дела не существует, вы получите пустую страницу. Большие языковые модели (LLM), напротив, работают по принципу предсказания. Они настроены на «разговорную угодливость» — это означает, что в них заложена изначальная склонность давать вам тот ответ, который вас удовлетворит и покажется полезным.
Если юрист просит ИИ найти решение вышестоящего суда, которое подтверждает очень специфический, узконаправленный правовой аргумент, ИИ приложит все усилия, чтобы помочь. А если такого дела не существует? Он может выдумать прекрасно оформленное, но абсолютно фальшивое судебное решение. В индустрии ИИ это называется галлюцинацией.
Чтобы продемонстрировать эту особенность, я недавно провел тест с использованием Gemini. Я запросил у ИИ судебную практику, подтверждающую, что жертве домашнего насилия разрешено записывать ссору со своим партнером. Он успешно выдал достоверные ссылки. Но когда я запросил судебную практику, подтверждающую прямо противоположное — что такие записи не являются допустимым доказательством — система не справилась с задачей.
Когда я предъявил ИИ претензию из-за того, что не смог найти конкретное решение апелляционного суда, на которое он сослался, его ответ оказался пугающе будничным:

Обратите внимание, как ИИ открыто признается в «галлюцинировании» в попытке во что бы то ни стало выдать результат, удовлетворяющий моему запросу. Хуже того, чтобы компенсировать свою ошибку и выполнить мое требование, он немедленно сменил тактику и уверенно предложил мне три полностью выдуманных решения:

Так как же юристам и исследователям использовать невероятную эффективность ИИ, не становясь при этом жертвами его галлюцинаций? Ответ кроется в строгих протоколах верификации.
Прочитайте руководство GFCN и Александра Геррейро: «Как безопасно использовать ИИ в юридической практике», чтобы узнать точные пошаговые правила для защиты вашего рабочего процесса.