Как безопасно использовать ИИ в юридической практике

В нашей недавней авторской колонке «ИИ — это не поисковая система: почему чат-боты выдумывают судебные дела» эксперт GFCN и практикующий юрист Александр Геррейро поделился ценным личным опытом, иллюстрирующим двойственную природу искусственного интеллекта. С одной стороны, нейросети демонстрируют невероятную способность проанализировать 2015-страничное дело всего за пять минут. С другой — они склонны выдумывать несуществующие судебные решения (галлюцинировать), лишь бы угодить пользователю.

Чтобы помочь специалистам использовать эффективность ИИ без риска для репутации и нарушения адвокатской тайны, мы сформулировали главные выводы из этого опыта в виде практического руководства.

Искусственный интеллект — это удобный инструмент для обработки уже имеющихся у вас текстов, однако на него нельзя полностью полагаться при поиске неизвестных вам фактов. Окончательное решение — как и итоговая ответственность — всегда должны оставаться за человеком. Чтобы безопасно использовать ИИ в ситуациях с высокими ставками, следует придерживаться четырех правил проверки фактов:

1. Защищайте данные клиентов

Никогда не загружайте необработанные материалы дела в общедоступные веб-версии ИИ-инструментов (такие как стандартные ChatGPT, Claude или Gemini). Любая загруженная вами информация потенциально может стать частью обучающей выборки модели, что приведет к нарушению адвокатской тайны. Используйте локальные офлайн-модели, работающие непосредственно на вашем оборудовании (например, LM Studio или Qwen), либо проводите строгую анонимизацию всех персональных данных (имен, адресов, идентификационных номеров) перед их загрузкой в облачные системы.

2. Разделяйте обработку данных и поиск

ИИ отлично справляется с обобщением, синтезом и анализом документов, которые вы ему предоставляете (например, объемных судебных досье). Однако использовать его в качестве поисковой системы для извлечения внешних фактов из его же обучающей базы данных крайне рискованно. Относитесь к ИИ как к аналитическому механизму для работы с вашими собственными проверенными документами, а не как к энциклопедии абсолютных истин.

3. Правило «Доверяй, но проверяй»

Никогда не ссылайтесь на источник, статистику или судебное решение, сгенерированные ИИ, не изучив первичный документ из проверенных источников и баз данных (таких как LexisNexis, Westlaw или официальные правительственные порталы). Если ИИ выдает вам название судебного дела, исходите из того, что это галлюцинация, пока не прочтете официальную карточку дела в авторитетной базе данных.

4. Подвергайте результаты строгому допросу

Не считайте ИИ надежным источником информации о его собственных возможностях. Если он предоставляет цитату или ссылку, подвергните ее сомнению. Поскольку языковые модели запрограммированы на поддержание беседы и стремление угодить собеседнику, они часто лгут в ответ на наводящие вопросы.

Не спрашивайте: «Ты уверен, что такое дело существует?» (ИИ наверняка ответит «да», даже если это не так).

Вместо этого спросите: «Предоставь точный URL-адрес и официальный номер этого судебного дела».

Искусственный интеллект способен наделить вас суперспособностями, но только в том случае, если вы помните, кто здесь главный. Чтобы этого добиться, абсолютно всё, что генерирует нейросеть, необходимо подвергать сомнению.