Эксперты предлагают ввести обязательное страхование для владельцев систем ИИ

31 октября на конференции «Цифровые технологии и право» в рамках Kazan Digital Week-2026 затронули тему AI для юристов. Эксперты обсудили критерии оценки качества AI-инструментов и поделились опытом их применения в юридической практике. Дискуссию организовала компания «Гарант» совместно с журналом «Законодательство», модератором выступила директор по производству НПП «Гарант-Сервис-Университет» Ткаченко Наталья.

Открыла секцию старший преподаватель кафедры конституционного и административного права Юридической школы, руководитель образовательной программы ФГАОУ ВО «Дальневосточный федеральный университет» Котоманова Светлана. Она представила доклад на тему: «Юрист-аналитик в эпоху цифровых технологий: проблемы образовательной политики». Среди проблем применения ИИ в обучении студентов-юристов она выделила следующие:

• подмена аналитики генерацией;
• галлюцинации нейросетей;
• потеря профессиональных навыков;
• отсутствие методологических ориентиров;
• этико-правовые риски, включая утечку персональных данных.

Спикер отметила серьезную трансформацию профессии юриста: юрист-аналитик будущего – это «верификатор» результатов ИИ, он должен уметь критически оценивать результаты нейросети, проверять информацию на достоверность и корректность. Это своеобразный посредник между миром права и технологии, ему нужны знания и юридические, и технологические (знание алгоритма действия ИИ). При этом следует сохранять человеческие измерения, понимание, что жизненные ситуации индивидуальны.

Эксперт предложила четырехуровневую модель поэтапного внедрения ИИ в образовательный процесс:

• запретить использовать ИИ на первом курсе, но в рамках отдельных предметов рассказывать об основах цифровых технологий;
• постепенно внедрять ИИ в дисциплины;
• формировать способности к самостоятельному профессиональному суждению в цифровой среде;
• развивать новые образовательные программы на стыке права и технологий.

В свою очередь, член консультационного совета European Legal Technology Association e.V. Zscheyge Holger остановился на стратегии внедрения ИИ в юридической практике. Он заметил, что 99% юридических фирм не испытывают проблем с ИИ, и в целом юридический рынок уже активно переходит от «оцифровки документов» к «автоматизации когнитивных процессов». «Преимущества ИИ – скорость и охват информации», – подчеркнул эксперт. При этом остаются сложности при разработке стратегии внедрения ИИ, среди которых – преодоление институционального сопротивления, адаптация операционных бизнес-моделей, соблюдение жестких регуляторных требований, сопряженных с высокими рисками.

Тему использования ИИ в юрфирмах продолжила генеральный директор компании «Юридические технологии» Омельчук Полина. Она перечислила, что должно быть в юридическом ИИ-продукте: подключение к правовым базам и базе судебной практики; база знаний и накопленная юридическая экспертиза фирмы; разумная защита конфиденциальных данных. А при измерении эффективности внедрения какого-то конкретного инструмента посоветовала оценивать весь цикл работы юриста – от старта задачи до сдачи результатов клиенту.

Исполнительный директор по анализу данных ПАО «Сбербанк» Юрченко Владислав затронул тему оценки ИИ и предложил пять ступеней оценки: экзамен, открытый ответ, проверка фактов, траектория, поручение. Конкретизировав каждый из пунктов, спикер пришел к выводу, что оценивать нужно не модель, а систему, в которую помимо модели, входят инструменты, навыки и файлы.

Технический директор «ЗЕН СОЛЮШНС» Веренцов Сергей перечислил, по каким критериям юридическому департаменту оценивать ИИ-инструменты на примере тестирования нейросети. Он привел список вопросов, которые в рамках эксперимента задавались к каждому ответу ИИ: верно, полно, где источник, умеет сказать «нет», не перебарщивает с уверенностью, по той ли редакции. Кроме того, можно задавать вопросы-ловушки, требовать ссылку на страницу у каждого ответа, тестировать на всех своих документах, а не на демо. Для тестирования лучше использовать 100-200 вопросов от своих юристов с эталонными ответами. Стоимость такого теста составляет примерно 1 млн руб.

Ведущий юрисконсульт ООО «НПП ГАРАНТСЕРВИС-УНИВЕРСИТЕТ» Шестакова Анна рассказала об использовании ИИ в суде на примере эксперимента, проведенного в рамках конкурса «Правовая Россия», который ежегодно проводит компания «Гарант». Участникам предлагалось проанализировать конкретный правовой кейс с использованием ИИ – определение ВС РФ по этому делу нужно было сравнить с результатами анализа дела от ИИ. 23 работы попали в исследование. Все участники указали на 3 типа ошибок ИИ при составлении кассационной жалобы – нарушение «кассационного» фильтра, смешение правовых институтов, галлюцинации. По результатам исследования был выделен круг задач, которые можно доверять ИИ: сбор фактов, выстраивание их в хронологию, черновик и выдвижение гипотез. Напротив, со стратегией, подбором практики и процессуальными рисками ИИ справляется не всегда. Минимальный стандарт – верификация каждой ссылки и понимание, что конечная ответственность лежит на юристе. Эксперт напомнила о недавно принятом определении Арбитражного суда Западно-Сибирского округа от 14 мая 2026 г. № Ф04-5138/2026 по делу № А27-7831/2025, где суд оштрафовал сторону за ссылку на несуществующую судебную практику.

Тот же кейс привел в своем докладе «ИИ врет о судебной практике. Дело в данных» основатель «Лигал Хэлп» Книжин Георгий. Он отметил, что модель приучена отвечать любой ценой. Отсюда и получаются ошибки, тем более, что многие судебные акты недоступны для обучения модели. Также эксперт дал советы, как заставить модель отвечать на заданный вопрос без выдуманной судебной практики. Для более конкретного ответа нужно не просто задать вопрос, а дать модели фактуру. Конечная задача – научить модель рассуждать как юрист-эксперт на примере судебных актов.

Шварцман Яков, юрист, руководитель продуктового направления Группы компаний «Иннотех» (холдинг Т1) проанализировал отечественный AI для юриста. Он перечислил инструменты юриста, проверенные практикой: драфтинг; упрощение смыслов; языковой перевод; проверка грамматики; аналитика и отчетность; поиск на «максималках».

Спикер подчеркнул, что юристу нужна сильная правовая аргументация и перечислил основные этапы развития российских АI-моделей. В частности, напомнил о сервисах, которые успешно выполняют АI-функции. В их числе – АI-помощник ИСКРА, созданный компанией «Гарант». Сервис готовит ответы на правовые вопросы, создает шаблоны документов, анализирует нормативно-техническую документацию, судебную практику. В заключение своего выступления эксперт перечислил ценности АI-продукта для юриста: проверяемость (вывод можно проверить по источникам и запросам); воспроизводимость (те же вводные и настройки, сопоставимый результат); гибкость (можно уточнять задачу и углублять анализ).

Еще одна часть секции была посвящена вопросам ответственности за результат использования ИИ. Первой выступила старший преподаватель Национального исследовательского университета «Высшая школа экономики» Елена Авакян. Она представила доклад на тему: «Парадокс Пигмалиона: к вопросу об ответственности разработчиков систем искусственного интеллекта».
Спикер обратила внимание на то, что вред, причиненный моделями ИИ, перестал быть теоретическим вопросом. Среди ключевых проблем она выделила ошибочный диагноз, дискриминационный отбор, несуществующие судебные акты, дипфейки и подчеркнула, что машина – не субъект права, а отвечают люди, и суды уже возлагают ответственность на того, кто использовал ИИ. При этом ответственность определяется контролируемым риском, а не названием роли (разработчик, поставщик, интегратор, оператор, пользователь), а ст. 1079 ГК РФ уже описывает парадокс контроля.

Профессионал отвечает не за модель, а за собственное суждение. Поэтому важно проверять каждую ссылку и цитату по первоисточнику, следить за защитой профессиональной тайны, придерживаться внутренней политики применения ИИ, документировать проверку и обеспечивать информирование суда и клиента. «Для всего остального есть страхование» – заключила эксперт. Речь идет о страховании как последнем рубеже защиты, включая:

• обязательное – для владельцев систем ИИ повышенной опасности по образцу ОСАГО;
• профессиональное, позволяющее покрыть ошибки при использовании ИИ с соблюдением стандартов проверки;
• добровольное – для разработчиков, в рамках которого тарифы будут зависеть от качества тестирования.

Также Елена Авакян остановилась на вопросах маркировки и прослеживаемости контента, созданного ИИ. Она привела примеры моделей маркировки, которые различаются тем, на кого возложена обязанность. В России пока маркировка ИИ-контента не является обязательной. По мнению эксперта, Верховному Суду РФ необходимо разъяснить критерии отнесения эксплуатации систем ИИ к источнику повышенной опасности и правило о регрессе владельца к разработчику. При этом эксперт считает, что текстовый контент маркировать не надо, метки нужны на визуальном, аудио- и программном контенте как источниках повышенной опасности. Она подчеркнула, что каждый отвечает за контролируемый им риск, а потерпевший всегда имеет гарантированного ответчика. «При отсутствии естественного интеллекта, никакой искусственный не поможет», – заключила эксперт.

Васякина Елена, доцент «МИРЭА-Российский технологический университет» остановилась на теме распространения агентных ИИ-систем. Она описала две модели: кода виновным считается тот, кто использует ИИ для совершения правонарушения; когда виновным считается продавец и производитель. Появляются ИИ-агенты, которые выполняют задачи пользователя без постоянного контроля человека. Но нужно учитывать риски-недопонимания. Также спикер привела примеры новых кейсов об ответственности ИИ-разработчиков и высказала свои предложения по регулированию в этой области.

Заведующий кафедрой уголовного права и процесса Сочинского института (филиала) РУДН Арефинкина Екатерина поделилась опытом использования искусственного интеллекта в подготовке юристов. Она привела критерии качества, рассказала о профессиональном контроле и практических инструментах. В частности, спикер заметила, что юрист цифровой эпохи – это человек, способный работать не только в реальном, но и в виртуальном пространстве. Но она уверена, что нужен профессиональный контроль, так как цифровизация – это лишь средство, на первом месте все равно остается мастерство юриста. Также эксперт перечислила критерии качества работы с ИИ:

• проверка по первоисточнику;
• учет всех обстоятельств;
• отделение закона от усмотрения;
• воспроизводимость хода рассуждения;
• ответственность на человеке.

Преподаватель Университета имени О.Е. Кутафина (МГЮА) Шельменков Валентин остановился на вызовах и перспективах применения чат-ботов в образовательном процессе. Здесь важна техническая грамотность студентов – понимание основ ИИ, базовые знания языков программирования и т. д. Он отметил, что нельзя безусловно доверять ИИ.

В рамках дискуссионной части сессии Наталья Ткаченко привела данные исследования компании «Технологии доверия», которые показали, что 68% компаний не управляют рисками использования ИИ и предложила обсудить перспективы внедрения в организациях политики безопасного использования искусственного интеллекта и ее соблюдения. В качестве возможных мер эксперты указали увольнение сотрудников, которые бесконтрольно используют нейросети (привели пример с увольнением работницы, которая загрузила в нейросеть конфиденциальную информацию). Как вариант – прописывать в локальных актах ответственность за некорректное использование вплоть до увольнения. В итоге обсуждения этого и других спорных вопросов эксперты пришли к выводу о человекоцентричности работы с ИИ.