Это наиболее чётко обозначенная граница в мировой судебной практике. Председатель Верховного Суда РФ Игорь Краснов заявил о необходимости выработки единых этических норм, ключевой принцип которых — «недопустимость передачи алгоритму окончательного суждения». Конституционный суд Колумбии в решении 2024 года установил аналогичный стандарт: использование ИИ не нарушает права на надлежащую правовую процедуру при условии, что он не подменяет логику судьи, а лишь дополняет уже принятое решение. Позиция Конституционного Суда России ещё жёстче. Согласно определению от 25 января 1995 года № 45-О по толкованию статьи 17 УПК РФ, любое внешнее воздействие должно быть исключено, чтобы обеспечить принятие решения на основе личного убеждения судьи. Если алгоритм скрыто «подсказывает» исход дела, это прямо нарушает принцип состязательности и права участников процесса.
2. Запрет на использование ИИ для оценки доказательств и формирования внутреннего убеждения
В уголовном процессе оценка доказательств, интерпретация неоднозначных фактов, определение степени вины и раскаяния относятся к сфере, которую алгоритм заменить не способен. ИИ не может воспринять искренность раскаяния подсудимого, не может сделать тонкие разграничения, требующие человеческого суждения и эмпатии в конкретном контексте. Более глубокий риск: если ИИ вмешивается в оценку доказательств, защита лишается возможности полноценно оспорить сгенерированный текст или видео, а доказательства, полученные с опорой на ИИ, могут быть признаны недопустимыми из-за невозможности проверить корректность алгоритма.
3. Запрет на внедрение «чёрных ящиков» — непроверяемых алгоритмов
Многие системы ИИ работают непрозрачным образом, их вывод невозможно полноценно проверить. В судебной сфере это означает невозможность установить, не основано ли решение алгоритма на неправомерных факторах — таких как раса, пол, социально-экономический статус. Верховный Суд России уже начал системный анализ дел с участием ИИ, уделяя особое внимание тому, располагает ли суд достаточными инструментами для проверки таких данных и не создаёт ли технология угрозу объективности правосудия.
4. Запрет на использование контента, сгенерированного ИИ, способного создавать «галлюцинации»
«Галлюцинации» ИИ — генерация недостоверной информации, ссылки на несуществующие законы или судебные прецеденты — нанесли реальный ущерб в судебной практике. Федеральный судья Бразилии Джефферсон Феррейра Родригес в 2023 году попал под расследование Национального совета юстиции Бразилии за цитирование в решении несуществующего прецедента; он объяснил это использованием ChatGPT и «перегруженностью работой», из-за которой не успел проверить ссылку.
В России уже есть прецедент: юрист одной из компаний представил суду подготовленные ИИ материалы, содержавшие несуществующие судебные акты и вымышленные прямые цитаты; на юриста был наложен штраф в 50 тысяч рублей. После этого Верховный Суд РФ потребовал от участников процесса раскрывать факт использования ИИ, а нарушителей — привлекать к ответственности.
5. Запрет на использование ИИ в качестве «невидимого советника», тайно влияющего на решение
Даже если ИИ не выносит решение напрямую, но скрытно предоставляет судье «рекомендации», тем самым фактически влияя на решение, это также подрывает судебную независимость. Позиция Конституционного Суда России такова: любое внешнее воздействие должно быть исключено. Это означает, что использование ИИ должно быть открытым и прослеживаемым, а не тайным.
6. Особые ограничения в российской судебной системе
Россия развивает пилотное применение ИИ в правосудии — включая запуск экспериментального проекта в десяти региональных судах для сокращения времени на рутинные операции и ускорения судопроизводства. Однако направление регулирования в России однозначно: технология — средство, а не цель, и она должна служить трём базовым ценностям: независимости правосудия, информированности сторон и недопустимости замены алгоритмом окончательного судейского решения.
Верховный Суд России заказал первый в стране комплексный анализ судебных дел, связанных с ИИ, чтобы выработать единые подходы к правоприменению и адаптировать судебную систему к цифровой реальности под строгим правовым контролем. Итог: судебная система может использовать ИИ для работы с документами, поиска, управления процессами и других вспомогательных задач, но право принимать решения, оценивать доказательства и формировать внутреннее убеждение — те элементы, которые составляют суть «правосудия», — ни при каких обстоятельствах не должны передаваться алгоритму.
