ИИ ошибся и причинил ущерб: кто может отвечать и что нужно доказать?

Система искусственного интеллекта рекомендует неверный лекарственный препарат, отклоняет кандидата, неправильно рассчитывает обязательство, дает опасную техническую инструкцию или создает недостоверную информацию, которая используется при принятии профессионального решения. Первый вопрос обычно звучит так: «Кто виноват, ИИ?» Однако с юридической точки зрения ИИ не является самостоятельным лицом, которое выплачивает возмещение. Необходимо рассмотреть действия людей и компаний, которые разработали систему, предоставили ее, интегрировали, выбрали и использовали полученный результат.

Кроме того, ошибка не означает автоматически наличия ущерба, подлежащего возмещению. Необходимы конкретный вред, правовое основание ответственности и причинно-следственная связь. Один и тот же результат в одном случае может лишь вызвать неудобство, а в другом стать критически важным, если он затрагивает здоровье, имущество, занятость, кредитование или права.

1. Сначала отделите ошибку от юридически признаваемого ущерба

Чат-бот может дать неточный ответ, не причинив ущерба. Если пользователь обнаружит ошибку и не станет действовать на основании ответа, услуга может оказаться ненадлежащей, но возмещаемого результата не возникнет. Однако если тот же ответ после разумного использования приводит к финансовым потерям, телесному повреждению, уничтожению данных, дискриминации или нарушению личных неимущественных прав, правовая оценка меняется.

Необходимо отдельно ответить на четыре вопроса:

1. какие именно сведения или функция были неверными либо дефектными,
2. кто был обязан разработать, проверить, обновить или контролировать систему,
3. какой конкретный ущерб возник и как он оценивается,
4. возник бы этот ущерб без спорного результата или сбоя системы.

Неприятный опыт, общее недоверие или одно лишь нарушение нормы сами по себе не превращаются в денежное требование. Равным образом условие о том, что «система может допускать ошибки», не исключает автоматически любую ответственность, если продукт или услуга используются предсказуемым образом.

2. Кто может входить в эту цепочку

Видимое пользователю приложение не всегда является единственным потенциально ответственным лицом. Система может использовать модель третьей стороны, данные другого поставщика, дополнительное программное обеспечение и правила, установленные компанией, которая приняла окончательное решение.

1. Поставщик или изготовитель модели: разрабатывает или предоставляет базовую систему и ее технические возможности.
2. Поставщик приложения: интегрирует модель, проектирует интерфейс, предупреждения и сценарии использования.
3. Компания или государственный орган, использующие систему: определяют цель, данные, ограничения и контроль со стороны человека.
4. Специалист: врач, инженер, юрист, бухгалтер или иной специалист, использующий результат в рамках собственной обязанности проявлять должную осмотрительность.
5. Дистрибьютор, импортер или уполномоченный представитель: может выполнять особую роль в соответствии с нормами о продукции.
6. Конечный пользователь: мог проигнорировать четкие ограничения, ввести неверные данные или использовать инструмент для неподдерживаемой цели.

Ответственность не распределяется между всеми механически. Оценивается, что контролировал каждый участник, что он обещал, что знал или должен был знать и какое действие способствовало причинению ущерба.

3. Что предусматривает и чего не предусматривает AI Act

Регламент (ЕС) 2024/1689 об искусственном интеллекте устанавливает обязанности в зависимости от роли участника и риска системы. Для определенных категорий он предусматривает правила управления рисками, работы с данными, технической документации, журналов, прозрачности, контроля со стороны человека и мониторинга.

AI Act не является общим законом об автоматической выплате возмещения. Статья 85 предусматривает возможность подать жалобу органу надзора за рынком. Статья 86 при определенных условиях предоставляет право на ясное и содержательное объяснение роли системы высокого риска в некоторых решениях, которые влекут правовые последствия или существенно затрагивают лицо. Эти механизмы могут помочь провести проверку, но сами по себе не обеспечивают выплату возмещения.

Регламент применяется поэтапно. Для определения обязанности, относящейся к конкретной системе, следует сверяться с официальным европейским графиком применения. Неверно считать, что все положения начали применяться в один день или что каждое приложение ИИ относится к системам «высокого риска».

4. Когда проблема возникает из договора или цифровой услуги

Если вы заплатили за приложение, профессиональную платформу или услугу с ИИ, необходимо изучить описание, согласованные функции, гарантии, ограничения, обновления и поддержку. Инструмент, проданный для конкретной профессиональной цели, оценивается иначе, чем бесплатный чат-бот общего назначения, который предупреждает, что не предоставляет специализированных консультаций.

К важным доказательствам относятся редакция условий на момент покупки, реклама, счет, техническая документация, согласованный уровень обслуживания, сообщения об ошибках и ответы службы поддержки. Более поздние условия не должны незаметно заменять те, которые действовали на момент события.

К потребительским договорам применяются нормы о цифровом контенте и цифровых услугах, несправедливых условиях и вводящих в заблуждение практиках. Официальный свод национального законодательства о защите потребителей включает Закон 2251/1994 и соответствующие изменения. В зависимости от обстоятельств средством защиты могут быть приведение услуги в соответствие, снижение цены, расторжение договора или возмещение ущерба.

5. Деликтная ответственность и ответственность специалиста, использовавшего результат

Общая гражданская ответственность предполагает оценку противоправного и виновного поведения, ущерба и причинно-следственной связи. Когда специалист использует ИИ, инструмент не устраняет его собственную обязанность проявлять должную осмотрительность. Ключевое значение имеет то, следовало ли проверить результат, использовался ли он в подходящей сфере и была ли сообщена информация о существенных ограничениях.

Единой степени проверки для всех способов использования не существует. Предложение формулировки отличается от диагноза, расчета строительной конструкции, юридического срока или решения о найме. Чем выше предсказуемый риск и чем сложнее отменить решение, тем важнее становится реальная проверка человеком.

Специалист не отвечает автоматически за каждую техническую ошибку поставщика. В то же время он не освобождается от ответственности потому, что «так сказал алгоритм». Необходимо установить, кто имел доступ к сведениям, кто мог обнаружить проблему и прервало ли решение человека причинную цепочку либо усилило ее.

6. Когда программное обеспечение может рассматриваться как дефектный продукт

Ответственность за продукцию не совпадает с договорной или деликтной ответственностью. При ее оценке выясняется, обеспечивал ли продукт безопасность, которую общественность вправе ожидать с учетом его представления, разумно предсказуемого использования, времени выпуска в оборот и других обстоятельств. Неточный результат сам по себе не доказывает наличие дефекта.

Новая Директива (ЕС) 2024/2853 об ответственности за дефектную продукцию прямо включает программное обеспечение и системы ИИ в определение продукта. Она предусматривает адаптированные правила для цифровых продуктов, обновлений, кибербезопасности, раскрытия доказательств и отдельных презумпций.

Это не означает, что новая Директива уже является полным применимым греческим режимом для каждого нынешнего инцидента. Ее необходимо перенести в национальное право до 9 декабря 2026 года, а после опубликования греческого акта о транспозиции потребуется проверить его содержание.

7. Критическая переходная дата новой Директивы

После исправления, опубликованного 7 мая 2026 года, новая Директива применяется к продуктам, выпущенным на рынок или введенным в эксплуатацию после 8 декабря 2026 года. В отношении более ранних продуктов и инцидентов необходимо изучать прежний режим и другие доступные основания ответственности.

Это различие важно для приложений, которые постоянно обновляются. Необходимо зафиксировать, какая версия использовалась, кто предоставил функцию и когда. Нельзя надежно определить применимое законодательство лишь по дате, когда пользователь заметил ошибку.

Предложение европейской Директивы, специально посвященной ответственности в связи с ИИ, COM(2022)496, было отозвано 6 октября 2025 года. Предложенные в нем презумпции и правила раскрытия информации не являются действующим правом. Отзыв отражен в официальной законодательной процедуре.

8. Какой ущерб необходимо доказать

Требование должно описывать реальный результат, а не только наличие ошибки в программе или нарушения. В зависимости от правового основания речь может идти о телесном повреждении, имущественном ущербе, уничтожении или повреждении данных, утрате дохода, дополнительных расходах, нарушении личных неимущественных прав или ином признаваемом вреде.

Не всякий чисто экономический ущерб возмещается одинаково. Новая Директива об ответственности за продукцию содержит собственное определение охватываемого ущерба, а договорное, деликтное и потребительское право устанавливают разные условия. Зафиксируйте:

1. первоначальную сумму или состояние актива до инцидента,
2. конкретное изменение, вызванное инцидентом,
3. счета, медицинские документы, технические заключения или потерю дохода,
4. разумные меры, принятые для уменьшения ущерба,
5. иные причины, которые могли ему способствовать.

Преувеличенные формулировки ослабляют позицию. Документированная хронологическая и финансовая картина полезнее общего утверждения о том, что «ИИ все уничтожил».

9. Причинно-следственная связь и решение человека

При использовании ИИ часто существует несколько промежуточных этапов. Результат показывают сотруднику, он проверяет его или не проверяет, компания применяет правило, после чего наступает определенное последствие. Расследование должно показать, какой этап был решающим.

Участие человека не всегда освобождает поставщика от ответственности и не всегда переносит всю ответственность на оператора. У человека может быть лишь формальная кнопка одобрения без времени, информации или реальной возможности отступить от рекомендации. Напротив, независимое профессиональное суждение может стать существенным промежуточным фактором.

Необходимы журналы, отражающие исходные данные, результат, уровень уверенности или иные показатели, если они имеются, предупреждения, вмешательство пользователя, окончательное решение и время. Если критически важные сведения хранятся у поставщика, раннее требование об их сохранении может понадобиться до истечения установленного договором срока хранения.

10. Как сохранить надежные цифровые доказательства

Снимок экрана показывает только то, что было видно на одном экране. Он не всегда доказывает, какая версия создала результат, предшествовали ли ему другие сообщения, был ли файл изменен или какая учетная запись использовалась. Сохраните полный экспорт, если он доступен, и исходный файл без изменений.

1. экспортируйте весь диалог или отчет, а не только спорный фрагмент,
2. сохраните URLs, IDs, заголовки, временные метки и подтверждения операций,
3. зафиксируйте модель, версию приложения, настройки и подключенные источники,
4. сохраните исходные данные, вложения и показанные предупреждения,
5. создайте цифровой отпечаток файла, если его целостность может быть оспорена,
6. не «очищайте» и не воссоздавайте доказательства с помощью ИИ, не сохранив оригинал.

Метаданные и хеши сами по себе не доказывают истинность содержания, но помогают проверить, изменился ли конкретный файл. В серьезном деле могут потребоваться техническая экспертиза и законная процедура получения сведений, находящихся у третьих лиц.

11. Какой порядок действий выбрать

Начните с письменного уведомления компании или специалиста, сыгравших непосредственную роль. Опишите событие, ущерб, доказательства, требование о сохранении сведений и конкретный способ защиты. Не направляйте неопределенные угрозы всем возможным участникам: это затрудняет прояснение обстоятельств.

1. Договор или потребительская услуга: потребуйте от договорного контрагента привести услугу в соответствие, вернуть деньги, исправить недостаток или возместить ущерб.
2. Персональные данные: воспользуйтесь правом доступа, возражения или иным подходящим правом и при необходимости подайте жалобу компетентному органу.
3. AI Act: используйте процедуру подачи жалобы в компетентный надзорный орган при нарушении правил Регламента.
4. Профессиональная услуга: изучите договор, обязанности проявлять осмотрительность, страхование ответственности и возможную дисциплинарную процедуру.
5. Дефектный продукт или программное обеспечение: установите производителя, версию, время выпуска и применимый переходный режим.
6. Непосредственная опасность или преступление: приоритет имеют защита людей, систем и доказательств, а также обращение в компетентный государственный орган.

Эти способы могут сочетаться. Административное расследование может дать полезные материалы, но тем временем нельзя допустить истечения срока исковой давности, договорного срока или срока уведомления страховщика.

12. Что следует помнить до начала действий

Не пытайтесь доказать, что «ИИ в целом ненадежен». Докажите, какая именно система, версия, исходные данные, результат и способ использования человеком связаны с вашим ущербом. Определите всех участников и выберите правовое основание, соответствующее отношениям и виду вреда.

AI Act добавляет обязанности и надзорные механизмы, а новая европейская Директива об ответственности за продукцию модернизирует правила ответственности за программное обеспечение. Ни один из этих актов не устраняет необходимость установить договорные отношения, обязанность проявлять осмотрительность, реальный ущерб и причинную связь. Своевременное сохранение цифровой цепочки доказательств обычно является тем шагом, который невозможно восполнить позднее.