AI 出错并造成损害：谁可能承担责任，您需要证明什么？

人工智能系统推荐错误的药物、拒绝某位求职者、错误计算一项义务、给出危险的技术指引，或生成不准确信息并被用于专业决策。人们首先通常会问：“是谁的错，是人工智能吗？”然而在法律上，人工智能并不是能够独立承担赔偿责任的法律主体。必须审查设计、提供、集成或选择该系统，以及使用其输出结果的个人和企业。

此外，错误并不自动等同于可获赔偿的损害。还必须存在具体损害、责任的法律依据和因果关系。同一项输出结果在一种情形中可能只会造成困扰，在另一种情形中却可能至关重要，因为它影响健康、财产、就业、信贷或权利。

1. 首先区分错误与法律认可的损害

聊天机器人可能给出不准确的答复，却没有造成损害。如果用户发现错误并且没有据此行事，服务可能存在瑕疵，但未产生可获赔偿的后果。相反，如果同一答复经合理使用后导致经济损失、人身伤害、数据毁损、歧视或人格权受侵害，法律评价就会不同。

以下四个问题必须分别回答：

1. 究竟是哪项信息或功能不正确或存在缺陷，
2. 谁负有设计、检查、更新或监督的义务，
3. 发生了何种具体损害，以及如何评估其价值，
4. 如果没有争议输出或系统故障，该损害是否仍会发生。

不愉快的体验、笼统的不信任或单纯违反某项规则，本身不会转化为金钱请求权。同样，在产品或服务以可预见方式使用时，“系统可能出错”这一条款并不会自动排除一切责任。

2. 责任链中可能有哪些参与者

用户看到的应用并不总是唯一可能承担责任的一方。一个系统可能使用第三方模型、其他提供者的数据、附加软件，以及由作出最终决定的企业设定的规则。

1. 模型提供者或制造者：开发或提供底层系统及其技术能力。
2. 应用供应商：集成模型，并设计界面、警告和使用流程。
3. 使用系统的企业或公共机构：确定目的、数据、限制和人工监督方式。
4. 专业人员：医生、工程师、律师、会计师或其他在自身注意义务范围内使用输出结果的专业人员。
5. 分销商、进口商或授权代表：依据产品规则可能承担特定角色。
6. 最终用户：可能忽视了明确限制、输入错误数据，或将工具用于其不支持的目的。

责任不会机械地分摊给所有参与者。需要审查每一方控制了什么、承诺了什么、知道或理应知道什么，以及哪项行为促成了损害。

3. AI Act 能做什么，不能做什么

欧盟第 2024/1689 号人工智能条例根据参与者的角色和系统风险规定相应义务。对于特定类别，该条例规定了风险管理、数据、技术文件、日志、透明度、人工监督和监测等方面的规则。

AI Act 并不是一部自动给予赔偿的一般性法律。第 85 条规定可以向市场监督机构提出投诉。第 86 条在符合条件时，赋予个人获得清晰且有实质意义的说明之权利，以了解高风险系统在某些产生法律后果或对个人产生重大影响的决定中所起的作用。这些途径有助于开展审查，但本身并不支付赔偿。

该条例分阶段实施。应查阅欧盟官方实施时间表，确定与具体系统相关的义务。不能认为所有条款都在同一天开始适用，也不能认为每个人工智能应用都属于“高风险”系统。

4. 问题源于合同或数字服务时

如果您为包含人工智能的应用、专业平台或服务付费，就应审查其说明、约定功能、保证、限制、更新和支持。以特定专业用途销售的工具，与明确警告不提供专业建议的免费通用聊天机器人，应采用不同标准评价。

重要证据包括购买时适用的条款版本、广告、发票、技术文件、服务水平、错误报告和客服答复。后来的条款不应悄然取代事件发生时适用的条款。

消费者合同受有关数字内容和数字服务、不公平条款及误导性做法的规则约束。官方国家消费者保护立法汇集了第 2251/1994 号法律及其相关修订。根据具体事实，救济方式可能包括使服务符合约定、降低价款、解除合同或赔偿。

5. 侵权责任与使用输出结果的专业人员责任

一般民事责任需要审查违法且有过错的行为、损害和因果关系。专业人员使用人工智能时，该工具并不会消除其自身的注意义务。关键在于是否应当核查结果、是否在适当领域使用该结果，以及是否披露了重大限制。

不同用途并不存在统一的核查程度。文字表述建议与诊断、结构工程计算、法律期限或招聘决定并不相同。可预见风险越大，决定越难撤销，真正的人工核验就越重要。

专业人员不会因为供应商的每一项技术错误而自动承担责任。同样，他们也不能以“算法是这样说的”为由免责。必须查明谁能够接触相关信息、谁能够发现问题，以及人为决定是中断了还是强化了因果链。

6. 软件何时可被视为缺陷产品进行审查

产品责任不同于合同责任或侵权责任。它审查产品是否提供了公众有权期待的安全性，并会考虑产品的呈现方式、合理可预见的使用、投放市场的时间以及其他因素。输出结果不准确，本身并不能证明产品存在缺陷。

新的欧盟第 2024/2853 号缺陷产品责任指令明确将软件和人工智能系统纳入产品定义。该指令针对数字产品、更新、网络安全、证据披露和某些推定制定了相应规则。

这并不意味着新指令已经成为适用于当前每一事件的完整希腊规则。该指令须在 2026 年 12 月 9 日前转化为国内法；希腊转化立法公布后，还必须核查其具体内容。

7. 新指令的关键过渡日期

根据 2026 年 5 月 7 日公布的勘误，新指令适用于 2026 年 12 月 8 日之后投放市场或投入使用的产品。对于更早的产品和事件，必须审查此前的制度及其他可用的责任依据。

这一划分对于持续更新的应用尤为重要。必须记录使用了哪个版本、由谁提供相关功能以及提供时间。仅根据用户发现错误的日期选择适用法律并不可靠。

专门针对人工智能责任提出的欧盟指令提案 COM(2022)496 已于 2025 年 10 月 6 日撤回。提案中的推定和披露规则并非现行法律。官方立法程序记录了该项撤回。

8. 必须证明何种损害

请求权必须描述实际后果，而不能只指出存在程序错误或违法行为。根据法律依据的不同，损害可能包括人身伤害、财产损害、数据毁损或篡改、收入损失、额外费用、人格权受侵害或其他法律认可的损害。

并非每一种纯经济损失都以同样方式获得赔偿。新的产品责任指令对其涵盖的损害有自己的定义，而合同法、侵权法和消费者法则规定了不同条件。请记录：

1. 事件发生前的原始金额或财产状况，
2. 事件造成的具体变化，
3. 发票、医疗资料、技术报告或收入损失，
4. 为减轻损害而采取的合理措施，
5. 可能共同造成损害的其他原因。

夸大的表述会削弱案件。具有文件支持的时间顺序和财务情况，比“人工智能毁掉了一切”这种笼统说法更有用。

9. 因果关系与人为决定

人工智能应用往往包含多个中间环节。输出结果先呈现给员工，员工可能核查也可能不核查，企业随后适用某项规则，最终产生后果。调查必须说明哪个环节具有决定性作用。

人的参与并不总能免除供应商的责任，也不一定会把全部责任转移给操作人员。一个人可能只有形式上的批准按钮，却没有时间、信息或真正偏离建议的能力。相反，独立的专业判断可能构成重要的中间因素。

需要通过日志显示输入、输出、置信度或其他已有指标、警告、用户干预、最终决定和时间。如果关键资料由提供者掌握，可能需要在合同约定的保存期限届满前尽早提出证据保全请求。

10. 如何保存可靠的数字证据

截图只能显示一个屏幕上当时可见的内容。它不一定能证明由哪个版本生成结果、此前是否有其他消息、文件是否被修改，或使用了哪个账号。应保存平台提供的完整导出内容以及未经编辑的原始文件。

1. 导出完整对话或报告，而不只是争议片段，
2. 保存 URLs、IDs、标头、时间戳和交易确认信息，
3. 记录模型、应用版本、设置和所连接的来源，
4. 保存原始输入、附件和界面显示的警告，
5. 在文件完整性可能受到质疑时生成文件数字指纹，
6. 不要在未保存原件的情况下，用人工智能“清理”或重新生成证据。

元数据和哈希值本身不能证明内容真实，但有助于核查某个特定文件是否发生变化。在严重案件中，可能需要技术鉴定，并通过合法程序取得第三方掌握的资料。

11. 应当采取哪条途径

首先向承担直接角色的企业或专业人员发出书面通知。说明事件、损害、证据、保全请求和所要求的具体救济。不要向所有可能参与者发送含糊的威胁，这会增加厘清事实的难度。

1. 合同或消费者服务：向合同相对方要求使服务符合约定、退款、纠正或赔偿。
2. 个人数据：行使访问权、反对权或其他适当权利，并在必要时向主管机关提出投诉。
3. AI Act：条例规则受到违反时，使用向主管监督机构提出投诉的程序。
4. 专业服务：审查合同、注意义务规则、责任保险和可能适用的纪律程序。
5. 缺陷产品或软件：确认生产者、版本、提供时间以及适用的过渡制度。
6. 紧迫危险或犯罪：应优先保护人员、系统和证据，并联系主管公共机关。

这些途径可以并存。行政调查可能提供有用材料，但不能因此错过诉讼时效、合同期限或向保险人报案的机会。

12. 采取行动前应记住什么

不要试图证明“人工智能总体上不可靠”。应证明哪个系统、哪个版本、哪项输入、哪项结果以及何种人为使用与您的损害相关。梳理所有参与者，并选择与具体关系和损害类型相对应的法律依据。

AI Act 增加了义务和监督途径，新的欧盟产品责任指令则更新了软件责任制度。两者都没有取消对合同关系、注意义务、实际损害和因果关系的证明要求。及时保存完整的数字证据链，通常是日后无法补做的一步。