作者：克鲜

　　律师被AI“判刑”了？据媒体报道，江苏南京律师李小亮在百度搜索其姓名＋职务时，平台的“AI智能回答”竟凭空编造“李小亮律师被判三年有期徒刑”的虚假内容，并且展示了李小亮穿着律师袍的照片。之后，律师愤而起诉百度公司。

　　百度以AI幻觉“不可预见”作为抗辩理由。最终，法院综合百度的过错程度、侵权时间、损害后果等因素，认定百度构成名誉侵权，要求百度向李小亮书面道歉，并且判决已经生效。

　　堂堂一名律师，被AI“编造”犯罪服刑，且处于平台搜索结果的前列位置，势必对其名誉权以及其职业发展带来严重的损害。谁要对AI幻觉承担法律责任呢？所谓“技术中立”是不是免责的理由？如果要求相应的人工智能内容生成平台“零差错”“零幻觉”，是否会妨碍中国方兴未艾的AI产业的发展？司法政策到底应该如何制定？

　　此前，国家网信办等部门发布的《生成式人工智能服务管理暂行办法》提到，提供和使用生成式人工智能服务，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。其中，特别提到服务提供者应当“采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性”。公正的司法判决能够引导AI服务提供商增强生成数据的真实性，从而推动AI技术向上向善。

　　AI不是“虚空之物”，它的背后是相应的企业主体，企业应当承担相应的法律责任。前沿的法学研究显示，AI本身虽然无民事主体资格，但生成内容是服务商训练、算法、运营的延伸行为，不能以“技术中立”免责。而且，AI智能回答不同于普通的搜索结果呈现，它是百度主动加工、图文合成、定向推送的，属于自身发布行为，要对其内容真实性承担相应责任。

　　当然，AI技术目前并不成熟，仍在高速迭代与发展当中，服务者的责任应该与过错程度、损害后果、技术水平等相匹配，做到以“行业最优可行技术（BAT）”防范侵权内容的生成。法院判决公司构成侵权，一个重要的理由就是，同行业的其他模型未发生此类“低级错误”——凭空编造一个律师犯罪，足以证明百度未尽到达到行业合理水平的防范义务。有能力防范却没有防范，那就应该承担法律责任。

　　相对于种种AI提供错误信息的“乌龙”，AI平台“诽谤”律师犯罪的社会影响更加恶劣，这也反向要求平台拿出有力的措施防范、拦截涉及公民人格权利的高敏感信息。AI在生成关于公民是否犯罪等敏感的信息时，在技术层面上，完全可以通过关联权威司法平台、校验司法判决、核实机构媒体报道等手段予以证伪。如果没有做必要的真实性校验，就发布了影响恶劣的错误信息，那就构成了侵权。

　　治理AI幻觉，平台不能甩锅给技术。相反，“可防而未防”，那就是过错。对于可预见、可防控的AI幻觉不能免责，企业有能力风控却疏于作为就要承担侵权后果。对此，还要靠司法立规，以裁判明责任、以追责强约束，倒逼行业摒弃侥幸心理，从事后被动兜底转向事前源头治理、全流程风险管控。总之，治理AI幻觉，不能甩锅给技术“不可预见”。（克鲜）