⚖️ AI责任与法律风险

AI短剧让虚拟女主方桃子走红，平台数据显示其广告报价区间一度达16.8万元至25.8万元。AI短剧男主段宴也开启与电商平台合作，虚拟角色承接商单渐成普遍现象。方桃子以“虚拟代言人”身份为美瞳产品宣传，称“戴了一天都很舒服”，因虚拟角色无真实佩戴体验引发争议，相关广告已下架，市场监管部门介入调查。律师表示，数字分身对外传播信息造成他人权益损害，背后主体或承担侵权责任。

第十五届中国知识产权年会媒体吹风会透露，本届年会将围绕人工智能与知识产权设置多个议题。法律维度上，将研讨大模型训练数据版权合法性、AIGC生成物可版权性、人机共创侵权责任分担、AI工具在专利检索和商标监测中的实务应用等，从司法、行政、产业三方面探讨AI时代知识产权规则演进。技术维度上，将聚焦AI原生技术、具身智能与未来产业变革、AI重构企业组织与生产方式等，邀请人工智能产业工作委员会知识产权中心、工信部电子知识产权中心及具身智能企业代表出席。

豆包公关负责人刘星发文辟谣近期流传的「豆包建议煮拖鞋」内容，称该说法系摆拍段子演变的不实信息。经核实，最早发布相关内容的博主承认是故意诱导豆包按预设错误内容回复并摆拍传播，后续不少账号跟进同质化摆拍。该事件折射出 AI 助手面临的新型舆情风险，即部分账号通过刻意诱导获取模型错误输出再摆拍传播以获取流量，不实内容易被误读为 AI 产品真实缺陷。

自9月1日起，一批新规正式施行。其中，针对人工智能领域，明确AI“已读乱回”的经营者需承担相应责任；同时，外卖包装“瘦身”要求同步落地，以减少过度包装。相关新规涉及多个民生领域，旨在规范市场行为、保护消费者权益。

美国佛罗里达州已对OpenAI及其CEO Sam Altman提起诉讼，指控其生成式AI产品和大语言模型构成法律意义上的“公共滋扰”。佛州方面声称，OpenAI的快速发展建立在误导性行为和对用户的利用之上，导致居民遭受广泛影响并破坏社会秩序，要求法院采取限制措施并寻求经济赔偿。 该案被视为美国监管机构探索AI责任边界的重要案例。若法院支持佛州的“公共滋扰”理论，可能推动更多州采取类似法律路径针对AI企业展开诉讼。

美国康涅狄格州一名法官近日披露，一名自行出庭的原告疑似在提交给法院的文件中隐藏了仅供人工智能系统读取的文字指令，试图借此影响案件处理结果。这被认为是美国法院体系首次出现当事人通过“提示注入”方式干预AI审阅流程的案例。法官对此发出警告，提醒警惕AI滥用风险。

Brickken首席执行官Edwin Mata表示，AI代理在缺乏持续人工批准的情况下开始执行交易和转移资金，责任应随授权而定，而非归于AI本身。Sandmark报告指出，现有法律对自主金融代理造成的损失没有明确答案，法院需审查用户、开发者、平台及每笔交易涉及的机构。报告认为，合同法、过失规则、产品责任和信托责任可能适用，具体取决于谁控制代理及损失原因。Mata称，责任不应直接归于软件，AI不是能够承担责任的法律主体，而是代表自然人或法人行事的技术系统。

专注游戏产业的知识产权律师Haley MacLean近日透露，过去一年间，开发商与发行商合同中禁止使用生成式AI的条款，已从部分大厂的风险规避措施，演变为几乎所有客户的标配。她指出，玩家对AI生成内容的反感是推动这一变化的主要原因。这一趋势反映出游戏行业对生成式AI的谨慎态度。

利用AI生成虚假种草测评误导消费者，相关主体近日被法院判令赔偿损失。法院认定，此类不需要实际探店即可生成的测评内容构成虚假宣传，属于违法行为。该判决为AI内容造假敲响警钟，提醒相关平台和生成服务提供者依法合规使用技术。

人工智能系统失控时的责任归属问题正成为法律界关注焦点。律师指出，随着AI应用范围扩大，相关诉讼和合规风险明显上升。现有法律框架在认定AI行为责任方面存在模糊地带，开发者、使用者及部署方的责任划分尚不清晰，企业可能面临新的法律挑战。

随着AI系统在更多场景中自主运行，其行为引发的损害应由谁担责成为法律界新焦点。律师们认为，现行法律规则在AI“失控”情形下可能面临责任认定困难，相关风险值得企业和监管方重视。