近日，北京互联网法院发布一起AI生成内容识别纠纷案。原告李某在平台发布生活建议内容，遭平台算法识别为“包含AI生成内容但未标识”，平台遂隐藏内容并对账号禁言。李某申诉无果后起诉。法院审理后认为，平台有权依据合同约定对涉案内容是否属于AI生成合成内容进行审查和处理，但平台的审查及处理结果应有合理依据。平台基于算法工具的运算结果得出涉案内容为AI生成合成的审查结论，其既是算法工具掌控方又是结果判断方，算法工具运算过程和审查结果由其掌控，在此情况下，其应就该事实进行合理举证或解释说明。虽然平台在该案中提供了算法的备案信息，但公示内容显示该算法功能为识别有安全风险的回答，无法认定其系对AI生成合成识别判断的技术。据此，法院认定平台未对算法决策依据和结果进行适度的解释和说明，应对其在没有事实依据的情况下对涉案账户的处理行为承担违约责任。目前，该案判决已生效。
信息详情请见：北京互联网法院：平台应对算法判定进行适度的解释说明