人工智能短视频产业化加速推进,已广泛应用于微短剧、广告营销、网络教育等场景,形成涵盖素材供给、模型服务、账号运营、流量推广、商业变现的产业链。量产化、模板化生产改变了短视频的风险生成与传播方式,给人格标识利用、内容真实性判断、平台监管和责任归咎带来新挑战。随着我国人工智能治理的规范体系日臻完善,治理重点应转向不同治理机制的有效贯通与规范衔接,实现制度安排与治理实效的同频共振。
构建生成标识与授权规则衔接机制
生成式人工智能改变了自然人人格标识的利用方式。自然人肖像、声音、动作习惯等可被提取、建模并转化为可重复调用的模板素材,使传统围绕特定照片或视频不当使用的侵权纠纷延伸至人格模板的持续调用、衍生和传播。对此,今年9月1日起施行的《微短剧发展管理办法》(以下简称《办法》)对人工智能生成微短剧的提示标识等作出规定;9月7日最高人民法院发布的《关于依法审理涉人工智能纠纷案件的意见》(以下简称《意见》)也明确了换脸拟声、虚拟数字形象等问题的裁判规则。
然而,生成标识制度与授权规则依然存在脱节,标识制度解决的是生成内容的识别性问题,并不能证明所调用的人格要素经过合法授权。对此,一是对于将特定自然人人格标识作为核心要素的数字人、换脸、声音克隆等应用,须细化授权规则,明确授权主体、用途、期限等关键事项;平台应根据风险配置不同的核验强度,对涉未成年人以及利用特定自然人身份开展商业营销等高风险场景加强核验,必要时可进行人工复核。二是在授权期满或被依法撤回后,经营者原则上应停止新的生成和超范围调用,并依约定和相关法律规范妥善处理既有模板。三是在司法证明中,若权利人已初步举证,但经营者掌握训练数据、生成日志、授权记录等关键证据,在其负有提供义务却无正当理由拒不提供时,可适用举证妨碍等证据规则缓解权利人因技术和信息势差而面临的举证不能。
贯通真伪核验与来源认证衔接路径
人工智能短视频的高仿真性冲击了对音视频的真实性判断,这不仅增加了识别假视频的难度,也提高了证明真视频的成本。现行人工智能显式与隐式标识提升了智能生成内容的可识别性,《意见》也强化了对人工智能电子数据真实性、完整性、形成过程的审查。但证据审查处于末端,若处于前端的内容形成和传播阶段未保留必要信息,进入司法程序后的核验难度将显著增加。
因此,需要推动平台标识生成、来源认证与司法证据审查制度的衔接。一方面,在关键环节搭建来源验证机制。生成端依法嵌入生成标识并留存必要生成信息;传播端在符合相关规范和技术可行的前提下识别、保留来源信息,特别是对政务、新闻、医疗、金融等涉及公共利益与专业信用的内容进一步强化来源核验,校验内容是否真实、资质是否合规等;发生争议后,对原始文件、来源标识、生成记录和平台日志等进行实质审查。另一方面,搭建跨平台、可识别、可传递、可追踪的来源认证机制;传播平台亦应留存、传递来源标识,以降低多次流转后元数据灭失的风险。此外,还应区分蓄意删除、篡改来源标识与一般剪辑、格式转换等正常技术处理行为。若行为人明知相关标识具有证明来源和提示风险的功能,却为规避监管或实施违法行为而故意删除、篡改标识的,可作为推定存在主观过错的依据。
校准单条内容审核与规模化生产规制的衔接逻辑
生成式人工智能可利用有限素材快速生成大量近似内容,并通过多个账号持续投放。相较于单条违规内容,规模化、集群化、低质的内容传播更易破坏网络生态,而传统的审核监管模式难以识别累积性、隐蔽性的批量违规风险。由此,《办法》已对算法机制、重点账号以及内容提供者、推广者管理等作出规定,但仍须进一步适配产业化批量生产特征的规制措施。
宜进一步细化适应人工智能规模化生产的风险识别机制,平台可以综合内容模板相似度、异常发布频率、关联账号特征、异常互动行为以及反复规避处置等因素,对批量自动化行为进行风险识别。对异常批量发布、虚假互动、规避封禁、重复传播违法内容的账号,依据法律规定和平台规则采取限制推荐、限制变现等措施;涉嫌违法犯罪的,依法移送有关机关。需要强调的是,治理对象应当是利用规模化生产能力实施的异常行为,而非人工智能生成技术本身,避免将技术应用与内容风险等同,平衡好维护网络生态与保护创新之间的关系。
实现行政监管与司法归责的有效衔接
人工智能短视频可能涉及诸多主体,其风险控制能力、获利程度、主观认知等存在显著差异,因此准确界定各方责任尤为关键。《意见》指出,人工智能侵权责任认定应综合考虑应用场景、风险程度、开发者或者服务提供者采取的预防措施以及使用者的预见和控制能力等因素,并注意不同技术形态的差异。据此,人工智能短视频产业链中的责任认定可以进一步围绕风险可预见性、风险控制能力和行为人贡献进行分层,并将实际获利作为辅助考量因素。
账号运营者、多频道网络机构根据其实际参与策划、制作和传播的行为承担相应责任;模型、模板或者推广服务提供者明知或应知相关服务被用于实施违法活动并提供实质帮助的,应依法承担责任;对于提供一般技术能力、缺乏具体违法风险认知且难以控制最终用途的主体,不能仅因技术被他人滥用而归责。同时,应坚持风险分级。对主要用于非自愿换脸、身份仿冒、虚假私密影像合成等高风险用途的工具,可结合功能设计、营销方式和实际控制能力加强治理;对于通用生成技术,则不宜仅因存在被滥用的可能而推定其具有较高风险。通过以风险控制能力为基础的分层治理,既防止真正具有控制能力的主体退居产业链之后,也避免技术提供者责任不当扩张。此外,行政监管与司法归责还应通过证据实现衔接。平台或者服务提供者依法负有记录留存义务的,应保存必要的授权、生成和传播信息;行政机关调查时,相关主体应依法履行协助义务;进入诉讼后,对于一方控制关键证据且无正当理由拒不提供的,可依法适用举证妨碍规则,并结合在案证据作出相应的事实认定。