2025年3月16日,国投智能披露接待调研公告,公司于3月16日接待富国基金、鹏华基金、民生证券、海通证券、东北证券等48家机构调研。
公告显示,国投智能参与本次接待的人员共2人,为国投集团特级专家、国投智能人工智能研究院院长赵建强,国投智能董事会秘书高碧梅。调研接待地点为厦门市软件园二期观日路12号国投智能大厦。
据了解,《人工智能生成合成内容标识办法》(以下简称《标识办法》)旨在解决人工智能技术快速发展带来的问题,如技术滥用和虚假信息传播。该办法聚焦于“生成合成内容标识”,明确了相关服务主体的标识责任义务,规范了内容制作和传播环节,以提高安全性并促进人工智能技术在多个领域的应用。《标识办法》将于2025年9月1日正式实施,同时发布的还有强制性国家标准《网络安全技术人工智能生成合成内容标识方法》,为执行提供具体指导。
据了解,《标识办法》提出了“显式+隐式”双标识机制,显式标识面向公众,提醒辨别虚假信息;隐式标识则面向服务提供商等,以规范内容传播并确保责任溯源。国投智能的标识方法遵循这一机制,使用数字水印方案,既提供生成端的标识能力,也具备传播端的标识能力。
据了解,《标识办法》适用于包括文本、图片、音频、视频以及元宇宙虚拟场景、3D建模等在内的多种信息形式。用户在二次编辑AI生成内容时,若使用AI合成工具编辑则需重新标识,若手工编辑则保留原标识。《标识办法》不区分不同行业,提出了多种低成本实施方法,以降低企业成本并提高可操作性。此外,正式发布稿中删除了“版权”信息,因为AI生成内容的版权难以界定。
调研详情如下:
1.请解读一下《人工智能生成合成内容标识办法》的含义和落地情况。
答:感谢您的提问。人工智能技术快速发展,为生成合成文字、图片、音频、视频等信息提供了便利工具,海量信息得以快速生成合成并在网络平台传播,在促进经济社会发展的同时,也产生了生成合成技术滥用、虚假信息传播扩散加剧等问题,引发社会各界的关注关切。《人工智能生成合成内容标识办法》(以下简称《标识办法》)聚焦人工智能“生成合成内容标识”关键点,与《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》一脉相承,是这些规范性文件中进一步细化标识的具体实施规范。《标识办法》重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题,推动由生成到传播各环节的全流程安全管理,力争打造可信赖的人工智能技术。通过清晰的定义标识,明确相关服务主体的标识责任义务,规范内容制作、传播各环节标识行为,提醒用户辨别虚假信息,以合理成本提高安全性,促进人工智能在文本对话、内容制作、辅助设计等各应用场景加快落地,同时减轻人工智能生成合成技术滥用危害,防范利用人工智能技术制作传播虚假信息等风险行为,推动人工智能健康有序发展。与《标识办法》同时发布的是强制性国家标准《网络安全技术人工智能生成合成内容标识方法》,让办法执行具有可操作性,具象化,能更好地指导相关主体规范开展标识活动。《标识办法》将于2025年9月1日正式实施。
2.《标识办法》提出“显式+隐式”双标识机制,如何解读其对“真实性验证”和“责任溯源”的底层逻辑?
答:感谢您的提问。显式标识主要是面向公众,提醒公众辨别虚假信息;隐式标识是面向服务提供商、传播平台、制作者和监管者。通过双标识机制,有效规范生成合成内容的传播范围,保护公众的知情权,也对平台主体、服务提供者、制作者进行约束,确保传播内容的责任溯源。
3.请问国投智能的标识办法是类似数字水印的方案吗?如果是,是更倾向于生成端还是传播端?
答:感谢您的提问。国投智能的标识方法遵照强制性国家标准《网络安全技术人工智能生成合成内容标识方法》要求,使用数字水印的方案。国投智能在提供相关生成合成服务时,提供生成端的标识能力。国投智能在提供传播内容真实性鉴别时,例如在使用国投智能的慧眼鉴真视频图像工作站、美亚鉴真小程序时,有传播端的标识能力。
4.请介绍一下,文本、图片、音频、视频之外,元宇宙虚拟场景、3D建模等新兴技术如何适用《标识办法》?用户二次编辑AI生成内容是否需重新标识?
答:感谢您的提问。《标识办法》第三条规定,人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。相对征求意见稿,在人工智能生成合成内容的定义中专门增加了虚拟场景。因此,元宇宙虚拟场景、3D建模等适用本办法。
从《标识办法》中看,用户二次编辑AI生成内容时,如果使用AI合成生成工具编辑,仍然需要标识,如果是手工编辑修改AI生成内容,不需要标识,但是需要保留原AI生成内容的标识,不破坏原标识信息。《标识办法》第十条规定,任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识,不得为他人实施上述恶意行为提供工具或者服务,不得通过不正当标识手段损害他人合法权益。
5.请问如何界定不同行业的标识需求差异?是否会因为标识需求的高低决定最终产品的定价?
答:感谢您的提问。标识没有区分不同行业,《标识办法》在制定时,考虑人工智能技术发展需要,针对在文本内容中添加隐式标识,在多媒体文件中添加数字水印,仍是技术难点或可能增加企业成本,不作强制要求。为降低平台企业标识成本,提升落地实施的可操作、可执行性,创新提出文本符号标识、音频节奏标识、文件元数据标识等低成本实施的可行方法。
6.《标识办法》正式发布稿的第五条较征求意见稿,删除了“版权”的信息,是基于什么考虑?
答:感谢您的提问。AI生成的内容,版权信息难以界定,故未在标识办法中做相关要求。