强化全流程管理 引导技术向善

强化全流程管理 引导技术向善
2025年03月17日 08:54 西藏日报

新华社记者 王思北

近日,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》。办法聚焦人工智能“生成合成内容标识”关键点,通过标识提醒用户辨别虚假信息,明确相关服务主体的标识责任义务,规范内容制作、传播各环节标识行为,将于2025年9月1日起施行。

专家认为,办法是我国推进人工智能领域安全治理、促进产业规范健康发展、引导技术向善的重要举措,标志着我国在生成式人工智能领域迈出了构建安全可信生态的关键一步。

近年来,生成式人工智能、深度合成等新技术快速发展,为生成合成文本、图片、音频、视频等信息提供了便利工具。

“然而,人工智能生成合成内容日益逼真,也催生虚假消息传播、身份信息冒充、恶意内容生成等新型安全风险,并削弱着公众对网络传播内容的信任根基。”中国工程院院士、浙江大学教授陈纯认为,面对人工智能安全治理这一世界性难题,四部门适时出台《人工智能生成合成内容标识办法》,配套强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》也同时发布,成为保障人工智能时代网络生态安全有序的关键手段。

国家网信办有关负责人表示,办法重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题,推动由生成到传播各环节的全流程安全管理,力争打造可信赖的人工智能技术。

——针对服务提供者,办法明确应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识,在提供生成合成内容下载、复制、导出等功能时,应当确保文件中含有满足要求的显式标识;应当在生成合成内容的文件元数据中添加隐式标识。

——针对互联网应用程序分发平台,办法提出在应用程序上架或者上线审核时,应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务,并核验其生成合成内容标识相关材料。

——针对用户,办法要求使用网络信息内容传播服务发布生成合成内容的,应当主动声明并使用服务提供者提供的标识功能进行标识。

此外,任何组织和个人不得恶意删除、篡改、伪造、隐匿办法规定的生成合成内容标识,不得为他人实施上述恶意行为提供工具或者服务,不得通过不正当标识手段损害他人合法权益。

“此前出台的《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》提出了标识有关要求,办法进一步细化了标识的具体实施规范。”北京航空航天大学法学院副教授赵精武认为,办法明确了生成合成内容制作传播各主体的责任义务,用户能够清晰识别人工智能生成的内容,减轻人工智能生成合成技术滥用危害,防范利用生成合成内容传播虚假信息、实施电信诈骗等风险行为。

一方面,清晰的内容标识有助于提升信息透明度,增强用户的知情权和选择权,培养公众对人工智能技术的理性认知。另一方面,对于服务提供者及传播平台而言,内容标识制度既是责任更是机遇,在鼓励企业追求技术能力提升的同时,也将提升对产品社会影响的关注度,推动整个行业向更加规范、健康的方向发展。

良法善治,重在实施。专家认为,办法的落地需要各方协同配合,推动标识工作行稳致远。

公安部第三研究所副所长金波说,伴随标识管理与算法备案、安全评估等机制逐步实现有机衔接,生成合成内容标识合规或将成为相关部门开展人工智能监督检查、专项行动的重点关注领域。在此进程中,如何平衡好发展与安全、创新与责任,提升执法的专业化、精细化、智慧化水平,从而培育出安全、开放、公平的人工智能产业生态环境,还需要深入探究。

“此外,‘人的因素’应融入人工智能标识管理的全过程。”金波说,要着重提升公众对信息内容真实性、来源可追溯性的评估能力,积极培育公众的人工智能素养,确保人工智能技术成果普惠共享。(新华社北京3月16日电)

海量资讯、精准解读,尽在新浪财经APP
人工智能
0条评论|0人参与网友评论

APP专享直播

开播时间 | 3-17 19:30
富国基金:全球不确定性上升,军工迎来机遇?
开播时间 | 3-17 20:00
平安基金:创新药强势回归!本轮反弹能入场了吗?
开播时间 | 3-17 20:00
创金合信基金 肖伊莎:创金看市丨924行情能重现吗?
开播时间 | 3-17 20:00
「财访」对话信达澳亚基金朱然:AI领航——科技产业新纪元
开播时间 | 3-17 16:00
光大证券李泉:券商又迎重组案例,行业整合浪潮延续
开播时间 | 3-17 15:30
长城基金:春江水暖,中国资产重估进行时
开播时间 | 3-17 15:30
景顺长城:搭乘20CM硬科技列车,科创综指ETF联接来了!
开播时间 | 3-17 15:30
银华基金:指点迷津 第163期 "创新引领"如何促进机器人技术发展?
开播时间 | 3-17 15:00
国投瑞银:追上科技热点 | 海外算力还能看吗?
开播时间 | 3-17 15:00
国新办举行新闻发布会 介绍提振消费有关情况
开播时间 | 3-17 19:30
富国基金:全球不确定性上升,军工迎来机遇?
开播时间 | 3-17 20:00
平安基金:创新药强势回归!本轮反弹能入场了吗?
开播时间 | 3-17 20:00
创金合信基金 肖伊莎:创金看市丨924行情能重现吗?
开播时间 | 3-17 20:00
「财访」对话信达澳亚基金朱然:AI领航——科技产业新纪元
开播时间 | 3-17 16:00
光大证券李泉:券商又迎重组案例,行业整合浪潮延续
开播时间 | 3-17 15:30
长城基金:春江水暖,中国资产重估进行时
开播时间 | 3-17 15:30
景顺长城:搭乘20CM硬科技列车,科创综指ETF联接来了!
开播时间 | 3-17 15:30
银华基金:指点迷津 第163期 "创新引领"如何促进机器人技术发展?
开播时间 | 3-17 15:00
国投瑞银:追上科技热点 | 海外算力还能看吗?
开播时间 | 3-17 15:00
国新办举行新闻发布会 介绍提振消费有关情况
上一页下一页
1/10

热门推荐

百度谢广军回应女儿事件:深感愧疚,郑重道歉 收起
百度谢广军回应女儿事件:深感愧疚,郑重道歉

百度谢广军回应女儿事件:深感愧疚,郑重道歉

  • 2025年03月17日
  • 09:53
  • APP专享
  • 扒圈小记
  • 55,991
APP专享
黄焖鸡卧底记者提醒11点前别点外卖

黄焖鸡卧底记者提醒11点前别点外卖

  • 2025年03月17日
  • 00:37
  • APP专享
  • 扒圈小记
  • 49,716
APP专享
台资通电军“倚网谋独”终是死路一条

台资通电军“倚网谋独”终是死路一条

  • 2025年03月16日
  • 22:35
  • APP专享
  • 北京时间
  • 3,159
APP专享
新浪财经公众号
新浪财经公众号

24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)

股市直播

  • 图文直播间
  • 视频直播间
更多>
股票简称 最新价 涨跌幅
以下为热门股票
三峡能源 4.24 -0.24%
京东方A 4.38 -0.45%
TCL科技 4.75 0.00%
中远海控 14.29 +0.49%
格力电器 43.30 +0.23%

7X24小时

  • 03-26 中国瑞林 603257 --
  • 03-24 首航新能 301658 --
  • 03-18 开发科技 920029 30.38
  • 03-17 浙江华业 301616 20.87
  • 03-14 胜科纳米 688757 9.08
  • 新浪首页 语音播报 相关新闻 返回顶部
    关闭
    关闭