科技快讯

构建人工智能安全治理新格局 开创生成合成内容规范发展新路径

2025年03月25日 | 查看: 73452

  互联网、大数据与人工智能等信息技术的飞速发展,在过去半个世纪以来,已推动人类社会走向“人类—信息—物理”三元空间的智能融合,深度渗透至经济社会各领域。近年来,ChatGPT、DeepSeek等生成式人工智能技术的颠覆性突破,正推动人类社会进入新阶段。回望人工智能发展历程,从未有过任何阶段,技术发展的触角从产业革新进一步延伸至人类价值重构,真正成为关系国家数字主权竞争的战略制高点,成为牵动国家兴衰与文明存续的核心变量。

  然而,人工智能生成合成内容日益逼真,也催生虚假消息传播、身份信息冒充、恶意内容生成等新型安全风险,并削弱着公众对网络传播内容的信任根基。近日,国家网信办出台的《人工智能生成合成内容标识办法》(以下简称《标识办法》),在全球率先提出保障人工智能安全可信的“中国方案”。《标识办法》作为互联网信息服务领域贯彻落实《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》的重要举措,配套强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》(以下简称《标识标准》)同时发布,为人工智能发展奠定了重要基础,成为保障人工智能时代网络生态安全有序的关键手段。

构建人工智能安全治理新格局 开创生成合成内容规范发展新路径
图片来源于网络,如有侵权,请联系删除

  树立人工智能生成合成内容治理典范

  当前,信息网络空间成为连接人类社会与物理世界的桥梁,在全球科技创新加速演进的过程中,人工智能已成为决定大国竞争力和未来影响力的核心领域之一。在此背景下,美国、加拿大、欧盟等国家和地区出台了人工智能相关政策法规,条款涉及内容标识,但尚未发布专项法规明确标识形式和技术指标。我国恰逢其时地出台了《标识办法》和《标识标准》,全方位、多层次地规范人工智能内容标识要求和方法,这一举措不仅体现了我国在人工智能治理领域的前瞻性和责任感,也为全球范围内的人工智能安全治理树立了新的标杆,为维护全球数字生态安全与可持续发展贡献了中国智慧。

  我国正处于从网络大国向网络强国迈进的关键阶段,《标识办法》和《标识标准》的制定与实施,对于构建我国自主可控的人工智能治理体系具有历史性的意义。一方面,标志着我国在人工智能领域实现了从被动防御到主动规制的战略转变,为保障国家信息安全和社会稳定提供了坚实的制度支撑;另一方面,通过完善的治理体系,可最大限度地发挥人工智能的社会价值,维护网络空间清朗环境,最终实现科技服务于人的根本目标。

构建人工智能安全治理新格局 开创生成合成内容规范发展新路径
图片来源于网络,如有侵权,请联系删除

  构建人工智能技术规范生态

  《标识办法》和《标识标准》的发布,标志着我国在生成式人工智能领域迈出了构建安全可信生态的关键一步,对构建规范健全的技术生态和健康可持续的智能科技产业产生了深远影响,其关键作用主要体现在以下三个方面。

构建人工智能安全治理新格局 开创生成合成内容规范发展新路径
图片来源于网络,如有侵权,请联系删除

  首先,为人工智能技术领域规范化发展奠定了坚实基础。《标识办法》和《标识标准》不仅为行业提供了明确的技术指导原则,极大地提升了技术的透明度和可追溯性,为生成式人工智能技术应用划定了红线,也为有效溯源和遏制虚假信息传播提供了技术抓手,维护了网络生态安全。

  其次,为构建更完善的生成式人工智能产业链指明了正确方向。《标识办法》和《标识标准》通过细化生成合成内容管理规则,推动了人工智能产业标准化进程,构建了一个更加公平、透明且高效的市场环境,不仅增强了市场主体参与产业的积极性,助力传统产业转型升级,还促进了产业链上下游的协同创新,为产业规模化发展提供了内生动力,从而助力国产生成式人工智能生态的健康发展。

  最后,为“人工智能+”赋能新质生产力发展提供了创新土壤。《标识办法》和《标识标准》有助于全社会建立对生成式人工智能的信任,进一步促进“人工智能+”与各行业的深度融合,催生一系列新业态和新模式,创造新的经济增长点,也有助于中国在全球范围内抢占人工智能发展的制高点,推动形成以技术创新为核心驱动力的新质生产力,从而在新一轮科技革命和产业变革中占据主动地位。(作者:浙江大学 陈纯  文章摘自:网信中国)

【纠错】 【责任编辑:朱家齐】
    阅读下一篇:
      深度观察
      • 新华全媒头条丨“中华水塔”生机盎然 三江清水滋润华夏
      • 新华全媒+丨这九个“行动”词,藏着“提振消费”的密码
      • 记者手记丨用旅居解锁乡村振兴“快慢相生”之道
      • 追光丨高一学生去比世锦赛,身旁对手竟是妈妈的“熟人”?
      • 国际观察丨韩德洙躲过弹劾 尹锡悦命运几何
      • 热点问答丨加拿大提前大选前景如何
      • 全球瞭望丨美媒:美股光环褪色 国际投资者现“撤离潮”
      • 大山里的“追光者”
      • MV《梦想的呼吸》

              推荐阅读:

              人保车险|第三者责任险中“第三者”如何认定?

              人保车险|车险怎么搭配更划算?

              人保车险|新能源汽车保险注意点,请看这!

              星月辉映,共赴团圆 GP芝柏表猫眼系列与金桥系列腕表献礼中秋

              农村电商推动农业转型升级

              工业和信息化部印发《人形机器人创新发展指导意见》

              帮宝适日夜官配产品组合亮相进博,用爱与科技守护宝宝健康成长

              阿里CEO吴泳铭:发展AI的关键是基础设施和开放生态

              华为新一代全液冷超充:让新能源汽车“一杯咖啡,满电出发”

              “绿色新动力——新能源汽车的发展机遇”主题论坛在进博会ADI展台举办

              关键词: