当前位置:首页 > 元宇宙 > 元宇宙百科

谨防人工智能滥用 规范信息内容生成

来源: 责编: 时间:2023-09-08 17:39:39 4435观看
导读 □赵精武ChatGPT等生成式人工智能服务打破了社会公众对人工智能技术应用的传统认知,其生成内容具有高度的智能化、仿真性特征,在特定情况下,甚至能够替代人工生成相关营销文案等信息内容。倘若不事前标注网络信

 YzG28资讯网——每日最新资讯28at.com

YzG28资讯网——每日最新资讯28at.com

□赵精武YzG28资讯网——每日最新资讯28at.com

ChatGPT等生成式人工智能服务打破了社会公众对人工智能技术应用的传统认知,其生成内容具有高度的智能化、仿真性特征,在特定情况下,甚至能够替代人工生成相关营销文案等信息内容。倘若不事前标注网络信息内容是通过人工智能技术所生成,一般人甚至无法直接区分是不是人工撰写内容。在新闻出版行业,部分新闻媒体已经在尝试开设专版,该版面主要呈现人工智能技术生成的新闻内容。可以说,一旦生成式人工智能技术得到广泛普及,社会生产方式和分工架构必然会发生颠覆性变化。YzG28资讯网——每日最新资讯28at.com

然而,技术双刃剑的魔咒同样存在于人工智能领域。生成式人工智能技术应用的最大优势在于能够在短时间内批量生成同质性的网络信息内容,一旦这种技术优势被应用于电信诈骗、网络造谣等违法犯罪活动,既会对网络舆论生态造成毁灭性破坏,也会对国家安全和社会稳定产生重大威胁。事实上,在我国已经出现了非法滥用生成式人工智能技术的案例:湖南省耒阳市公安局网安大队发现犯罪嫌疑人利用AI智能工具制作、传播虚假新闻;河南省郑州市公安局航空港分局发现犯罪嫌疑人利用AI软件渲染修改新闻报道;内蒙古自治区包头市公安局破获一起利用“AI换脸”进行电信诈骗的案件,等等。YzG28资讯网——每日最新资讯28at.com

面对日趋严峻的人工智能技术滥用风险,国家互联网信息办公室联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布了《生成式人工智能服务管理暂行办法》(以下简称《办法》),自2023年8月15日起施行。YzG28资讯网——每日最新资讯28at.com

《办法》囊括了监管机构、信息服务提供者、用户等主体的法律义务。尤其在第三章“服务规范”中,更是明确信息服务提供者应当采取显著标识、违法内容应急处置等措施,控制违法不良信息恶意生成的风险水平。《办法》与《网络信息内容生态治理规定》《互联网信息服务深度合成管理规定》等法律法规共同构成了网络信息内容生态治理体系,在传播网络谣言、网络暴力、虚假信息等传统网络信息内容治理路径之外,补全了机器批量生成违法不良信息的治理模式。更重要的是,《办法》不仅对用户终端层面所生成的信息内容类型作出了明确限定,更对相关产品或服务的研发设计阶段提出具体的监管要求。例如,《办法》要求相关服务提供者在进行预训练、优化训练等训练数据处理活动时,应当采取有效措施提高训练数据质量,以此提升生成内容的合法性与合理性。YzG28资讯网——每日最新资讯28at.com

具体而言,《办法》在规范信息内容生成层面提出了四个方面的监管要求:第一,继续延续《互联网信息服务深度合成管理规定》的既有规定,信息服务提供者应当对图片、视频等生成内容进行诸如“该图片由人工智能自动生成”等显著标识。之所以特别强调图片、视频等信息类型,是因为图片、视频无法轻易修改以及“有图有真相”的认知逻辑使得传统的辟谣难度和辟谣成本大大增加,社会公众也无法在足以以假乱真的图片、视频等信息内容中辨别真伪。YzG28资讯网——每日最新资讯28at.com

第二,信息服务提供者应当设置违法内容应急处置机制。一旦发现用户有意生成违法不良信息或者相关人工智能服务可能会自动生成违法不良信息时,提供者应当立即采取停止生成、停止传输、消除等处置措施,同时,也应当对算法模型进行优化训练。这些处置措施主要根据实际情况、整改成本以及技术可行性等要素予以确定,并不局限于前述措施。此外,提供者还需要及时就生成式人工智能服务可能生成违法不良信息以及准确采取的处置措施向主管部门报告。YzG28资讯网——每日最新资讯28at.com

第三,信息服务提供者应当对使用者的违法行为进行及时处置。从网络信息传播方式来看,从用户端限制违法不良信息传播的实际效果远远不如从服务端控制用户使用行为的效果。因此,《办法》明确要求信息服务提供者在发现用户利用生成式人工智能服务从事违法活动时,理应对其账号及其权限采取处置措施,包括但不限于警示、限制功能、暂停或者终止向其提供服务等。同时,信息服务提供者还应当对违法行为以及采取的措施如实记录并留存,向主管部门报告相关违法事实。YzG28资讯网——每日最新资讯28at.com

第四,信息服务提供者还应当设置运行有效的投诉、举报机制。投诉、举报的事项除了用户个体权益受损的侵权事实之外,还应当包括用户所发现的生成式人工智能服务被滥用的事实。并且,《办法》还强调信息服务提供者所设置的投诉、举报入口应当便于公众访问,且在合理期限内及时向公众反馈处理结果。YzG28资讯网——每日最新资讯28at.com

预防技术滥用风险不能简单等同于限制技术发展,规范网络信息内容生成的关键应当回归至多方治理主体共同参与的话语体系之中。在《办法》中,明确提及了立法目的是促进生成式人工智能健康发展和规范应用,而非以安全保障限制技术创新发展。《办法》体现了协同治理和系统治理的创新性治理理念,一方面,明确信息服务提供者在研发设计、技术应用和服务反馈等各个阶段的风险预防义务之外,形成全流程、全环节的治理机制;另一方面,明确监管机构、信息服务提供者、信息服务使用者各自的法律义务,形成协同式、系统性的治理架构。YzG28资讯网——每日最新资讯28at.com

(作者系北京航空航天大学法学院副教授)YzG28资讯网——每日最新资讯28at.com

本文链接:http://www.28at.com/showinfo-46-1919-0.html谨防人工智能滥用 规范信息内容生成

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: “到处充满虚假信息”:人工智能深度介入美总统竞选

下一篇: 返回列表

标签:
  • 热门焦点
  • 《蜘蛛侠》火了,超级英雄就该这么演

    《蜘蛛侠》火了,超级英雄就该这么演

    燃次元(ID:chaintruth)原创作者 | 陶 淘编辑 | 曹 拿下豆瓣8.8分、IMDB 9.1的高分,6月2日在全球同步上映的《蜘蛛侠:纵横宇宙》(以下简称《蜘蛛侠》),上映不足一周,便在国内“
  • 蓝标亏钱、Meta裁员:天下秀还值得砸钱元宇宙吗?

    蓝标亏钱、Meta裁员:天下秀还值得砸钱元宇宙吗?

    日前,天下秀数字科技集团正式公布了2022年报及2023年一季报。报告显示,2022年天下秀实现营收41.29亿元,同比下滑8.48%;归母净利润1.8亿元,同比下滑49.2%,几乎出现了盈利腰斩的态势
  • 区块链产业人才发展报告

    区块链产业人才发展报告

    工业和信息化部作为工业和信息化行业主管部门,正在着力推进“两个强国”建设,加快推动以区块链为代表的新兴技术与实体经济深度融合。我国区块链技术和应用想要
  • 索尼公布PSVR 2头显渲染图;社区开发者发布Quest版《我的世界》

    索尼公布PSVR 2头显渲染图;社区开发者发布Quest版《我的世界》

    近日热点:索尼正式公布PSVR 2头显及控制器官方渲染图;入局元宇宙,鸿海科技与XRSPACE签订合作备忘录;研究人员表示面部追踪可增强VR操控体验;社区开发者QuestCraft发
  • 用户可以把自己的医疗健康数据做成NFT出售给医药公司挣钱

    用户可以把自己的医疗健康数据做成NFT出售给医药公司挣钱

    你可能听说过不可伪造的代币,或NFTs。NFTs是数字代币,代表完全独特的项目的所有权;存储在区块链中并可追踪,它们不能被修改、替换或复制。作为NFT铸造的资产在数字
  • NFT领域,我们是否应该遵守版权法

    NFT领域,我们是否应该遵守版权法

    NFTs中最有争议的因素之一是你是否真的 "拥有 "你所购买的艺术品。除此之外,围绕着NFT行业内的版权和知识产权盗窃的问题也同样重要,因为人们很容易误解这些事情
  • 百度虚拟人——AI手语主播首次亮相冬奥会!

    百度虚拟人——AI手语主播首次亮相冬奥会!

    除了火遍全国的冰墩墩,虚拟人也成为这届冬奥会的一大亮点元素。以体育明星谷爱凌为原型的数智人Meet Gu最先亮相。在2月5日谷爱凌首秀、2月7日谷爱凌首金的两天
  • 2022年元宇宙系列报告:UGC当道,XR带来新交互体验

    2022年元宇宙系列报告:UGC当道,XR带来新交互体验

    UGC作为元宇宙的主要内容创作模式,已经越来越多的呈现于游戏、娱乐、社交、传媒等方面,UGC模式勾勒了元宇宙的边界,现今元宇宙UGC模式的主要呈现方式以元宇宙概念
  • 虚拟人行业研究报告

    虚拟人行业研究报告

    最早的虚拟人出现于 20 世纪 80 年代,受限于技术,当时的虚拟人制作以手绘为主。21 世纪初,随着动捕、渲染等技术的逐步发展,虚拟人相关技术开始在影视领域逐渐普及
Top