近段时间,国内外科技巨头纷纷涌入万亿级AIGC(生成式AI)赛道,A股市场上AIGC、ChatGPT等人工智能相关概念也受到热捧。火爆的同时,相关的风险也越来越不容忽视,各国都开始意识到对人工智能监管的必要性。
AIGC赛道火热
【资料图】
自年初以来,以ChatGPT为首的生成式AI应用在全球掀起一场AIGC浪潮。国外方面,已有包括微软、谷歌、亚马逊等科技巨头轮番暗战。国内包括百度、腾讯、阿里、华为、京东、360等多家科技巨头均已宣布在生成式AI产业有相应布局。
东吴证券表示,ChatGPT应用空间广泛,潜在市场规模可观,到2025年AIGC产生的数据将占所有数据的10%,2030年AIGC市场规模将超过万亿元。
“潘多拉魔盒”同时打开,风险隐患如何预防
ChatGPT在短短时间内吸引了大量用户,但业内人士也越来越意识到所带来的风险隐患。3月29日,埃隆·马斯克等一千多名业界、学界人士则联署发表公开信,呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统,暂停时间至少6个月。一些公司开始采取措施来降低这些风险,其中包括OpenAI公司。
4月初,OpenAI公司表示,将向报告其人工智能系统漏洞的用户提供高达2万美元的奖励。OpenAI发布了一项名为Bug Bounty的计划,并邀请研究人员审查ChatGPT的某些功能以及OpenAI系统如何与第三方应用程序共享数据的框架。
近日,抖音也开出了自己的药方。抖音明确,发布者应对人工智能生成内容进行显著标识。抖音要求,在抖音应用生成式人工智能技术时,发布者应对人工智能生成内容进行显著标识,帮助其他用户区分虚拟与现实,特别是易混淆场景。同时,发布者需对人工智能生成内容产生的相应后果负责,无论内容是如何生成的。
多国监管机构出手整治
与此同时,各国政府和监管机构开始采取措施限制和管理相关技术,以确保公众利益和安全。
当地时间3月31日,意大利个人数据保护局宣布,从即日起禁止使用聊天机器人ChatGPT,限制ChatGPT的开发公司OpenAI处理意大利用户信息,并开始立案调查。该决定使意大利成为首个明确禁用ChatGPT的国家。
当地时间4月11日,美国商务部就ChatGPT等人工智能技术相关的问责措施正式公开征求意见,包括具有潜在风险的新型人工智能模型在发布前是否应进行核准认证程序。
4月11日,中国国家互联网信息办公室发布的《生成式人工智能服务管理办法(征求意见稿)》。依据征求意见稿,利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人,包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等,承担该产品生成内容生产者的责任;涉及个人信息的,承担个人信息处理者的法定责任,履行个人信息保护义务。
4月30日,七国集团(G7)的数字和技术部长在日本结束为期两天的会议后,同意“基于风险”推出一项针对人工智能的监管法案。根据联合声明,G7虽同意出台相应的监管政策,但重申监管也应该为人工智能技术“保持一个开放有利的环境”。
5月4日,英国竞争和市场管理机构宣布,将对人工智能市场展开审查,涉及ChatGPT等工具背后的技术。
5月4日,美国白宫宣布首个AI监管计划。白宫公告称,美国国家科学基金会计划拨款1.4亿美元,用于启动7所新的国家人工智能研究院。同日,美国副总统哈里斯以及多位白宫高级官员与谷歌、微软、OpenAI和AI初创公司Anthropic的首席执行官会面,集中讨论当前和近期的技术发展所带来的风险。美国政府官员和科技界高管还讨论了评估人工智能系统的有效性,以及确保系统免受攻击的重要性。
5月9日,日本首相岸田文雄透露,拟设置磋商制定利用AI相关规则等的“AI战略会议”。岸田当天在官邸与研究人员和创业人才等开会时称,“会着眼于AI的潜力和风险推进举措”。
5月11日,欧洲议会两个委员会通过《人工智能法案》提案的谈判授权草案。新文本将严格禁止“对人类安全造成不可接受风险的人工智能系统”,包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。谈判授权草案还要求人工智能公司对其算法保持人为控制,提供技术文件,并为 “高风险”应用建立风险管理系统。每个欧盟成员国都将设立一个监督机构,确保这些规则得到遵守。该草案为世界上第一部综合性人工智能法律铺平道路。这一草案将于6月中旬提交欧洲议会全会表决,之后欧洲议会将与欧盟理事会就法律的最终形式进行谈判。
标签:
仓储物流“成渝圈”如何乘势而上? 12月3日,连接昆明和万象的中老铁路全线开通运营,被惠及的显...
两件西周青铜簋时隔三千年成功配对 考古工作者介绍,这个铜簋的盖、身分别时隔40余年出土,纹饰...
“医保砍价”不是一个人在战斗 晁星 “我眼泪都快掉下来了”“每一个小群体都不该被放弃”…...
“购物成瘾”真的是一种病 刘艳 牛雅娟 本周日即将迎来“双十二”促销季,很多人又开始摩拳...
因迷恋山间风景,一男子在甘孜州稻城县海拔4000多米的无人区迷失方向,随后与同伴失联。12月的稻城...
嫌疑人DNA信息比中后,成都市公安局刑侦支队技术处DNA实验室民警白小刚一下坐在凳子上,恍惚迟疑间...
一批反映南京大屠杀历史的新书发布 新华社南京12月7日电(记者邱冰清、蒋芳)“以史为鉴,开创未来...
我在现场·照片背后的故事|电影《亲爱的》里面没有的结局,在我眼前“上映” 12月6日,在深圳市...
冥想?泡脚?不如听听助眠音乐 晚上睡不着,白天睡不醒,成为最贴合都市人群的“睡眠画像”。随...
养老话题 老年教育面临缺口 “终身教育”潜力无限 【现实挑战】“新老年”群体愿意在培养兴...
孙海洋被拐14年儿子如何找到的? 警方侦办另一宗拐骗儿童案时发现线索,通过人像比对、DNA确认找...
北京天文馆、圆明园将对未成年人免费开放 12月6日,北京天文馆发布通知称,12月8日起试行对未成...
今年全国粮食总产量再创新高 连续7年保持在1 3万亿斤以上 根据对全国31个省(区、市)的抽样调...
斑块软的很危险 硬的就无碍? 血管里的“垃圾”分类 赶快学起来! 一项最新研究显示:中国...
诺西那生钠注射液大幅降价 聚焦医保谈判背后脊髓性肌萎缩症家庭 医保目录公布那天 好多家长都...
抖音“窗花剪剪”遭抄袭 被判获赔20万元 法院认为“窗花剪剪”的这种表达方式理应受到《著作权...
公安机关近日侦破3起拐卖儿童案件 失散十几年 3组家庭终于团圆了 北京青年报记者12月6日从公...
2021年度十大网络用语发布 本报讯(记者 路艳霞)作为年度“汉语盘点”活动最具网络特色的组成部...
北京天文馆向未成年人免费开放 本报讯(记者 牛伟坤)北京天文馆对票价免费及优惠政策作出调整:1...
2021北京百个网红打卡地发布 本报讯(记者 李洋)2021北京网红打卡地推荐榜单昨晚正式发布。自然...