张亚勤称大模型会产生三大风险，并给出五条建议

专题：中国发展高层论坛 2024 年年会

　　据中国经济时报消息
，中国发展高层论坛 2024 年年会于 3 月 24 日在京召开。在人工智能发展与治理专题研讨会上，清华大学智能产业研究院院长、中国工程院院士张亚勤表示 ，目前
，Sora 的能量很大，但是刚刚开始 ，未来 5 年
，我们会看到其在各领域的大规模应用，所以会带来很多风险 。他认为有三大风险：一是信息世界的风险。比如 ，有错误的信息 、虚假的信息
。二是在大模型领域独有的幻觉
，但这个风险本身是可控的。而比较大的风险是，当把信息智能延伸到物理智能、延伸到生物智能 ，在大规模使用的时候
，会出现风险的规模化 。三是大模型连接到经济体系
、金融体系、电站 、电力 *** 等的风险是相当大的
。

　　怎样防备这些风险？张亚勤提出以下五个建议。之一，标识我们所产生的数字人或者智能体 。第二 ，要有映射和注册机制
。未来会有很多机器人，但机器人本身是一个从属体
，不是主体，必须要映射到主体。第三 ，建立分级体制 。对于一般规模的模型监管可以少一点
，对于前沿大模型
、万亿级参数用到物理世界无人车的、用到金融系统的 、用到生物系统监管的要多一些，要分级
。第四 ，呼吁把 10% 的经费投入到大模型风险的研究中
，这不仅是政策研究，还有很多算法
、技术的研究。第五 ，人工智能大模型一定不要跨越红线 。红线可能在不同的时间并不一样
，但是需要有这个红线
。中国需要和全球不同人工智能领域一起合作，否则就会有生存风险。

　　新浪声明：所有会议实录均为现场速记整理 ，未经演讲者审阅
，新浪网登载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述 。

加微信免费领取数字能量手机号旺运电子书

  

    
公众号

    
专家微信

  



1、本网站名称：好风水网
2	、本站永久网址：https://www.hfs666.com
3
、本网站的文章部分内容可能来源于网络	，仅供大家学习与参考，如有侵权
，请联系站长进行删除处理。
4、本站一切资源不代表本站立场，并不代表本站赞同其观点和对其真实性负责
。
5	、本站一律禁止以任何方式发布或转载任何违法的相关信息	，访客发现请向站长举报
6
、本站资源大多存储在云盘
，如发现链接失效，请联系我们我们会第一时间更新。