新闻 > 国际新闻 > 新闻详情

美媒:美国务院委托撰写的报告警告,AI可能对人类构成“灭绝级”威胁

发表时间:2024-03-13 10:42:51 作者:博牛新闻官 更多文章

根据美国有线电视新闻网(CNN)当地时间12日报道,美国国务院委托撰写的一份报告于本周发布,报告中警告,AI可能对人类构成“灭绝级”威胁,美国必须进行干预。


据CNN介绍,这份报告由专注于AI领域的公司Gladstone AI撰写,该公司为美国政府高层提供关于AI机遇和风险的咨询和报告。美国国务院一名官员向CNN证实,其所在机构委托撰写了这份报告,但报告不代表美国政府的观点。


报道说,这份报告基于一年多以来对200多人的采访得出,采访对象包括来自领先AI公司的高管、网络安全研究人员、大规模杀伤性武器专家和政府内部的国家安全官员。报告明确提到,最先进的AI系统在最糟糕的情况下可能会“对人类物种构成灭绝级的威胁”。

CNN称,首先,报告提到,最先进的AI系统可能被用作武器,造成潜在的、不可逆转的破坏;其次,报告称AI实验室内也存在担忧,担心对开发的系统“失去控制”,可能对全球安全造成“潜在的毁灭性后果”。“AI和AGI(通用人工智能)的兴起有可能以类似引入核武器的方式破坏全球安全,”报告称,在AI方面存在着“军备竞赛”、冲突和“与大规模杀伤性武器相当的致命事故”的风险。

CNN说,报告为此呼吁采取措施来应对这一威胁,包括成立一个新的AI方向的机构,实施“紧急”监管保障措施,并限制用于训练AI模型的计算机能力。“美国政府显然迫切需要干预。”报告称。

“AI已经是一项经济上具有变革性的技术。它可以帮助我们治愈疾病,实现科学上的发现,并克服我们曾认为不可逾越的挑战。”Gladstone AI联合创始人兼首席执行官(CEO)杰雷米•哈里斯12日告诉CNN,“但它也可能带来严重的风险,包括灾难性的风险,这是我们需要注意的,”“越来越多的证据——包括在世界顶级AI会议上发表的实证研究和分析——表明,超过一定的能力阈值,AI可能会变得无法控制。”

CNN提到,白宫发言人罗宾•帕特森表示,美国总统拜登关于AI的行政命令是“全球任何政府为抓住AI的潜力和管控AI的风险所采取的最重要行动”,美国将继续与国际伙伴合作,并敦促国会通过两党立法来管控风险。

声明:本文由新闻源或入驻作者撰写,除博牛官方账号外,观点仅代表作者本人,不代表博牛立场.

博牛集团博牛社区博牛招聘菠菜圈广告合作手机版建议投诉

重要聲明:本網站是以即時上載留言的方式運作,本站對所有留言的真實性、完整性及立場等,不負任何法律責任。而一切留言之言論只代表留言者個人意見,並非本網站之立場,用戶不應信賴內容,並應自行判斷內容之真實性。由於討論區是受到「即時留言」運作方式所規限,故不能完全監察所有即時留言,若讀者發現有留言出現問題,請聯絡我們。本站有權刪除任何留言及拒絕任何人士留言,同時亦有不刪除留言的權利。切勿撰寫粗言穢語、誹謗、渲染色情暴力或人身攻擊的言論,敬請自律。本網站保留一切法律權利。