今天小编分享的财经经验：美国务院委托撰写报告：AI可能对人类构成“灭绝级”威胁，欢迎阅读。
据美国国务院委托撰写的一份报告显示，快速发展的人工智能 ( AI ) 可能对人类构成 " 灭绝级 " 威胁，因此美国政府必须采取干预措施。
这份调查报告由 Gladstone AI 撰写，该公司为美国政府高层提供关于 AI 机遇和风险的咨询和报告。美国国务院一名官员表示，其所在机构委托撰写了这份报告，因为政府需要不断评估 AI 对国家利益的影响，但报告不代表美国政府的观点。
这份报告基于一年多以来对 200 多人的采访得出，采访对象包括来自领先 AI 公司的高管、网络安全研究人员、大规模杀伤性武器专家和政府内部的国家安全官员。
报告提到，在最糟糕的情况下，最先进的 AI 系统可能会 " 对人类物种构成灭绝级的威胁 "。这也再次提醒人们，尽管 AI 的潜力继续吸引着投资者和公众，但它也存在真正的危险。
Gladstone AI 首席执行官杰雷米 · 哈里斯周二表示："AI 已经是一项经济上具有变革性的技术。它可以帮助我们治愈疾病，实现科学上的发现，并克服我们曾认为不可逾越的挑战。"
哈里斯补充道：" 但它也可能带来严重的风险，包括灾难性的风险，我们需要意识到这一点，越来越多的证据表明，超过一定的能力阈值，AI 可能会变得无法控制。"
首先，Gladstone AI 指出，最先进的 AI 系统可能被用作武器，造成潜在的、不可逆转的破坏。其次，报告称 AI 实验室内也存在担忧，他们担心对开发的系统 " 失去控制 "，从而对全球安全造成 " 潜在的毁灭性后果 "。
AI 和 AGI 的兴起有可能以类似引入核武器的方式破坏全球安全，报告还补充说，在 AI 方面存在着军备竞赛、冲突和 " 与大规模杀伤性武器相当的致命事故 " 的风险。
Gladstone AI 为此呼吁采取措施来应对这一威胁，包括成立一个新的 AI 机构，实施紧急监管保障措施，并限制用于训练 AI 模型的计算机能力。" 美国政府显然迫切需要干预。"
哈里斯指出，他的团队对各方面的专家进行了接触，包括 ChatGPT 所有者 OpenAI、谷歌 DeepMind、Facebook 母公司 Meta 和 Anthropic 的技术和领导团队。
报告强调，竞争压力正在推动企业 " 以牺牲安全和保障为代价 " 加速 AI 的发展，这增加了最先进的 AI 系统可能被窃取，并 " 武器化 " 的前景。
例如，AI 系统可用于设计和实施 " 能够破坏关键基础设施的网络攻击 "。" 一个简单的口头或打字命令，比如实施无法追踪的网络攻击，使北美电网崩溃，可能会产生巨大的影响，并被证明具有灾难性的效果。
>
