多位头部AI公司高管最担心模型被滥用于新型致命病原体

okx 7月24日消息，据Axios报道，多位头部AI公司高管在私下交流中表示，最担心的风险是有人利用强大模型设计出传播隐蔽且难以追踪的致命病原体。MIT FutureTech与昆士兰大学一项涵盖272名研究者的最新研究显示，即便在采取风险缓解措施的前提下，AI危险能力在2030年前导致超过100万人死亡或逾1000亿美元损失的“灾难性结果”概率为12%，AI促成武器与大规模伤害的概率同为12%，若无缓解措施风险将超过20%。Sam Altman、Dario Amodei、Demis Hassabis等近期亦联署公开信，呼吁在模型发布前强化能力审查与安全防护，特别警惕开源模型被恶意利用制造或优化生物武器。