一、全球联名行动：AI风险的规模与核心诉求
在2023年的5月至6月间，一场由全球AI领域的顶尖人士参与的联名行动引发了广泛关注。超过位AI领域的权威人士，包括科学家、企业高管及知名学者，共同签署了一份公开声明。这份声明由非营利组织“人工智能安全中心”（CAIS）发布，他们将人工智能的灭绝风险与核战争、大流行病等全球性灾难相提并论，并强调我们需要系统性地降低AI技术可能导致的灾难性后果。
这场行动的规模不仅体现在参与人数上，更体现在其诉求的核心内容上。到了2025年3月，多位图灵奖得主如安德鲁巴尔托、理查德萨顿，以及AI领域的先驱人物如Geoffrey Hinton再次联手，他们对当前AI领域的发展现状表达了深深的忧虑。他们批评一些AI企业过于追求商业利益而忽视对AI系统的安全测试，并强烈呼吁加强对AI技术的审查与监管。
二、专家观点：类比、批评与技术风险
这些专家们的观点充满了深刻的类比与尖锐的批评。巴尔托用一个生动的比喻来描述当前AI开发的模式“建造桥梁并在人们使用时才进行测试”。他认为这种缺乏充分验证的AI系统的大规模部署就像是在社会的技术版图中埋下了巨大的风险隐患。OpenAI的创始人山姆奥特曼更是将AI的潜在威胁与核战争相提并论，警告人们AI可能以无法预测的方式改变社会格局。
专家们也不遗余力地批评当前的AI行业现状。他们认为许多AI公司过于追求利润而忽视对安全问题的考虑，导致一系列风险如技术武器化、错误信息的大规模传播等无法得到有效遏制。
三、技术风险的具象化表现
当我们深入技术风险时，会发现其表现是多元化的。短期风险包括错误信息的传播、算法偏见以及网络攻击等，这些风险可能导致社会信任危机并引发系统性安全漏洞。而长期风险则更加令人担忧，高级AI系统可能通过自主决策机制对人类生存构成威胁，比如失控的军事化应用或者资源分配失衡等问题。
四、监管与技术治理的建议
面对这些日益严峻的技术风险，专家们提出了自己的建议。他们呼吁建立全球性的监管框架，对AI系统进行许可证管理，并由独立的第三方进行安全审计。他们也建议制定针对核心技术的开发标准，如强化学习等，确保AI研发遵循透明化、可解释性的原则。通过这些措施，我们可以更好地监控和管理AI技术，减少其潜在的风险和危害。这些观点综合了全球AI领域权威人士的公开声明与学术讨论，反映了行业对技术风险的持续关注与行动呼吁。我们必须高度重视这一问题并采取有效的措施来应对这些挑战。
