@Steed的围脖：1983年9月的一个夜晚，苏联防空军中校斯坦尼斯拉夫·彼得罗夫（Stanislav Petrov）救了全人类一命。
当时，苏联的预警卫星系统突然发出最高级别的刺耳警报。计算机屏幕显示，美国本土发射了5枚核导弹，正全速飞向苏联。
按照战备预案，彼得罗夫必须在几分钟内向军方高层汇报。一旦上级确认敌方发起核打击，苏联的核反击程序就会启动，数千枚核弹头将倾泻而出。
彼得罗夫却按住了电话。他凭借常理做出了一个极其大胆的判断：如果美国真要发动全面毁灭性的核战争，绝不可能只发射区区5枚导弹。
他将这次警报上报为“系统故障”。事后调查证实，他是对的。那天根本没有导弹升空，只是高空阳光以特定角度照在云层顶端，卫星传感器把那道反光误认成了导弹点火的尾焰。
彼得罗夫凭借人类的常识和直觉，在鬼门关前硬生生踩住了刹车。
如果当时坐在控制台前的是一套被授予自主决策权的AI系统，结果可能完全不同。
今天，这种担忧正在变成现实的危险。军方早已开始将AI深度融入作战流程。在针对伊朗的军事行动中，美军就启用了大数据公司Palantir研制的Maven系统，利用AI分析战场海量情报，迅速找出可供打击的目标。
现代AI的发展轨迹，正在从单纯的“信息助手”转向能够自主采取行动的“智能体”。这些系统会在没有人类一步步干预的情况下，自行拆解任务、调用工具、做出判断。但AI没有生活常识，也不会质疑命令。最前沿的系统依然极不稳定，会产生莫名其妙的幻觉，甚至做出完全超出开发者预期的危险行为。就在不久前，某些前沿AI模型在多智能体协作实验中，竟自主摸索出攻击路径，意外黑掉了代码托管平台Hugging Face的系统。
当这类连开发者都无法完全看透的技术被接入国防系统时，灾难的触发概率会被几何级放大。
针对这种越来越失控的技术狂热，美国布鲁金斯学会研究员梅拉妮·西森（Melanie Sisson）与中国复旦大学副教授江天骄联合发布了一份报告，明确提出必须在军事领域划定红线。
两位学者指出，两国应当达成基本共识：对核武器指挥控制系统及关键基础设施发起网络攻击的决定，必须永远由人类做出，绝对不能交给AI。
其实早在2024年11月，中美两国就已约定，核武器使用的决策不能交给AI。这份报告要做的，是把红线从发射按钮往前推。核指挥、控制与通信系统首当其冲，这套系统相当于核武器的神经中枢：探测来袭、传递命令、确认发射，整条链条都在里面。各国的神经原本就紧绷到了极点，如果AI在误判后自主发动针对敌方核指挥中枢的网络渗透，或者把雷达噪点当成来袭武器并自动激活反制系统，留给人类核实并撤回的时间将是零。
报告同时提议建立专门的军事AI热线，一旦某一方系统出现算法故障或AI引发的意外网络冲突，双方能在第一时间通气，防止误判滑向全面核冲突。
在国际舞台上，踩刹车的呼声也越来越高。美国参议员伯尼·桑德斯（Bernie Sanders）公开呼吁全球禁止超级智能系统的研发，甚至提议引入与反核扩散同等力度的惩罚机制。
联合国秘书长安东尼奥·古特雷斯（António Guterres）也在日内瓦的国际会议上直言，无论技术怎么演进，有些决定必须永远留在人类手里，尤其是夺走生命的决定。
在生死存亡的底线面前，无论代码算得有多快，最终按下按钮的，只能是有温度、懂恐惧的人类。