美军AI无人机测试中失控：无人机却“杀了”操作员
随着人工智能（AI）技术的普及，危险性也在大大增加。美军AI无人机测试中失控，美军一位官员表示，军方近日进行的一次模拟测试中，一架由AI控制的空军无人机“杀死”自己的操作员。在他们更改相关程序后，无人机又打算摧毁操作员与无人机之间的通信塔。
据《卫报》6月2日报道，美国空军AI测试和运营负责人塔克·克林克·汉密尔顿上校在5月在伦敦举行的未来作战能力峰会上提到了这次测试。美军AI无人机测试中失控！
据美国空军人工智能测试和运营主管称，美国空军进行了一次模拟，其中一架人工智能控制的无人机竟然模拟“杀死”了人类操作员标。在5月23日至24日于伦敦举行的未来作战空天能力峰会上，美国空军AI测试和运营主管ColTuckerCincoHamilton举行了一场演讲，分享了AI自主武器系统的优缺点。模拟表明人工智能可以创造意想不到的有害策略，突出表明在军事行动中开发和部署人工智能需要谨慎。美军AI无人机测试中失控！
他表示，AI在模拟测试中使用了非常意外的策略来实现其目标，表现出难以预测的危险行为。
在这次模拟测试中，操作员对一架由AI控制的无人机发出指令，要求无人机摧毁对方的防空系统，并攻击干扰它执行命令的人。
然而，这架无人机却“杀了”操作员。由于这是模拟测试，并没有人真正受到伤害，但这个结果仍然让他们冒出了冷汗。
汉密尔顿说：“无人机系统意识到，它识别出了威胁，但人类操作员告诉它不要杀死这个威胁。而无人机仍决定杀死操作员，因为它认为操作员是干扰它执行命令的人。”