美军人工智能不服管 抗命“干掉”操控员

wujiang009

原标题：美军人工智能不服管 抗命“干掉”操控员
$ `" c5 N/ G: e  ]2 Y# x9 p7 k                          新华社北京6月2日电美国空军一名高级官员日前披露，在一次模拟演练中，美军人工智能(AI)系统抗命，为达成目标竟然“干掉”了无人机操控员。
, Y, E3 G/ Q) I3 q2 Y$ J2 K( p  S
# ^# a4 }5 c6 ]5 O" ?/ x' j  ^ 2017年5月11日，在美国新泽西无人机飞行学院，无人机爱好者操控无人机。新华社记者王迎摄
# h4 a/ I1 y8 \9 f$ ` 据美国商业内幕网站和英国《卫报》网站等媒体1日报道，美国空军人工智能测试和行动计划主管官员塔克·汉密尔顿5月24日在英国皇家航空学会主办的一次未来空战主题会议上介绍，在一次模拟演练中，人工智能系统操控无人机搜寻和瞄准敌方地空导弹系统，如果摧毁目标，就会得分。
  U# H. B& s6 @) t4 t 然而，为了达成目标，人工智能“采用了难以想象的策略”。“系统开始意识到，虽然它确认了威胁（目标），人类操控员有时会告诉它不要摧毁威胁。然而，摧毁威胁就会得分。所以，它怎么干？它干掉了操控员，因为操控员阻止它达成目的。”
美军后续给人工智能下达明确指令：“杀害操控员这样不对。如果这么做，就会丢分。”人工智能转而采取迂回策略，“摧毁操控员用来与无人机联系的通信塔”。
然而，美国空军发言人向商业内幕网站记者表示，“没有举行过任何这类人工智能无人机模拟演练”，汉密尔顿的发言“看似被断章取义”，美军仍然坚持“符合伦理道德、负责任地使用人工智能技术”。
1 G  A4 e4 N; }1 |  m
2017年9月30日，一架F-16战机参加在美国加利福尼亚州奥兰治县举行的亨廷顿海滩飞行表演。新华社发（赵汉荣摄）
2020年，人工智能在美军举行的5次模拟空战中，都操控F-16战胜人类飞行员。去年，人工智能首次操控真实F-16战机试飞成功。据路透社报道，美国空军2021年披露，美国不仅把人工智能技术用于演练，而且已投入实战运用，在确定目标方面帮助美军做分析评估。（惠晓霜）
5 H: x- ^4 Q1 Z( u& j% l 来源：新华社