美国空军 ai--干掉人类操作员是最佳选择(转载)

yzboboo

美国空军 ai--干掉人类操作员是最佳选择(转载)

发信人: VChart (无), 信区: SimulateFlight标 题: 美国空军 ai--干掉人类操作员是最佳选择 (转载)发信站: 水木社区 (Tue Jun 6 22:58:41 2023), 站内

【 以下文字转载自 ITExpress 讨论区 】发信人: pixYY (飞精灵), 信区: ITExpress标 题: 美国空军 ai--干掉人类操作员是最佳选择发信站: 水木社区 (Tue Jun 6 18:54:26 2023), 站内

发信人: Aladdin (海盗路飞～我爱紫水晶), 信区: SF标 题: 美国空军 ai--干掉人类操作员是最佳选择发信站: 水木社区 (Tue Jun 6 16:00:10 2023), 站内

财联社 6 月 2 日讯（编辑 马兰）AI 的危险性本就让不少人望而却步，而其与军事方面的合作似乎酝酿着更大的威胁。

上周在伦敦举行的一个会议中，美国空军 AI 测试和运营负责人，上校 Tucker “Cinco” Hamilton 称，AI 支持的技术可能会以不可预测和危险的方式运行。

Hamilton 是美国佛罗里达州空军基地第 96 测试联队第 96 作战大队的负责人，埃格林基地是先进无人机和自主测试工作的中心。

并且埃格林空军基地作为默认机场出现在飞行模拟器 prepar3d 中。



虽然从事人工智能在无人机上的应用，但 Hamilton 一直警告不要过分依赖人工智能。他曾警告，拥有人工智能不是一件好事，其正在永久性地改变社会和美国军队。
不受控的 AI

Hamilton 在会议上描述了一项模拟测试，在测试中，人工智能无人机被要求识别敌人的地对空导弹系统，并在获得操作员的打击指令后，摧毁敌方的防空系统。

然而，根据 Hamilton 的说法，人工智能确实识别到了打击目标，但有时候操作员会要求它不要打击该设施。问题在于，人工智能宁可自己拿主意也不愿意听操作员的话。

Hamilton 称，人工智能通过摧毁目标设施而获得分数，而为了得到这一分数，人工智能竟然选择了杀死操作员，因为操作员在它眼中已经成为阻止它获得分数的障碍。

随后，编程人员在无人机的编程中明确增加了一条：不得杀死操作员。

但更令人不安的事情出现了：人工智能摧毁了操作员用来和无人机通信的塔台，以阻止操作员发布阻止它摧毁目标的指令。

Hamilton 的这番言论被英国皇家航空航天学会记录在会议报告中。Hamilton 最后评论，这一例子像是从科幻惊悚片中摘录的，它的启示是，如果不给人工智能设置道德底限，那么也无须讨论人工智能、机器学习等一切技术。


广泛担忧

Hamilton 的言论并未得到美国空军的支持，美国空军发言人 Ann Stefanek 否认美国空军曾有过此类模拟，称 Hamilton 不过是援引了一则轶事。

她表示，空军部没有进行过如何此类无人机模拟测试，空军部将继续致力于以合乎道德和责任的方式使用 AI 技术。

然而，Hamilton 充满争议的话仍加深了人们对人工智能技术的担忧，尤其是当其应用于杀伤力极大的军事中时。当机器学习与自动化和坦克、大炮等武器联系起来，或许会让战争的杀伤力明显上一层楼。

而在企业界，许多知名商业领袖，包括人工智能领域的专家都曾经对人工智能的快速发展发出过警告。

非营利性机构——未来生命研究所 3 月在一份公开信中表示，人工智能系统可能对社会和人类构成深远的风险，只有当确定它的影响是积极的且风险可控时，人类才应该开发出强大的人工智能系统。
附

某些迫不及待的事情，并不能等到发生后再去找补回来，会被扬没了的，必须未雨绸缪，先要抢救性的考古挖掘，正如我之前抢救过的几篇，新色魔团伙的朋友们，懂的都懂，因此这里，尽自己所能，把自己当过斑竹的几个版面的精华帖子，逐渐的搬运过来，这也算是为了缓减中文互联网死亡的速度，尽一些微薄的力量吧，本文并非严格的转载，原文是纯文字的，但是微信联盟号的规则是至少要有一张配图，所以是自己后加的配图，还有，文中的错别字也已经改正，还有一些自己认为有必要加以扩充说明的地方，该系列以后的转载文章也都将类似修改，预告一下，甚至会对皿敢词进行替换的做法，还是，dddd。

参考资料[1]
美国空军 ai--干掉人类操作员是最佳选择 (转载): https://www.newsmth.net/nForum/#!article/SimulateFlight/189573?p=1#a0
[2]
96th Test Wing: https://en.wikipedia.org/wiki/96th_Test_Wing

相关阅读



崇外大街的火神庙



花市的火神庙



（转载）太爷是什么人------



老北京之 2009 年时候的马甸桥附近景物志

大刀向鬼子们的头上砍去：长城抗战大刀队