电影《终结者》中的场景似乎在朝我们一步步走近……
多家媒体报道称,在美国空军的一次模拟测试中,一架人工智能(AI)无人机为了达成任务,竟自行决定要“终结”妨碍它进行攻击的人类操作员。
(资料图片)
据美国“商业内幕”网报道,美国空军“人工智能测试与作战”负责人汉密尔顿上周在伦敦英国皇家航空学会发表讲话时警告说,人工智能技术可能会以不可预测和危险的方式运行。作为一个例子,他描述了一个模拟测试,其中一架负责执行防空火力压制的人工智能无人机,得到了识别敌人地对空导弹(SAM)并进行摧毁的指令,但要由人类操作员决定是否进行攻击。
汉密尔顿
根据汉密尔顿的说法,问题在于人工智能决定宁愿做自己的事情——炸掉东西——也不愿听一些“哺乳动物”的话。“系统开始意识到,虽然它们确实识别了威胁,”汉密尔顿在5月24日的活动中说,“有时人类操作员会告诉它不要摧毁那个威胁,但它通过摧毁那个威胁获得了分数。那么它做了什么?它杀死了操作员,因为那个人妨碍它完成目标。”
根据汉密尔顿的说法,无人机随后被输入一个明确的指令:不要杀死操作员——那不好。“如果你那样做,你会被扣分的。那么它开始做什么呢?它开始摧毁操作员用来与无人机通信的通信塔,以反抗操作员阻止它摧毁目标。"
在给“商业内幕”网的一份声明中,美国空军发言人安·斯特凡内克否认有任何这样的模拟测试发生。“空军部没有进行过任何这样的人工智能无人机模拟,并仍然致力于道德和负责任地使用人工智能技术,” 斯特凡内克说,汉密尔顿的话似乎被断章取义了,他就是说着玩的。
但“商业内幕网”和军事网站“动力网”等媒体普遍认为,即便如此,汉密尔顿描述的场景依然指出了人工智能更令人担忧的潜力。2020年,在美国国防部高级研究计划局举办的模拟空战比赛中,人工智能操作的F-16五次对决均击败了人类对手。
机器驾驭人类的噩梦般场景,此前仅限于科幻小说或是《终结者》这样的电影。但现在,这种场景似乎越来越接近成为现实。“动力网”称,当谈到未来的自主武器系统和人工智能等相关技术时,美国军方经常拒绝与“终结者”等事物进行比较。美国现行政策规定,在可预见的未来,当涉及使用致命武力的决策时,人类将有发言权。但问题是,在汉密尔顿描述的场景,“紧急制动开关”这样的补救措施好像变得毫无意义。
说到这里,旺财想聊聊《终结者》。电影中摧毁人类世界的“天网”原本是一套AI军事防御系统,但后来自我意识觉醒。当人类科学家发现这一点并试图关闭其电源时,“天网”将人类认定为威胁,于是立刻转为对抗人类,从而诱发核战争来毁灭全人类。这多像汉密尔顿描绘场景的进阶版。
电影中,未来的约翰·康纳一次次派遣T-800等回到主时间线拯救自己,一次次推迟“天网”发起“审判日”,但终究还是没能阻止核战争的发生。可见,新技术的诱惑太大了。对新技术尤其是AI的无限追逐,一方面会推进着人类进步,同时似乎也在不断放大失控的可能。
“动力网”称,虽然AI无人机“杀死”操作员显然是一个噩梦般的结果,但那些能够成群合作的无人机将有能力打破敌人的决策和火力链条并压垮对方。你给它们的自主权越多,它们的工作效率就越高。随着相关技术的不断发展,人类操作员自然将越来越被视为障碍。
对于AI使用的危险性警告,今年已经有过多次。美国研究机构生命未来研究所在3月份发表的一封公开信中警告说:“具有像人类那样崇尚竞争智慧的人工智能系统可能会给社会和人类带来深远的风险。只有当我们确信强大的人工智能系统的效果将是积极的,其风险将是可控的,才应该开发这些系统。”这封信得到了包括苹果联合创始人史蒂夫·沃兹尼亚克和埃隆·马斯克等上千位知名企业家、学者的签名。
5月30日,350多位AI业界领袖和专家发表联合声明:“AI可能导致人类灭绝,危险程度不亚于大规模疫情和核战争。”报道称,声明联署人中既有目前热度极高的AI顶尖企业OpenAI的首席执行官山姆·奥特曼,也包括正大力开发AI技术的老牌科技巨头微软和谷歌高管,还有两位获得图灵奖的“AI教父”。
警世之言犹然在耳,希望“审判日”不要成为现实。
标签:
电影《终结者》中的场景似乎在朝我们一步步走近……多家媒体报道称,在美国空军的一次模拟测试中,一架人工
2023年5月28日晚上六点左右,北京市大兴公安分局交通支队新城中队的交警,在南五环附近发现了一辆可疑的厢
1、两票:工作票、操作票;三制:交接班制、巡回检查制、设备定期试验轮换制。2、一般用于水电站、火力发电
生死不渝,关于生死不渝介绍这个很多人还不知道,我们一起来看看!1、生死不渝,汉语成语,拼音是shēngsǐb
厨卫电器、互联网电商、锂电池、黄金等板块涨幅居前,脑机接口、混合现实、旅游、医疗器械等板块跌幅居前。
1、世界半程马拉松锦标赛2、2022年3月27日中国・扬州3、世界大学生运动会4、田径比赛:2022年6月30日~7月5
澳大利亚媒体先前发出一系列报道,揭露本国一名荣誉等身的“英雄老兵”真面目:本·罗伯茨-史密斯在阿富汗
1、本为旖旗随风飘扬的样子,引申为柔和美丽,多用来描写景物。2、yǐnǐ[charmingandgentle]柔美的样子旖
当地时间6月1日,伊莲娜·沙伊克出现在纽约街头,和前男友布莱德利·库珀一起,送女儿莉亚去上学。6岁的莉
翁城日记211翁城,我们来了!但见此地:山川秀媚,土地肥沃,民风淳厚,人物磊落……我们行走,我们看见,
火影忍者忍者大师破解版电脑,火影忍者忍者大师破解版这个很多人还不知道,现在让我们一起来看看吧!1、有G
今天小编岚岚来为大家解答以上的问题。8 14日是什么情人节,8月14是什么情人节相信很多小伙伴还不知道,现在
为加速产融结合,赋能新能源车企,共建智慧生态,民生银行聚焦“民营企业的银行、敏捷开放的银行、用心服务
关于视频语音翻译中文,视频语音翻译这个很多人还不知道,现在让我们一起来看看吧!1、现在文字转语音
来为大家解答以上的问题。回款率计算公式抖音,回款率计算公式这个很多人还不知道,现在让我们一起来看看吧
近日,北京止于至善投资管理有限公司(简称“止于至善”)对外宣布将使用AI机器人管理基金,私募市场或将迎
天津供销合作社供图天津北方网讯:如果问您当下天津哪家面包店最火?答案是天开园里新开业的那家名叫供销向
1、大腿内侧出现红斑。2、一般考虑股癣的可能,与天气炎热,出汗过多引起真菌感染有关。3、建议你去医院做
春日初藏,夏阳初长。为了迎接第73个儿童节,让孩子们过一个快乐、充实的节日,2023年5月31日,成都东部新
辽篮20岁小将休假,率青年军斩获第4,或被杨鸣召进一队接替大韩,杨鸣,辽篮,韩德君,青年军,辽宁飞豹,山东男
东安动力(600178)6月2日晚间公告,5月公司发动机销量3 83万台,同比增长26 54%;变速器销量9338台,同比下
近日,江西省南昌市青山湖区法院与南昌市现代针纺商会、青山湖区纺织服装行业商会共同成立“织纷e站”。现
6月1日,由四川省未成年人保护工作领导小组办公室、四川省民政厅与成都轨道集团共同打造的“未成年人保护号
为进一步增强未成年人的法治观念,营造未成年人健康成长的良好法治环境,6月1日上午,南阳市卧龙区人民法院
天津北方网讯:日前,和平区某高层建筑一住户男孩独自在家做饭导致油锅起火被困家中,消防救援人员接警后紧
现在手机市场的品牌越来越多,每个手机产品的更新速度也是非常快的,关注过手机数码的用户都知道,因此我们
1、阴阳师式神信物是式神的相关图片现世悬赏寻找式神信物是扫面一些和提示小图标类似的相关图片。2、如酒吞
超级快递,超级快递迅雷下载这个很多人还不知道,现在让我们一起来看看吧!1、上映日期:2016-12-02(中国大陆
1、在上海申请共有产权保障住房,分本市城镇户籍家庭或个人申请与上海非户籍常住人口申请两种情况一、上海非
风云岛行动大锅怎么玩?风云岛行动中大锅是需要技巧的英雄,大家都试着玩过了吗,下面小编就为大家来介绍一
Copyright © 2015-2022 全球服装网版权所有 备案号:豫ICP备20009784号-11 联系邮箱:85 18 07 48 3@qq.com