快捷搜索:  

美邦防部推出新本事,避免ai杀手滞板因“视觉噪音”而失控

"美邦防部推出新本事,避免ai杀手滞板因“视觉噪音”而失控,这篇新闻报道详尽,内容丰富,非常值得一读。 这篇报道的内容很有深度,让人看了之后有很多的感悟。 作者对于这个话题做了深入的调查和研究,呈现了很多有价值的信息。 这篇报道的观点独到,让人眼前一亮。 新闻的写作风格流畅,文笔优秀,让人容易理解。 "

人工智能(AI)技术的急速发展最近成为各界关注焦点。人们对于AI将来会在哪方面对人类构成威胁,以至米国国防部五角大厦是否一直在「在地下室建造AI杀电话械人」都有各种猜测。而就在此背景下,西方媒体近日报(Daily)道,米国防部正推出技术防止AI杀电话械人在战场上因「视觉噪音」而失控。

报道称,米国五角大厦官员对「人工智能可能自主系统的独特漏洞类别」已经敲响了警报,他们(They)希望(Hope)新的研究能解决这些问题。据悉,米国一项名为「保证人工智能稳健性免受欺骗」(GARD)的计划,致力于识别人工智能的视觉数据可能其他电子讯号输入,可能如何因引入所谓的「视觉噪音」(visual noise)而受影响。正如一位管理该研究的五角大楼高级官员周三解释称,「本质上,透过向影像可能传感器添加噪音,也许可以破坏下游机器学习算法」。

GARD国防承包商之一的计算机科学家,已经为测试此潜在问题尝试了各种各样的补丁。国防承包商MITRE公司的计算机科学家成功(Success)创造了「视觉噪音」。例如,一辆满载平民的巴士,如果被贴上了「视觉噪音」卷标,可能会被人工智能误认为是一辆坦克。

从技术上而言,「欺骗」人工智能算法犯下关键任务错误,是可行的。

而透过「保证人工智能稳健性免受欺骗」的计划,该机构持续在与行业合作伙伴合作开发算法和其他功能,来阻止此类欺骗行为。

米国国防部高级研究计划局(DARPA) 信息创新办公室副主任图雷克称:「这是一个专注于建立防御人工智能系统对抗性攻击的计划。」「无论是物理上可达成的攻击,还是添加到人工智能系统中的噪音模式,GARD计划都针对这些攻击建立最先进的防御措施。 」

以上内容归星岛新闻(News)集团所有,未经许可不得擅自转载引用。

AI杀手机(Mobile Phone)器人,五角大楼

您可能还会对下面的文章感兴趣:

赞(677) 踩(79) 阅读数(7705) 最新评论 查看所有评论
加载中......
发表评论