用户名:  密码:   
网站首页即时通讯活动公告最新消息科技前沿学人动向两岸三地人在海外历届活动关于我们联系我们申请加入
栏目导航 — 美国华裔教授专家网科技动向科技前沿
关键字  范围   
 
澳联邦科学与工业研究组织(CSIRO):全新算法助机器学习抵抗干扰
澳联邦科学与工业研究组织(CSIRO):全新算法助机器学习抵抗干扰
作者:张梦然 | 2019/7/2 19:59:28 | 浏览:1319 | 评论:0

 澳联邦科学与工业研究组织(CSIRO):全新算法助机器学习抵抗干扰

     机器学习模型受到攻击将产生严重的后果,但如果对这一情形提前预防呢?就像人类针对即将到来的病毒去接种疫苗一样。据澳大利亚联邦科学与工业研究组织(CSIRO)官方网站消息,该机构的一个研究团队,日前开发了一套人工智能(AI)最新算法,可帮助机器学习抵御可能遇到的干扰。

  机器学习是人工智能的核心,也是使计算机具有智能的根本途径。机器学习主旨是让计算机去模拟或实现人类的学习行为,以获取新的知识或技能,并重新组织已有的知识结构,使之不断改善自身的性能。

  机器学习虽然可以在大数据训练中学到正确的工作方法,但它也很容易受到恶意干扰。通常攻击者是通过输入恶意数据来“欺骗”机器学习模型,导致其出现严重故障。

  此次,开发出新算法的研究团队——“Data61”机器学习小组领导者理查德·诺克表示,攻击者会在进行图像识别时,在图像上添加一层干扰波,达到“欺骗”的目的,从而让机器学习模型产生错误的图像分类。

  诺克及其团队成员研发的新算法,通过一种类似疫苗接种的思路,可以帮助机器学习“修炼”出抗干扰能力。这是针对机器学习模型打造的防干扰训练,譬如,在图片识别领域,该算法能够对图片集合进行微小的修改或使其失真,激发出机器学习模型“领会”到越来越强的抗干扰能力,并形成相关的自我抗干扰训练模型。

  经过此类小规模的失真训练后,最终的抗干扰训练模型将更加强大,当真正的攻击到来之时,机器学习模型将具备“免疫”功能。

澳联邦科学与工业研究组织(CSIRO):全新算法助机器学习抵抗干扰

  总编辑圈点
  用小伎俩干扰机器对图像的识别,这种手段已经应用在网络黑产中。人眼看起来并无明显区别的图片,覆上一层专门针对机器的干扰波,就能让机器的判断大失水准。所谓接种疫苗,其实也就是“以毒攻毒”,让机器先见识已经被微小修改的图片,并在训练中自我学习,从而最终能识破这层恶意干扰,揭开图片的庐山真面目。机器的学习功能是强大的,教会它应对方法,它便能自我完善。但攻击与防御总是相伴相生,这是一场没有尽头的技术博弈。

相关栏目:『科技前沿
Anthropic 又传融资 20 亿美金,OpenAI劲敌终养成 2025-01-31 [41]
孙正义在中国狂赚几千亿美元,转手就投给美国500亿,如今承诺特朗普要再投1000亿,用于美国的AI“星际之门”计划,还要当董事长 2025-01-24 [162]
人工智能再建奇功!破解百年难题,《自然》重磅发表。 2025-01-19 [326]
英国政府公布“人工智能机遇行动计划” 2025-01-15 [422]
生产力!AI生产力!全新AI生产力! 2024-12-15 [1345]
《2024 年人工智能现状报告》213页,深度剖析 2024-12-15 [1407]
DeepMind发布报告:AI for Science的黄金时代已来 2024-12-05 [1823]
刚刚,李飞飞创业首个项目引围观:单图生成交互3D场景,空间智能来了 2024-12-05 [1562]
工信部:未来产业六大方向聚焦人形机器人、脑机接口、量子科技等领域 2024-11-06 [2253]
Gartner 公布2025年十大战略技术趋势 2024-10-31 [2289]
相关栏目更多文章
最新图文:
:大数据分析图解:2019中国企业500强 张梦然:英国惠康桑格研究所:人体内的微生物与出生方式有关 :美众议院将调查华裔部长赵小兰“利用职权为家族谋利“ :UCLA CCS 2019 Fall Quarter Lecture Series Overview 谭晶晶:美国科技界高度关注中国科技创新进展 :推荐:2019年底前中国高校重要学术论坛(10月 - 12 月) :黄奇帆:今后10年,中国经济将发生5个历史性变化 :为了在外太空住,人们都设计过怎样的房子?
更多最新图文
更多《即时通讯》>>
 
打印本文章
 
您的名字:
电子邮件:
留言内容:
注意: 留言内容不要超过4000字,否则会被截断。
未 审 核:  是
  
关于我们联系我们申请加入后台管理设为主页加入收藏
美国华裔教授专家网版权所有,谢绝拷贝。如欲选登或发表,请与美国华裔教授专家网联系。
Copyright © 2025 ScholarsUpdate.com. All Rights Reserved.