您的位置:首页 > 互联网

AI透明度引发关注 科技巨头推工具解释算法决策过程

发布时间:2018-09-27 09:28:49  来源:互联网     背景:

  北京时间9月27日消息,人工智能技术的透明度和道德伦理问题正引发越来越多的关注,这促使云计算服务提供商推出新工具,解释人工智能算法背后的决策过程。

  会计和金融等强监管行业的高管表示,数据科学家和非技术业务经理都必须能理解算法决策背后的流程。这至关重要。这样的理解在防范潜在道德违规和监管违规方面可能会带来深远影响,尤其考虑到企业级人工智能算法正变得越来越普遍。

  毕马威创新和企业解决方案部门负责智能自动化、认知和人工智能的高管维诺德·斯瓦米纳桑(Vinodh Swaminathan)表示:“我认为,除非具备这种解释能力,否则人工智能在企业中的规模不可能超过数百个试点应用。”

  对人工智能的解释问题已经促使IBM和谷歌等公司在云计算人工智能服务产品中引入透明度和道德伦理工具。

  IBM商业价值研究所近期的一项研究调查了5000名企业高管。约60%的受访者表示,他们关心如何解释人工智能使用数据作出决策,以达到监管和合规标准。这个比例较2016年时的29%大幅上升。

  甚至对数据科学家和相关企业高管来说,人工智能的决策过程有时都是“黑盒”。在深度学习工具,例如用于模式识别的神经网络中尤其如此。这样的神经网络试图模拟人脑的运转方式。

  尽管这些系统可以以前所未有的准确率和速度得出结论,但外界并不总是非常清楚,计算网络是如何做出具体的决策。

  毕马威内部的数据科学家正在开发自主的可解释性工具,此外该公司也在利用IBM新的透明度工具。斯瓦米纳桑表示,这样做的目的是确保技术和业务两方面的员工都能“打开黑盒”,准确地了解人工智能算法是如何做出结论的。

  IBM上周发布了新的云计算人工智能工具,可以向用户展示哪些主要因素影响了人工智能做出的建议。这些工具还可以实时分析人工智能决策,以识别固有偏见,并推荐数据和方法来解决这些偏见。IBM负责认知解决方案的高级副总裁大卫·肯尼(David Kenny)表示,这些工具可以与IBM人工智能服务,以及谷歌等其他云计算服务提供商的工具配合使用。

  谷歌研究科学家和软件工程师发布的博文则显示,谷歌去年开始为开源的机器学习代码发布新工具,“作为更广泛研究的一部分,满足对可解释性的政策目标”。谷歌本月早些时候发布的另一款人工智能工具允许非程序员检查和调试机器学习系统,以评估算法的公平性。

  微软正通过Azure来提供人工智能服务。该公司发言人表示,人工智能系统的设计需要有公平、透明和安全的保护,从而确保信任。微软正在这方面做出持续的努力。亚马逊没有对此问题做出回应。

  来自强监管金融行业的Capital One Financial Corp和美国银行正在研究,如何解释人工智能算法得出答案的背后原理。两家公司都表示,目标是利用人工智能来优化对欺诈的监测,但首先它们需要了解这些算法是如何工作的。






  声明:本文仅为传递更多网络信息,不代表本站观点和意见,仅供参考了解,更不能作为投资使用依据。


返回网站首页

本文评论
联通4K IPTV高配冰激凌套餐国庆再升级  同等价钱流量翻一番
国庆假期即将来临,很多人趁此机会选择外出旅行,也有一部分人选择宅在家追剧、睡觉来放松身心。不......
日期:09-28
从“新零售”到“新制造” 阿里巴巴的下一步
从“新零售”到“新制造”,阿里巴巴的“五新”战略有了发展引擎。...
日期:09-25
助力电竞产业破局 虎牙直播变现能力获央视肯定
在2018雅加达亚运会电竞表演赛项目《王者荣耀国际版》中,游戏ID为“老帅”的电竞选手张......
日期:09-28
极晨智道与红马科技携手打造先进锂电智能工厂
2018年9月14日上午,极晨智道信息技术(北京)有限公司与陕西红马科技有限公司在红马科技公司会议室举......
日期:09-29
一搜即达:微信小程序“功能直达”开放
昨天,微信“功能直达”正式开放,用户微信搜一搜功能词,搜索页面将呈现相关服务的小程......
日期:09-29
【OA技术派】华天动力OA 基于工作流的智慧OA平台
中国特色的市场环境造就了中国企业独特的管理模式,所谓管理,无非是计划、组织、执行、控制企业内......
日期:09-29
真的来了,华为亲自爆料真机:Mate20系列拥有以下新功能
苹果发布三款新机之后,成为了现在关注度最高的手机,不过随着时间的推进,关于华为Mate20系列新机......
日期:09-26
终于等到你!百度智能小程序即日起开放申请!
9月25日,百度宣布智能小程序开放申请。百度作为移动互联网的流量巨头,在宣布推出智能小程序的第一......
日期:09-25
刚刚 腾讯宣布大变革!互联网开启下一个时代!
今天,腾讯在20岁生日之际,宣布组织架构调整方案:既保持深耕垂直领域的优势和特点,保留原有的企业发......
日期:09-30
国庆长假 小度让我做了一个只管吃喝玩乐的幸福奶爸
“小度小度,2018年国庆假期去哪玩?”...
日期:10-01
希沃与北师大项目组签署合作意向书并启动首个项目
9月27日,希沃与北京师范大学教育学部信息化教学提升项目组签署了合作意向书,以希沃易课堂产品作为......
日期:09-29
腾讯位置服务开放小程序解决方案 助力开发者打造个性地图
日前,腾讯位置服务面向开发者全面开放小程序解决方案,为广大开发者提供更便捷、更智能的位置服务......
日期:09-26
百度与中国科技馆达成战略合作:用AI共建“智慧科技馆”
9月21日上午,百度公司与中国科学技术馆在北京签署战略合作协议,双方将借助各自在技术、资源方面的......
日期:09-21
誓做客服机器人里的大疆 意能通ALL IN自研智能语音引擎
客服机器人市场,在客户的争夺上已经进入白热化,尤其是中大型客户的争夺已经全面进入价格战模式。处......
日期:09-26
AI赋能营销,“狼”这回真的来了
9月19日到21日,由百度主办的AI营销创想季在上海举办“创想营”。来自群邑、电通安吉斯、......
日期:09-22
特大跨境色情直播平台被端 腾讯手机管家支持查杀恶意色情软件“Max”
移动互联网时代,网络风险加剧给安全防御带来了挑战。为保障用户财产安全,营造绿色的网络环境,今......
日期:09-27
百度、头条先后杀向小程序新入口 哪些赛道会顺势而起?
继腾讯、阿里、百度之后,头条入局,小程序之战再次升级。 9月25日,今日头条小程序内测一周后,百度宣布智能小程序开放...
日期:09-27
喜大普奔!微软商店开始支持Windows 10时间线
9月29日消息 微软已在最新的更新中为Microsoft Store添加了对Windows 10时间线的支持。这意味着你搜......
日期:09-29
“猜谜会”,阿里钉钉与蓝凌的发布会?
近日,钉钉与蓝凌宣布战略联盟:阿里钉钉投资蓝凌数亿元。 发布会的主题:合璧创生! 发布会的内容:我们合作了,还...
日期:09-30
直通硅谷创新创业大赛华南赛区完美闭关 项目质量获评委点赞
从8月初的海选到9月初的初赛筛选,9月21日,直通硅谷创新创业大赛华南赛区终于迎来了最令人激动的环......
日期:09-28