您的位置:首页 > 互联网

AI透明度引发关注 科技巨头推工具解释算法决策过程

发布时间:2018-09-27 09:28:49  来源:互联网     背景:

  北京时间9月27日消息,人工智能技术的透明度和道德伦理问题正引发越来越多的关注,这促使云计算服务提供商推出新工具,解释人工智能算法背后的决策过程。

  会计和金融等强监管行业的高管表示,数据科学家和非技术业务经理都必须能理解算法决策背后的流程。这至关重要。这样的理解在防范潜在道德违规和监管违规方面可能会带来深远影响,尤其考虑到企业级人工智能算法正变得越来越普遍。

  毕马威创新和企业解决方案部门负责智能自动化、认知和人工智能的高管维诺德·斯瓦米纳桑(Vinodh Swaminathan)表示:“我认为,除非具备这种解释能力,否则人工智能在企业中的规模不可能超过数百个试点应用。”

  对人工智能的解释问题已经促使IBM和谷歌等公司在云计算人工智能服务产品中引入透明度和道德伦理工具。

  IBM商业价值研究所近期的一项研究调查了5000名企业高管。约60%的受访者表示,他们关心如何解释人工智能使用数据作出决策,以达到监管和合规标准。这个比例较2016年时的29%大幅上升。

  甚至对数据科学家和相关企业高管来说,人工智能的决策过程有时都是“黑盒”。在深度学习工具,例如用于模式识别的神经网络中尤其如此。这样的神经网络试图模拟人脑的运转方式。

  尽管这些系统可以以前所未有的准确率和速度得出结论,但外界并不总是非常清楚,计算网络是如何做出具体的决策。

  毕马威内部的数据科学家正在开发自主的可解释性工具,此外该公司也在利用IBM新的透明度工具。斯瓦米纳桑表示,这样做的目的是确保技术和业务两方面的员工都能“打开黑盒”,准确地了解人工智能算法是如何做出结论的。

  IBM上周发布了新的云计算人工智能工具,可以向用户展示哪些主要因素影响了人工智能做出的建议。这些工具还可以实时分析人工智能决策,以识别固有偏见,并推荐数据和方法来解决这些偏见。IBM负责认知解决方案的高级副总裁大卫·肯尼(David Kenny)表示,这些工具可以与IBM人工智能服务,以及谷歌等其他云计算服务提供商的工具配合使用。

  谷歌研究科学家和软件工程师发布的博文则显示,谷歌去年开始为开源的机器学习代码发布新工具,“作为更广泛研究的一部分,满足对可解释性的政策目标”。谷歌本月早些时候发布的另一款人工智能工具允许非程序员检查和调试机器学习系统,以评估算法的公平性。

  微软正通过Azure来提供人工智能服务。该公司发言人表示,人工智能系统的设计需要有公平、透明和安全的保护,从而确保信任。微软正在这方面做出持续的努力。亚马逊没有对此问题做出回应。

  来自强监管金融行业的Capital One Financial Corp和美国银行正在研究,如何解释人工智能算法得出答案的背后原理。两家公司都表示,目标是利用人工智能来优化对欺诈的监测,但首先它们需要了解这些算法是如何工作的。






  声明:本文仅为传递更多网络信息,不代表本站观点和意见,仅供参考了解,更不能作为投资使用依据。


返回网站首页

本文评论
谷歌搜索宣布全面改版搜索框下增加个性化信息流
谷歌 据AndroidPolice北京时间9月25日报道,20年来,谷歌的极简主义搜索主页一直是其最具......
日期:09-25
腾讯的审时度势与 风“云”之变
文 | 周兴斌 预计阅读7分钟 微信公众号ID:bangmangtuan 企业发展其实就是个不断......
日期:09-30
微信又改版 头条变次条 这是我们的观察和思考
不久之前,9月22日,微信在安卓端推出6.7.3内测版。昨天,微信在iOS端更新了6.7.3。...
日期:09-26
中国教育40年 百度教育大脑首家AI教育实验室落户合肥
2018是中国改革开放的40年,也是中国教育不断发展的40年,中国把教育作为实现站起来、富起来、强起......
日期:09-24
积木云全球路演走进马来西亚 再掀下一代互联网技术热潮
9月29日,积木云全球路演第九站,在马来西亚吉隆坡圆满结束。全球首个底层协议级项目积木云,初次走......
日期:09-30
网龙“101教育PPT” 荣获教育软件第一个红点奖
近日,素有“设计界奥斯卡”之称的德国红点设计大奖2018年获奖榜单尘埃落定,网龙旗下拳......
日期:09-29
最美1000张脸,究竟谁才是颜“智”担当
核心提示: 9月19日,一个诺大的魔幻箱子空降上海大悦城,引来大量路人的围观,这个魔幻箱子究竟将......
日期:09-26
腾讯连夜确认!组织大调整坐实,马化腾宣布下个20年战略
9月30日消息,在昨夜媒体曝光之后,今天早上,腾讯官方宣布,将进行成立以来的第三次大规模组织架构......
日期:09-30
【OA技术派】华天动力OA 基于工作流的智慧OA平台
中国特色的市场环境造就了中国企业独特的管理模式,所谓管理,无非是计划、组织、执行、控制企业内......
日期:09-29
百度牵手国家卫生健康委“健康中国政务新媒体平台” 熊掌号为献血知识“加V”
“无偿献血会引起健康人贫血”、“献血会导致人发胖”、“献血会导致成瘾......
日期:09-28
再度携手佛山南海!阿里云举办广东工业智造大数据创新大赛
近日,广东省人民政府联合阿里巴巴集团共同启动“广东工业智造大数据创新大赛”,大赛由广......
日期:09-28
直通硅谷创新创业大赛华南赛区完美闭关 项目质量获评委点赞
从8月初的海选到9月初的初赛筛选,9月21日,直通硅谷创新创业大赛华南赛区终于迎来了最令人激动的环......
日期:09-28
百度熊掌号“权威问答”走进北京60个献血点 科普献血知识
近日,国家卫生健康委“健康中国政务新媒体平台”、北京市红十字血液中心举办“今日......
日期:09-29
只领跑不跟随,联想Tech World 2018 进入倒计时!
从联想官方发布海报来看,联想创新科技大会(Tech World 2018)正式进入倒计时!2018年联想创新科技大......
日期:09-22
国庆长假 小度让我做了一个只管吃喝玩乐的幸福奶爸
“小度小度,2018年国庆假期去哪玩?”...
日期:10-01
探秘美女声音鉴黄师:语玩App圈粉95后00后
日前,声音鉴黄师一度登上微博话题热搜榜,鉴黄师这一职业又引起了行业的广泛关注。...
日期:09-22
零售电商行业的终极理想
从「CK商业逻辑研究院」的公众号看了一篇关于实体店的分析文章,里面关于实体店和电商的购买距离、......
日期:09-29
希沃与北师大项目组签署合作意向书并启动首个项目
9月27日,希沃与北京师范大学教育学部信息化教学提升项目组签署了合作意向书,以希沃易课堂产品作为......
日期:09-29
再次来到十字路口:传腾讯正进行组织架构调整
江湖传言,腾讯将进行新一轮组织架构调整,重点突出TO B业务。中国互联网,传言大部分均非空穴来风......
日期:09-29
谷歌搜索学习Facebook信息流 猜测用户的兴趣点
北京时间9月25日消息,20年来,在一个空白搜索框中输入文本,几乎是所有人跟谷歌之间的互动方式。但......
日期:09-25