沈向洋是著名的计算机视觉和图形学专家,1996年加入微软,1999年回北京参与创立微软中国研究院。在微软期间,历任微软亚洲研究院院长兼首席科学家,微软全球资深副总裁、全球执行副总裁。
本次聘任仪式,是沈向洋在去年宣布离职微软后首次公开亮相。2019年11月13日,微软CEO萨提亚宣布沈向洋将在2020年初离开微软。2020年3月2日,“清华大学本科教学”官方公众号发布了题为《沈向洋双聘教授聘任仪式暨春风讲堂第四讲》的通知,正式确认沈向洋去向。
聘任仪式后,沈向洋在线发表了题为“Engineering Responsible AI”的报告并通过在线平台公开直播,这也被视为其在清华的“第一堂课”。
沈向洋称,近年来人工智能领域取得的进步已经超出了此前的预期。但是,许多人工智能领域的从业人员并未充分考虑其可能产生的社会影响。如今企业界、学术界和政府需要立即采取行动以应对相关的社会挑战。
所谓Responsible AI,即负责任的人工智能。2018年,微软发表《未来计算》(The Future Computed)一书,其中提出了人工智能开发的六大原则:公平、可靠和安全、隐私和保障、包容、透明、责任。在报告开始阶段,沈向洋再次引用该原则,重申其重要性。
在报告中,沈向洋回顾了当前AI的进展,他认为,如今AI技术已经可以做决策,这是AI技术发展过程中非常重要的一步,但是人们依然缺乏对AI做决定这一过程的理解。举例而言,当人类在生产电气零部件时,都会有相应的检查记录,哪里出现问题,就可以对操作文件进行分析,从而找出问题。但是,AI却没有这样的环节,导致问题很难排查发现。
AI这一特点在微软内部同样表现如此,“我们对微软 500名机器学习领域工程师进行了调查,我们问他们如何改善机器学习系统?在经过调查后,得出结论:如今机器学习工程师面临的最大问题之一是,他们知道出了一些问题,但是不知道具体是哪里出了问题,也并不知道为什么会出现问题。” 沈向洋说。
在对AI训练结果的解释性、AI的偏见上,研究人员的缺陷也在影响AI发展。沈向洋以图形识别狗举例,尽管研究人员可以创造准确率较高的识别算法,区别图像中的狼和哈士奇,但仍无法解释其中原理。实际上,AI的判断并非通过图片中的动物部分,而是通过图片中除了动物之外的部分进行的。
在AI的偏见上,一个经典例子就是黑色人种的人脸识别。通常,AI对黑人女性比白人的面部识别准确率要低。但经过调整再次训练模型后,这种识别率的差距可以降低,达到可接受水平。从不断的训练中,研究者得出结论,这种偏见来自于训练采用的样本数据。因为研究者人员更多采用非黑色人种的数据样本。
报告中,沈向洋还引用《麻省理工科技评论》的一则新闻报道,该报道称。通过评估算法,AI可能将错误的人送进监狱。在没有仔细评估的前提下,AI预测犯罪可能会加剧对深色皮肤人士的不平等,而非提高社会安全。
最后,沈向洋总结道,“我们是第一代和AI共存的人类,无论喜欢与否都别无选择,人类得决定怎么构建、使用AI。而一个由AI做决定、人类无法理解的世界是不能接受的。”
相关资讯
最新热门应用
非小号交易平台官网安卓版
其它软件292.97MB
下载
币交易所地址
其它软件274.98M
下载
iotx交易所app
其它软件14.54 MB
下载
zt交易所安卓最新版
其它软件273.2 MB
下载
币拓交易所bittok
其它软件288.1 MB
下载
u币交易所平台app
其它软件292.97MB
下载
热币全球交易所app官网版
其它软件287.27 MB
下载
多比交易平台app
其它软件28.28MB
下载
币赢交易所app官网安卓版
其它软件14.78MB
下载
toncoin币交易所安卓版
其它软件48MB
下载