AI大咖：人工智能也会有偏见
发布时间：2019-07-11 发布者：亚时财经
首届欧洲创新大会7月9日在米兰举办，主题为“超级智能的曙光”，旨在探讨数据和智能机器将如何改变未来。
这位带有口音的英裔美国设计师表示，“Siri从来就不适合我。”
（图源：Fast Company）
在9日的创新大会中，苹果人机界面前设计总监伊姆兰•乔杜里在会上袒露，人工智能受制于我们输入的数据，当我们提供的数据有缺陷时，我们就会得到带有偏见的产品和服务。
乔杜里在苹果工作了20多年，后来与迈克尔·琼斯共同创办了Humane，后者是客户关系管理软件开发商Salesforce人工智能研发部门的产品高级总监。
由于人工智能易受偏见影响，两人一致认为，要想创建超越社会偏见的自动化系统，关键是要拥有多样化的数据库，并且雇佣多样化、多学科的设计和工程团队。
乔杜里说:“我们的社会存在隐性偏见。而且，由于(人工智能)在很大程度上是在模仿现实世界，所以(计算机)继承了我们这个世界同样的问题。”
琼斯解释道，如果提供给自动语音识别系统所有数据都来自白人男性，它就会疏远所有把英语作为第二语言或带有口音的人。如果开发一个根据已有的员工数据来挑选简历的招聘系统，那么它将自动淘汰含有女性元素的简历，因为现实中受青睐的主要是男性高层管理人员。比如写有“女子象棋俱乐部”内容的简历就会被剔除，这显然指的是亚马逊之前的人工智能招聘系统。
乔杜里表示，目前人工智能还处于一个非常早期的阶段。“这意味着(人工智能系统的)训练就像在训练一个无知的孩子，计算机会吸收很多现实中的偏见。”
如何部署人工智能也是一个问题。琼斯说，有时，公司必须严格限制他人使用其技术的方式，但“这很大程度上取决于公司的价值观”。比如Salesforce就规定客户不能将该公司的技术用于面部识别应用。
琼斯说，现在硅谷在开发算法时都更加谨慎，“过去人们总是在想，‘我们能做到吗？’但现在潮流正在转变，更多的人问的是，‘我们应该这么做吗？’”
文章来源：Fastcompany
原文链接：
https://www.fastcompany.com/90372481/heres-why-we-need-more-diversity-in-ai
编译：李伯媛
下一篇：华为首款5G手机定档7月26发布
热门话题更多>>
国务院国资委网站3月31日发布消息，经报国务院批..[查看详细]
2021-04-01 10:43
3月份中国制造业采购经理指数、非制造业商务活动指..[查看详细]
2021-03-31 10:20
联合国粮农组织公布的数据显示，2021年2月份，..[查看详细]
2021-03-25 15:22
3月22日，中国电子信息产业发展研究院发布的《2..[查看详细]
2021-03-22 16:53
风电板块走强，节能风电拉升涨停，大金重工涨超6%..[查看详细]
2021-03-19 10:47
3月18日，国家互联网信息办公室、公安部加强对语..[查看详细]
2021-03-18 19:36
1-2月份，在以习近平同志为核心的党中央坚强领导..[查看详细]
2021-03-15 14:41
3月11日，国务院总理李克强在人民大会堂三楼金色..[查看详细]
2021-03-12 10:00
今日，核电板块走强，整个指数大涨4%。截至发稿，..[查看详细]
2021-03-08 15:11
今天上午，十三届全国人大四次会议在人民大会堂开幕..[查看详细]
2021-03-05 15:06
