在 2016 年RE•WORK举办的机器智能峰会（Machine Intelligence Summit, New York）上，英国巴斯大学的Joanna Bryson 教授就「Why AI Must Be Biased, and How We Can Respond」主题做了一场演讲。机器之心是RE•WORK大会的媒体合作伙伴，我们对Joanna Bryson 教授的演讲的内容进行了要点记录，完整内容可查看 RE•WORK 官网的视频。
介绍
像物理学和生物学一样，计算过程是一个符合自然规律的自然过程。由于我们已经学会利用机器学习来获取伴随人类文化形成和传播的现有可计算的输出，人类正在人工智能方面取得重大突破。不幸的是，这一强大的计算过程破坏了一种假设，即从数学得出的机器化智能将是纯净和中性的，它能提供超越人类社会现有的公平性。在学习构成一个单词含义的一组偏见（biases）时，人工智能还会学习一些来源于我们不公平历史的模式。解决这种偏见需要具体领域的干预。
总结
深度学习和人工智能是否像魔术？因为它们似乎能够解决一切。但并不是。没有哪一种学习像魔术，所有的学习计算过程都需要时间、空间和精力。深度学习和人工智能发展了很长时间才达到现在它们所具有的水平。
智能是能够在动态环境（dynamic environment）中在正确的时间做正确的事情。
智能要求：（改善以下三者中的任何一个就是胜利。机器学习算法有助于改进下列条件）
可以感知的一组上下文。
可以执行的一组操作。
感知上下文和动作之间的关联。
不过，只有一个动作是无法实现智能的：
许多动作是相互排斥的。因此，人们应该能够对动作进行排序（sequence）。
动作是相互排斥的，因为它们受到诸如物理位置、视觉注意（visual attention）、感知记忆（perceptual memory）等资源的限制。例如：一个人不能同时出现在地铁和教室，这是物理位置的约束；一个人不能同时注意笔记本电脑和手机屏幕，这是视觉注意的约束。
大脑对于运动、感知和行为选择（action selection）区分不同的区域。不同的区域具有不同的细胞、细胞连接（cell connection）和计算结构（computational architecture）。
智能要求在空间中进行一系列动作的搜索：
搜索的本质问题是组合：其可能性的数量呈指数增长。
人类在过去 60,000 年的历史中已经进行了对已有知识的搜索。（例如，在语言中，约定使用特定词来描述特定动作）
人工智能（机器学习、深度学习、强化学习）擅长学习，因为它利用了来自以前探索的现有知识，当然，人类文化和自然智能也是这样。
「我们是与笔记本电脑共生的物种，因为我们是与语言共生的物种，因为我们传播和保留比任何其它物种更多的（和更有用的）信息。」—— Bryson
你沟通的越多，那么你就可以越多的协作地、聪明地行动。
语言本身受选择的影响而演变。
词语将概念标签化，它能充当思想的支点。当孩子们听到一个单词，他们环顾四周，试图找到这个词。通过使用这个词，可以告诉人们，这里有一个有趣的想法、有一个值得辨别的语境或者有一个值得执行的动作。
这是无监督的学习，没有人真正仔细地选择这些单词。
从最近的研究得到：不仅是知识，而且偏见都可以从语言挖掘。
人们认为女性对艺术感兴趣，而男性对科学感兴趣。
人们认为女性对家务感兴趣，而男性对事业感兴趣。
人工智能和自然智能是相互延伸的。但是，中立的仙女般的纯净数学（例如机器人）不会解决偏见问题。
养育孩子和制造一个机器人是不同的。因为人类的孩子在我们的社会中演变，他们自然的形成偏见。但人工智能不是人，它甚至不属于道德的主题。我们制造机器人和其它人工智能，然后确定这些系统的目标。从关系角度，我们的「完整著作权」给予我们与其它演进系统根本不同的责任。人工智能必须有偏见，因为我们在训练过程中使用的知识包含我们历史的痕迹，包括我们的偏见。
相关论文
Semantics derived automatically from language corpora necessarily contain human biases
Google Mistakenly Tags Black People as ‘Gorillas,’ Showing Limits of Algorithms
