MIT的研究人员创造出一种检测和解决AI偏差的新方法
近日,麻省理工学院计算机科学人工智能实验室(CSAIL)的研究人员创造出一种减少AI偏差的新方法,同时又不降低预测结果的准确性。麻省理工学院教授David Sontag称,关键是从代表性不足的群体中获取更多数据。例如,研究人员发现,AI模型将女性标记为低收入,男性标记为高收入,这是有失客观性的,因此他们通过将数据集中女性的代表性提高10倍,达到了将不准确结果的数量减少40%的效果。
预测准确性的差异往往归因于数据缺乏或不可测量的变量因素,因此该研究团队建议在进行公平标准评论之前,对模型偏差、模型方差和结果噪声进行AI模型分析。
据悉,该方法用于根据人口普查数据,教科书评论和重症监护患者的死亡率实现收入的平等结果。结果将于12月在蒙特利尔的神经信息处理系统(NIPS)上公布。