我们如何真正评判 AI

我们如何真正评判 AI

假设您看到人工智能工具可以准确预测您拥有的一些股票。你对使用它有什么感觉？现在，假设您正在一家公司申请工作，人力资源部门使用 AI 系统来筛选简历。你对此感到满意吗？

一项新的研究发现，人们对人工智能既不完全热情也不完全反对。人们并没有落入技术乐观主义者和卢德分子的阵营，而是逐个案例地辨别使用 AI 的实际结果。

“我们建议，当人们认为人工智能被认为比人类更有能力，而个性化被认为在给定的决策环境中是不必要的时，就会发生人工智能欣赏，”麻省理工学院教授 Jackson Lu 说，他是一篇新发表的论文的合著者，详细介绍了这项研究的结果。“当这些条件中的任何一个不满足时，就会发生 AI 厌恶，而只有当这两个条件都满足时，才会发生 AI 欣赏。”

AI 厌恶还是欣赏？能力-个性化框架和元分析审查。出现在Psychological Bulletin上。该论文有八位合著者，其中包括麻省理工学院斯隆管理学院工作和组织研究职业发展副教授 Lu。

新框架增加了洞察力

长期以来，人们对 AI 的反应一直受到广泛的争论，经常产生看似不同的发现。2015 年一篇关于“算法厌恶”的有影响力的论文发现，人们对 AI 生成的错误的容忍度不如对人为错误的容忍度，而 2019 年一篇广为人知的关于“算法欣赏”的论文发现，与人类的建议相比，人们更喜欢 AI 的建议。

为了调和这些复杂的发现，Lu 和他的合著者对 163 项先前的研究进行了荟萃分析，这些研究比较了人们对 AI 和人类的偏好。研究人员测试了这些数据是否支持他们提出的“能力-个性化框架”——即在特定情况下，人工智能的感知能力和个性化的必要性都会塑造我们对人工智能或人类的偏好。

在这 163 项研究中，研究小组分析了对 93 种不同的“决策环境”的 82,000 多份反应——例如，参与者是否对人工智能用于癌症诊断感到满意。分析证实，能力-个性化框架确实有助于考虑人们的偏好。

“荟萃分析支持我们的理论框架，”Lu 说。“这两个维度都很重要：个人评估 AI 在完成特定任务时是否比人更有能力，以及该任务是否需要个性化。只有当人们认为人工智能比人类更有能力并且任务是非个人的时，他们才会更喜欢人工智能。

他补充道：“这里的关键思想是，仅靠高感知能力并不能保证 AI 的欣赏。个性化也很重要。

例如，在检测欺诈或对大型数据集进行排序时，人们往往更喜欢 AI——在这些领域，AI 的能力在速度和规模上超过人类，并且不需要个性化。但是，在治疗、求职面试或医疗诊断等环境中，他们对 AI 的抵抗力更强，因为他们认为人类更能够识别他们的独特情况。

“人们有一个基本的愿望，即认为自己是独一无二的，与其他人不同，”Lu 说。“AI 通常被视为没有人情味，并且以死记硬背的方式运作。即使 AI 经过了大量数据的训练，人们也觉得 AI 无法掌握他们的个人情况。他们想要一个人类招聘人员，一个能看到他们与其他人不同的人类医生。

背景也很重要：从有形到失业

该研究还揭示了影响个人对 AI 偏好的其他因素。例如，有形机器人的 AI 欣赏比无形算法更明显。

经济环境也很重要。在失业率较低的国家，人工智能的升值更为明显。

“这在直觉上是有道理的，”Lu 说。“如果你担心被 AI 取代，你就不太可能接受它。”

Lu 正在继续研究人们对 AI 复杂且不断发展的态度。虽然他不认为当前的元分析是这个问题的最终决定，但他希望能力-个性化框架提供了一个有价值的视角，用于理解人们如何在不同环境中评估 AI。

“我们并不是说感知能力和个性化是唯一重要的两个维度，但根据我们的荟萃分析，这两个维度在很大程度上反映了在广泛的研究中塑造人们对 AI 而不是人类的偏好，”Lu 总结道。

除卢外，该论文的合著者还有中山大学的辛秦、陈晨、周汉森、董晓伟和曹丽梅;深圳大学的 周翔;以及复旦大学的 Dongyuan Wu。

这项研究部分得到了中国国家自然科学基金委员会对 Qin 和 Wu 的资助。