阿尔托大学的最新研究表明，有时人工智能似乎在提供帮助，但这种好处实际上是一种安慰剂效应——人们表现更好只是因为他们期望这样做。这项研究还表明，要动摇人们对人工智能系统能力的信任是多么困难。
在这项研究中，参与者的任务是进行简单的字母识别练习。他们自己完成了一次任务，据说还得到了人工智能系统的帮助。一半的参与者被告知该系统是可靠的，并且会提高他们的表现，而另一半则被告知该系统不可靠，并且会恶化他们的表现。
研究结果发表在CHI 计算系统人因会议论文集上。
“事实上，这两个人工智能系统都不存在。参与者被引导相信人工智能系统正在帮助他们，而实际上，假人工智能所做的事情完全是随机的，”博士研究员艾格尼丝·克洛夫特解释道。
参与者必须以不同的速度将屏幕上弹出的字母配对。令人惊讶的是，当两组人相信人工智能参与时，他们的练习效率更高、更快、更专注。
助理教授 Robin Welsch 表示：“我们发现，人们对这些系统抱有极高的期望，我们不能仅仅通过告诉他们某个程序不起作用，就让他们成为人工智能的终结者。”
在最初的实验之后，研究人员进行了一项在线复制研究，产生了类似的结果。他们还引入了一个定性部分，邀请参与者描述他们对人工智能的期望。大多数人对人工智能抱有积极的看法，令人惊讶的是，即使是持怀疑态度的人仍然对其表现抱有积极的期望。
这些发现给通常用于评估新兴人工智能系统的方法带来了问题。 “这是我们研究中的一个重要认识——由于安慰剂效应，很难评估那些承诺对你有帮助的项目，”韦尔什说。
虽然大型语言模型等强大的技术无疑简化了某些任务，但版本之间的细微差异可能会被安慰剂效应放大或掩盖——而这可以通过营销有效地利用。
这些结果也对人机交互研究提出了重大挑战，因为除非使用安慰剂对照研究，否则期望会影响结果。
韦尔奇总结道：“这些结果表明，该领域的许多研究可能偏向于支持人工智能系统。”
本站全部资讯来源于实验室原创、合作机构投稿及网友汇集投稿，仅代表个人观点，不作为任何依据，转载联系作者并注明出处：https://www.lvsky.net/29.html
评论