潮人新知 | “AI幻觉”正干扰我们的判断力
文/克莉斯汀
一项来自法国巴黎高师、罗马第一大学、米兰比可卡大学的共同研究发现：没有AI时，人们会更爽快地承认“我不知道”；但AI出现后，哪怕人们明明知道它会犯错，大部分人还是会选择把AI给出的答案当成是自己的判断并自信地说出口。相关研究成果已发表在arxiv论文平台上。
AI让人产生自信却丧失判断
这项研究原始目的是“AI对人类判断能力的影响”。研究者表示：对人类来说，说出“我不知道”代表我们能意识到自己知识有边界，这很重要。但有了AI之后，几乎任何问题都能立刻得到一个“答案”。于是我们需要思考，这个现象会不会干扰人类原本的判断能力？
研究团队共做了5个实验，参与实验者总数达3132人，实验结果清晰地呈现了这一趋势：在未使用AI的实验中，坦言“我不知道”的人数占比为44%，回答的正确率为27%；而使用AI辅助后，人们说不知道的比例从44%骤降至3%，正确率却从27%跌至9%，有趣的是，这些人回答问题时的自信程度却从30%飙升到76%。即便后续实验试图通过“答对给钱，答错罚钱”这种奖惩机制，鼓励大家要保持独立判断，并试图纠正这一倾向，但人们仍然难以摆脱对AI错误建议的依赖。
这意味着，不知道答案的人并未真正消失，取而代之的只是一群在AI加持下变得自信满满并会轻易给出错误答案的人。…
The skinny
The skinny isn't ready yet — notes appear once the transcript is processed.