skinny.

Latest / 寰野少年・观史知世

第115期_AI会说谎吗:它为什么把假的说得那么真?

上一集聊完工作,这一集回到它的老毛病上——它会一本正经地胡说八道。先说清楚,它不是骗子:骗,是心里知道真相却故意说反话;它说错的时候,真心以为自己是对的。这个毛病有个专门的名字,叫幻觉。为什么会编?因为它根本不在"查资料",它在"猜下一个词最可能是什么",一个字一个字往下接,拼对了是答案,拼错了就是幻觉。它还被训练成宁可编满也不肯留白,不懂也要硬写;名字像、年代近的事容易被它串到一起;你要是把错前提塞进问题,它还会顺着往下编。它编得最像的是出处,书名、作者、页码一应俱全,查了才知道根本没这本书。后果不止是好笑:二零二三年,美国纽约一位律师用它查判例,材料里引了六个案子,法官翻遍案卷一个都找不到,他被罚五千美元,其中一条引文被评作胡言乱语;到二零二六年这类事还在发生,新墨西哥州一位干了四十年的老律师,让它总结庭审记录,结果总结里冒出根本不存在的证人和假证词,他被罚五千美元并被移交纪律部门;同年加州一位律师材料里七个判例全是编的,被罚九百九十九美元。加拿大的统计更吓人,到二零二六年六月,各级法院收到至少一百六十七份含虚构引用的文书。有研究测过法律检索工具,超过百分之十七的回答含错误信息,一款甚至超过三成。怎么防?三招:让它先查再答(开联网搜索)、把原文贴进去让它读、跟它要出处再自己点开核对;再加两条习惯——换一个再问一遍做交叉验证,越精确到页码编号的细节越要多问一句。有意思的是,国内的…

Log in to save or queue this episode.

The skinny

The skinny isn't ready yet — notes appear once the transcript is processed.