~ / writing / n°018

AI 不准,一半怪你不会问

撕纸编辑拼贴封面:「AI 不准」一行被红斜杠划掉,「一半怪你」中「你」字大红,右上挂证据 #027 标签,背景是被划掉一行回复的复古打字机 封面 · 标题:AI 不准,一半怪你不会问

2023 年 5 月,纽约一位律师拿 ChatGPT 查判例,AI 编了好几个根本不存在的案子,连引文格式都做得一本正经。律师没核对,原样塞进法庭文书,被法官罚了 5000 美元。

这事经常被当作”AI 不靠谱”的证据。我看完只想问一件事:他到底怎么问的?

平时你跟 AI 抱怨”它又瞎编”,一半的火应该烧到自己身上。同一个模型,问得烂,它就开始编。这话扎心,但 OpenAI 自己 2025 年 9 月那篇论文《Why Language Models Hallucinate》里写得很直白:模型不是不会说”不知道”,是训练过程把”说不知道”教成了扣分项,于是它默认宁可瞎猜,也不留白

也就是说,幻觉的开关,一半握在你手里。

下面四招,普通人没任何技术背景也能直接用——不用学”提示词工程”那套黑话,就是你跟 AI 开头多说几句话的事。

(18 年看下来,绝大多数 AI 幻觉案例,开头那句话就能预防一半。上一篇写的是事后怎么验收 AI 的胡说,这篇是事前怎么不让它开始胡说——两篇拼起来才是一个完整的防骗包。)

为什么 AI 爱编:它被训练成「宁可瞎猜,也不说不知道」

手绘平衡天平:左盘「猜错」右盘「不知道」,下面都标 -1,但左盘底下多一枚红色 ✓ 硬币——模型因此向「猜」一侧倾斜 天平两边都是 -1,但「猜」那边多了 25% 蒙对的可能,模型就偏过去

OpenAI 那篇论文核心就一句话:模型在训练和评测里,答错的代价约等于答”不知道”的代价——横竖都扣分,那就赌一把。猜对了赚分,猜错了反正也是错。

类比一下:考试遇到不会的选择题,你是空着,还是蒙一个?大部分人蒙。AI 也一样,只不过它蒙得比人自信一万倍。它不会写”这题我不确定”,它会把蒙的答案写得引经据典。

会问之所以管用,就是改了它的算账方式。

第一招:给足上下文——你省的那几句,它就拿来编

手绘对比图:左面板「你说的」只有「X 公司/做 Y 业务」两行加大片空白,右面板「它补的」是密密麻麻的脑补段落,关键处被红圈圈出加问号,中间一个箭头标着 gap 你没说的空格,它会自己脑补一段「合理」的内容填进去

最常见的烂提问长这样:「帮我写一段关于 X 公司的公司介绍。」

AI 不知道 X 公司是哪家、做什么、规模多大、调性如何。但它不会反过来问你,它会自己脑补一个合理的版本。脑补出来的细节,就是幻觉的温床。

把它本该追问你的,提前一次塞够。一句可直接复制的开头:

「X 公司是做 Y 业务的,2018 年成立、团队约 30 人、风格务实不爱讲故事。给我写一段 200 字以内的公司介绍,只用我刚才告诉你的事实,不要补充任何我没说的细节。」

最后那半句”不要补充任何我没说的细节”是关键。多写一句,少编半页。

第二招:逼它引用——「给不出来源,就别写这条」

手绘事实清单:左列「事实」对应右列「来源」,每条事实配一张小票,第三行小票空白被红 ✕ 划掉,并在右边手写「删」字 没小票的那条直接砍掉——AI 写出来的东西自然就少了一半假料

只要你的问题涉及事实、数字、引语、人名、案例,就加一条硬指令。一句可直接复制:

「每一条事实/数字/引用,请同时给出可验证的来源(链接、书名页码、报告名称)。给不出来源的,请直接省略,不要写。

这招的杀伤力在”不要写”三个字。如果你只说”请给出来源”,它会给——给一个不存在的来源。但你说”给不出来源就别写这条”,它会自动砍掉自己不确定的部分,剩下的反而更可信。

那位 Avianca 案的律师,如果开头多加这一句,AI 编的假判例也不会这么轻易塞进文书。

第三招:给它说「不知道」的权利——一句指令,幻觉立刻少一截

手绘许可证卡片:卡顶写「许可」,中央盖着红色印章「不确定」,卡下写「宁可少写,不要乱写」;卡左侧一个简笔机器人小石头伸手领证 给它一张「可以说不知道」的许可证,它才敢真的说不知道

回到 OpenAI 那篇论文的结论:AI 默认不敢说”不知道”,因为训练让它把那当作失败。

那就在每次提问开头给它松绑。一句可直接复制:

「不确定的地方请直接标『不确定』,不要替我补全。宁可少写,不要乱写。

短短两句,效果立竿见影——你给了它一个”承认不知道也算合格”的台阶,它就敢下了。我自己问跨领域问题时,这招冒出来的”不确定”标签,比事后删它编的内容省力十倍。

“宁可少写,不要乱写”——这是把它的算账方式直接翻过来。

第四招:让它先列假设、再给答案——把可能编的地方摆到台面上

复杂问题里,AI 经常默默替你做了一堆假设:假设你在中国、假设你公司规模中型、假设你用的是 ChatGPT 而不是 Claude……然后基于这些假设给出一个看似严丝合缝的答案。错就错在那些假设上。

让它先把假设亮出来。一句可直接复制:

「回答前,先列出你打算依据的关键假设(3-5 条)。如果某条假设我没告诉你、你只是默认的,请显式标出。等我确认假设后,再给完整答案。

这招特别适合工作类问题(写方案、做分析、定策略)。AI 列假设的过程,本身就是把”它要编的地方”提前曝光——你扫一眼就知道哪条不对,当场纠回来。

比让它答完一整段再翻车,省得多。

打包成一段开场白:你每次都能复制粘贴的模板

手绘便利贴:标题「开场白模板」,下方四条手写编号 ① 事实先给 ② 要来源 ③ 可说不知道 ④ 先列假设,右下角一个红色 ✓ 勾 焊成一段开场白,每次新对话粘上去,半数幻觉提前掐掉

四招分开讲完了,但你不会每次都现想。把它们焊成一段,每次新对话开头粘贴就行:

我要问你 X。回答时遵守这几条:

1. 我提供的事实如下:[在这里把你知道的背景一次说够]。
   不要补充我没说的任何细节。

2. 涉及具体事实/数字/引用的内容,请同时给出可验证来源;
   给不出来源的,请直接省略,不要写。

3. 不确定的地方请直接标『不确定』,不要替我补全。
   宁可少写,不要乱写。

4. 回答前先列出你打算依据的关键假设(3-5 条)。
   我没告诉你、你只是默认的,请显式标出。
   等我确认假设后再给完整答案。

我的问题是:[此处放你的真实问题]

我自己存在便签里,每次新对话粘进去就行。

不是说加上这四条 AI 就永远不会错,它该编还是会编。但你会发现:它编的频率掉一档,它主动标”不确定”的次数升一档,值得你二次核对的地方也变得明确得多。

幻觉永远不会归零。但你不该是那个亲手帮它制造幻觉的人


备选标题(发布时择优)

DAVID YIN · 2026 · 06 · 02 · 杭州
← Older · N°019
"提示词工程"骗了你:你真正缺的不是技巧,是表达