Gergely Orosz：熟悉的领域一眼识破AI胡说，外行领域却会信它，三个模型给的法律意见都被律师推翻

北京时间2026年10月19日17时35分，技术通讯《The Pragmatic Engineer》作者Gergely Orosz在X上发帖说，用AI时有一件事“一直让我很困扰”：在自己是专家的领域，他能立刻发现模型的问题；到了不熟悉的领域，他却会信任模型，事后才知道模型做了蠢事[1]。

他举了一个例子：他就一宗法律案件分别向3个AI模型征求意见，同时也付费请了律师，只是律师回复得慢。3个模型都很笃定地给出了同一个结论，律师给出的却是另一个结论，最后证明律师是对的[1]。

“When I do stuff with AI I am an expert in … I spot problems/errors/the model BS'ing me immediately.”（在我是专家的领域用AI时……我会立刻发现问题、错误，或者模型在胡说。）——Gergely Orosz，X，2026年10月19日[1]

在熟悉的领域，他的做法是直接让模型改正，或者从头再来。帖子没有透露那宗法律案件的内容，也没有点名是哪3个模型。

起因：一条关于Claude的帖子

Orosz这条帖子引用了Vlad Mihalcea当天16时30分发布的内容。Mihalcea写道，Claude Opus 5.5很好用，大多数时候给出的方案和他自己的实现思路差不多；但偶尔会出现“在生产环境中会出问题的糟糕设计决策”，这让他意识到软件工程在未来几年依然很重要[2]。

一个熟悉的现象

Orosz描述的情况，和媒体领域常说的“盖尔曼失忆效应”（Gell-Mann amnesia）相似：人们读到自己熟悉领域的报道时能看出错漏，翻到其他版面却又照单全收。这个说法由作家迈克尔·克莱顿提出。Orosz本人在帖子中没有使用这个词。

互动数据

以下为北京时间10月20日上午10时许的数据快照，来自X平台公开计数，仍在变化：浏览113,152次，点赞2,035次，回复164条，转发103次。

来源

[1] Gergely Orosz 在 X 发布的帖子，2026年10月19日（北京时间17:35）。互动数据为北京时间10月20日上午10时许快照。

[2] Vlad Mihalcea 在 X 发布的帖子，2026年10月19日（北京时间16:30）。

#GergelyOrosz #AI可靠性 #盖尔曼失忆效应 #AI法律咨询 #Claude #软件工程