记一 | 第一圈 · 外围 1/3 | 二〇二六年七月三十一日
把意义移出机器——随机鹦鹉论的判决与支点
读 · Bender, Gebru, McMillan-Major & Shmitchell《On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?》(FAccT '21:610–623)
这篇论文在学界最常被记住的,是它的主旨之外的副产品:为论证「合成文本被误当作有意义」这一伤害机制,它顺带给出了全篇对语言模型最精确的一次界定。界定的措辞极为审慎,锋芒不在「鹦鹉」这个修辞,而在三重限定的叠加。
「语言模型不过是一个依据形式如何组合的概率信息、把它在庞大训练数据中观察到的语言形式序列无所指向地缝合起来的系统,全然不涉任何意义——一只随机鹦鹉。」
——Bender, Gebru et al., FAccT '21: 617(中译文)
缝合是无所指向的,其依据是概率信息,而整个过程「不涉任何意义」:意义于是被完整地移出了机器的运作之外。这不是一句情绪化的贬低,而是一个结构清晰的哲学断言。但判决的真正支点并不在对模型运作的观察,而在一个被当作常识、却从未被论证的意义定义——该文承袭的界定是:语言是符号系统,即形式与意义的配对;而语言模型的训练数据只是形式,它们无从通达意义。
「语言模型生成的文本并不接地于交际意向、任何世界模型或任何读者心智模型——它不可能接地,因为训练数据从未包含与倾听者分享思想这回事。」
——同上,p.616(中译文)
预设暴露得最彻底的一处,在「连贯性在观者眼中」一节。作者承认模型已能产出看似连贯的长文本,随即以一个转折收回:连贯之所以只是「看似」,是因为它在观者眼中;「我们对连贯的理解,源自我们在语境中识别对话者信念与意图的能力」。意义与连贯由此被完整判归观者一侧——它既不在文本之中,也不在生成之中。至此,表征主义三重困锁的前两重——意义先于物质、人类主体的认识论垄断——在一篇技术论文的字里行间联合登场。
本刊并不打算否认它看到的现象:人类解释者在意义完成中确乎不可或缺。被拒绝的,是把意义整体锁定于观者心智的单极图式——而松动这一图式所用的工具,不是反驳,而是一个更先前的问题:观者与被观文本之间的那条分界,本身是如何被生产出来的。这一步改写,本记只作预埋。
在当前关于生成式 AI 意义问题的诸种立场中,最具影响力、也最易被误读的,是以本德尔、格布鲁等人《随机鹦鹉的危险》为代表的统计还原主义。该文对语言模型给出了一个措辞极为审慎的界定:语言模型不过是「一个依据形式如何组合的概率信息、把它在庞大训练数据中观察到的语言形式序列无所指向地缝合起来的系统,全然不涉任何意义——一只随机鹦鹉」。此一界定的锋芒不在「鹦鹉」这一修辞,而在三重限定的叠加:缝合是无所指向的,其依据是概率信息,而整个过程「不涉任何意义」。意义于是被完整地移出了机器的运作之外。需要强调的是,这并非一句情绪化的贬低,而是一个结构清晰的哲学断言:意义生产的场所被预先划定在语言形式的因果—统计过程之外。
然而这一判决的真正支点,并不在对模型运作的观察,而在一个被当作常识、却从未被论证的意义定义。作者承袭本德尔与科勒的论证,将语言界定为「形式与意义的配对」,并据此断言:「语言模型的训练数据只是形式,它们无从通达意义。」意义在此被等同于两样东西:交际意向(communicative intent)与对世界及他者心智的 grounding。正因意义被如此规定,一台「只有形式」的机器才「不可能」生产意义——「它不可能生产意义,因为其训练数据从不包含与倾听者分享思想这回事」。可见随机鹦鹉论远非一种中立的技术观察,它是一个预先装载了特定意义理论的判决:先把意义规定为先于并独立于其物质—形式过程、系于人类心智的所指内容,再据此宣布只处理形式的装置无法触及意义。
〔节选 · 全文见 2026-07-31 底稿〕
可收进本研究的:随机鹦鹉论的全部关键措辞与页码(p.611/616/617);「观者眼中」的衍射改写接口。留在门外的:把它当作「完整意义理论」来打靶——本刊只取其显题化的预设。
下一篇:同一条断口的文化批判版本——巴特与他的「自然化」。