。笑地 【科学漫笔·我见AI】。乱语
最近，笑地四岁的乱语女儿向我“报告”幼儿园日子时 ，有板有眼地描绘她与一只霸王龙交朋友的笑地故事 ：她们一同抓小恐龙 ，由于跷跷板闹翻 ，乱语又交流零食和洽……逻辑紧密 ，笑地细节丰厚——虽然她的乱语幼儿园里连只仓鼠都没有 。细究之下才知 ，笑地这孩子本来把绘本 、乱语动画和实际糅合在一同 ，笑地用童言童语编织出一个“合理”的乱语故事 。
此情此景 ，笑地也让我想到当下人工智能（AI）的乱语“错觉”现象 ：它能将虚拟与实在无缝拼接 ，生成看似谨慎实则荒谬的笑地答案 ，似乎一个捧着百科全书满嘴跑火车的天才儿童 。
从前年爆火的ChatGPT到最近出圈的DeepSeek，AI正以肉眼可见的速度重塑日子 。它既能帮中学生秒解几许题，也能替小说家生成纠缠的剧情 。而若抛出一些不着边际的问题 ，比方“从化学视角解析孙悟空火眼金睛是怎样炼成的” ，它也能像模像样地编造出一大篇学术剖析，乃至煞有介事地标示出参考文献 。更令人啼笑皆非的是 ，当遭到质疑时 ，它会臆造更多论据来无懈可击 。这种真假难辨的“常识错觉”一如沙上楼阁，看似气势如虹 ，实则千疮百孔 。而在AI狂飙突进的当下，相似的“错觉”还在被大批量出产出来 。
要了解AI为何大话连篇 ，得从它的学习方法说起。今日的AI遍及根据大言语模型（LLM）。在它面世之前，传统AI就像安分守己的优等生 ，全赖死记硬背语法规矩来答题解疑；而大言语模型更像炼丹术士 ，将巨大的语料放入“丹鼎”以期炼得“金丹” 。哲学家维特根斯坦曾说 ，言语的含义不在预设的实质中，而在于日常的运用——就像孩子学说话 ，没人教“主谓宾” ，全赖调查大人如安在饭桌上说“吃” ，在踢足球时喊“跑”——维特根斯坦称之为“言语游戏” 。大言语模型正是对这种游戏的算法化 ：它被抛入一个虚拟的语料国际中 ，吞下海量的文本资料 ，没有人告知它该怎样出去 ，它只能自己从中探索出一条路途来。
终究 ，涅槃重生的AI开口说话了——一面是夸夸其谈 ，一举成名；另一面却是信口雌黄 ，“鬼话”连篇 。
人们不惜赞许着AI的横空出世，却也正费尽心机要给胡言乱语的AI“看病” 。比方 ，为了避免AI错觉众多 ，工程师们加装了“常识导航”（检索增强技能RAG）来引导它查验实际 ，铺设了“轨迹护栏”（提示词束缚）以避免答案跑偏 ，乃至请人类教师当“监考”（人类反应强化学习RLHF）给胡诌打红叉 。但即便如此严加管教 ，AI仍会冷不丁变成“脱缰野马” 。就像班上总有几个聪明又狡猾的学生 ，能把考场作文写成科幻史诗——你明知道他在编 ，却还得敬服其梦想的不羁 。
但或许问题不止于技能层面 ：究其实质 ，言语便是真伪交错的游戏。远古人类围着篝火编神话 ，中世纪的吟游诗人即兴歌唱 ，网友们在朋友圈吵吵“我有一个朋友”——虚拟从未远离咱们。AI不过是把这一实质端上了桌面 。当它用《红楼梦》的文风改编科普文章 ，或用学术声调剖析“黛玉倒拔垂杨柳” ，咱们是该大喊造假之离谱 ，仍是惊叹立异之乖奇 ？这又让我想起女儿的另一则“创作” ：她把动画片里的冰雪魔法 ，挪到了小区游乐场上 ，硬说滑梯的另一头连着艾莎公主的城堡 。只不过 ，孩提的梦想至多令人莞尔 ，AI的错觉却或许引发实在的费事——可不是所有人都能一眼识破那些“不苟言笑的胡言乱语”。
但话说回来 ，当时条件下 ，要彻底消除AI错觉 ，就像苛求孩子永久不说神话——既不或许 ，亦无必要 。关键是怎么给“腾空蹈虚”划定赛道 ：比方写小说时 ，自可天马行空；做学术时 ，便须兢兢业业。现在的干流解法是给AI装上“场景辨认器” ：当检测到用户需求谨慎答案时，主动调用常识库穿插验证；若遇到构思写作 ，则不妨放飞自我 。而要更进一步 ，就得考虑怎么让AI“活”在更实在的言语游戏实践中了 。现在的AI看似满口金句 ，实则是黑箱里的“书呆子” 。倘能走出黑箱 ，交到“朋友”——比方在虚拟社区充任模仿成员 ，在学术论坛承受“同行”评议 ，乃至经过脑机接口感触具身经历——或许它能逐步领会 ：言语不仅是符号的概率游戏，并且是日子方式的一部分。
梦想某一天 ，当AI能“感触”小吃摊主呼喊的肢体言语 ，或程序员代码错误时的为难表情 ，或许它再不会把火眼金睛说成是二氧化硅的高温玻璃化了 。
技能狂飙的年代 ，人们总巴望用算法处理一切问题 。但AI错觉一直在当头棒喝：对理性正确的寻求，和对日子国际的回归 ，需求树立一种动态平衡。好像孩子总会长大，总会学着区别根本的梦想与实际 ，在人类的引导下 ，AI的“生长”终将瓜熟蒂落 。所以面临AI错觉 ，与其杞人忧天 ，倒不如甩手让它游戏 ，只需能不断进入更丰厚的场景 ，领会更多样的规矩 ，书呆子也学得会“情面练达” 。
。 （作者：鲁博林 ，系清华大学科学史系助理教授） 。
发表评论