阿西莫夫《力量感》：一篇预言AI技能退化的科幻小说

一篇65年前的短篇小说，为何在AI时代被重新提起

近日，科幻大师艾萨克·阿西莫夫在1958年创作的短篇小说《The Feeling of Power》（《力量感》）再度出现在Hacker News的讨论列表中。这篇不足万字的小说，在人工智能技术狂飙突进的今天，被众多技术从业者视为一则惊人精准的技术预言。

艾萨克·阿西莫夫（1920-1992）是与亚瑟·克拉克、罗伯特·海因莱因并称的科幻文学「三巨头」之一，也是科幻「黄金时代」（约1938-1960年）最具影响力的作家。所谓科幻黄金时代，是以约翰·W·坎贝尔执掌《惊奇科幻》（Astounding Science Fiction）杂志为标志的一段创作高峰期。坎贝尔要求作者在作品中融入严谨的科学推理和对技术后果的深刻思考，而非单纯的冒险故事，这一编辑方针直接催生了包括阿西莫夫在内的一代「硬科幻」大师。阿西莫夫一生著作超过500部，涵盖科幻、科普、历史等领域。他最为人知的贡献包括「机器人三定律」和「基地系列」，前者至今仍是AI伦理讨论的重要参考框架——这三条定律（机器人不得伤害人类、必须服从人类命令、在不违反前两条的前提下保护自身）最初只是小说中的叙事设定，但因其简洁与深刻，逐渐被计算机科学家和伦理学家引用为讨论AI安全问题的概念起点。

1958年创作《力量感》时，正值冷战高峰期，计算机刚开始从军事和学术领域向民用领域扩展。ENIAC——世界上第一台通用电子数字计算机——问世仅12年，这台重达30吨、占据整个房间的庞然大物在1946年由宾夕法尼亚大学为美国陆军弹道研究实验室建造，最初用途正是计算炮弹弹道。到1958年，IBM已经推出了700系列大型机并开始向商业市场销售，但计算机仍然是只有大型机构才能负担的稀缺资源，普通人完全无法接触。美苏之间的太空竞赛（1957年苏联发射了第一颗人造卫星Sputnik）更进一步加速了对计算能力的军事需求。正是在这种计算技术既令人敬畏又高度军事化的氛围中，阿西莫夫已经敏锐地预见到人机关系可能走向的极端——他思考的不是「计算机能否超越人类」，而是「人类是否会因计算机的存在而主动放弃某些本能」。

阿西莫夫在这篇作品中构想了一个未来社会：人类已经完全依赖计算机进行所有数学运算，以至于没有人再懂得如何用纸笔进行基本的算术。整个文明的计算能力都建立在机器之上，而人类自身反而丧失了最基础的心算与手算技能。

在人们习惯于让AI代写代码、代写文章、代做决策的今天，这个设定读来令人脊背发凉——它触及了一个正在真实发生的问题：当我们把认知任务外包给机器，我们自己会失去什么？

小说的核心情节与隐喻

一个「重新发现」算术的故事

小说的主人公是一位名叫奥曼·梅达（Myron Aub）的低级技术员。在一个所有计算都由计算机完成的时代，他出于兴趣，通过观察计算机的运算规律，竟然「重新发现」了人类可以用手工方式进行乘法、除法等运算——这在当时被视为惊人的突破，被称为「石墨计算法」（Graphitics）。

军方高层对此欣喜若狂。因为在与敌方旷日持久的战争中，制造能够思考的计算机成本高昂。如果能训练人类士兵直接进行运算，就可以用「廉价」的人脑替代昂贵的机器，尤其是可以将人脑装进导弹作为制导系统——毕竟人脑比计算机便宜得多。

这个情节设定有着明确的冷战背景隐喻。1950年代末，弹道导弹的制导系统是美苏两国军备竞赛的核心技术瓶颈。当时的惯性导航计算机体积庞大、造价惊人（一套系统可能耗资数百万美元），而精确制导所需的实时运算更是对计算资源的极端考验。阿西莫夫将这种军事现实推向荒诞的极端——用人脑替代计算机做制导——实际上是对冷战思维中「人命可以被量化为成本」这一隐含逻辑的辛辣讽刺。在核军备竞赛的语境下，「可接受的伤亡」本就是当时战略家们公开讨论的概念。

这个黑色幽默般的结局，揭示了阿西莫夫的深刻讽刺：技术的进步最终让人类沦为比机器更廉价的消耗品，而所谓的「力量感」，不过是掌权者对失控局面的一种自我安慰。

技能退化的双重寓意

阿西莫夫在小说中埋藏了两层警示。第一层是显而易见的：过度依赖工具会导致人类核心能力的萎缩。当整个社会都不再有人懂得基本运算时，一个偶然的「重新发现」竟能成为改变战争格局的秘密武器。

第二层则更为隐晦：知识和技能一旦被工具垄断，人类就丧失了对自身文明的掌控力。梅达发现的不是新技术，而是被遗忘的旧知识——这暗示着，我们今天所依赖的很多「先进」，其实建立在遗忘之上。

这种集体遗忘并非纯粹的文学想象，而有坚实的认知科学基础。认知心理学中的「使用依赖性可塑性」（use-dependent plasticity）理论表明，大脑神经回路遵循「用进废退」原则——长期不使用的认知技能会因突触连接弱化而退化。这一理论根植于神经科学家唐纳德·赫布在1949年提出的赫布定律（Hebb's rule）：「一起放电的神经元连接在一起」（neurons that fire together wire together），其逆命题同样成立——不再共同激活的神经通路会逐渐弱化直至消失。大脑的这种可塑性原本是一种高效的资源分配策略，使得常用技能得到强化，但在工具高度发达的环境中，它也意味着被外包的能力会被神经系统「判定」为不必要而逐步裁撤。

2011年哥伦比亚大学的「谷歌效应」研究（发表于Science，由Betsy Sparrow等人完成）证实，当人们知道信息可以轻易通过搜索引擎获取时，大脑会自动降低对该信息的记忆编码强度。具体而言，实验发现受试者在被告知信息将被保存在计算机中时，对信息本身的记忆显著下降，但对信息存储位置的记忆反而增强——人类的记忆系统正在从「记住内容」转向「记住去哪里找内容」。这种现象被称为「认知卸载」（cognitive offloading），即人类将记忆和计算任务外包给外部设备。后续研究进一步表明，这种卸载效应在GPS导航（削弱空间记忆）、手机通讯录（削弱号码记忆）等领域同样显著。从这个角度看，阿西莫夫描绘的不是遥远的虚构，而是一种已经在发生的神经层面的变化——只不过从「忘记电话号码」到「忘记如何编程」再到「忘记如何思考」，退化的尺度正在扩大。

AI时代的现实映照

「算术」变成了「编程」与「写作」

将小说的隐喻投射到当下，「无人会算术」的设定几乎可以无缝替换为AI时代的诸多场景。当ChatGPT、Copilot等工具能够代替我们编写代码时，年轻一代的程序员是否还会掌握底层的算法逻辑？当AI能够生成流畅的文章时，我们是否还会保有独立的写作与思辨能力？

这里值得展开说明的是，文中提到的Copilot指GitHub Copilot——GitHub与OpenAI于2021年联合推出的AI编程助手，基于OpenAI Codex模型（GPT系列的代码专用变体），能够根据上下文和注释自动生成代码片段乃至完整函数。Codex本身是在数十亿行公开源代码上微调的GPT模型，它不仅能理解自然语言描述的编程意图，还能在IDE（集成开发环境）中实时提供补全建议。截至2024年，Copilot已拥有超过130万付费用户，GitHub报告称该工具平均承担了开发者约46%的代码编写量。更值得注意的是，GitHub的内部数据显示，使用Copilot的开发者完成任务的速度提升了55%，但关于代码质量和开发者对代码理解深度的影响，目前仍存在激烈争论。

与此同时，Stack Overflow（全球最大的编程问答社区，成立于2008年，累计拥有超过5800万个编程问答）的流量在ChatGPT发布后下降了约50%。Stack Overflow的核心价值在于其「问答-投票-审核」机制——提问者需要清晰表述问题，回答者需要给出可验证的解决方案，社区通过投票筛选最佳答案。这一过程本身就是一种学习：提问者在表述问题时需要理解问题本质，阅读答案时需要理解解决方案的原理。而当开发者转向直接询问ChatGPT时，这个理解过程被大幅压缩——AI给出的是「可以直接使用的答案」，而非「需要理解后才能应用的解释」。这一数据直观反映了开发者获取知识的方式正在从「理解后应用」转向「直接获取答案」——这与阿西莫夫笔下人们不再学习算术的逻辑如出一辙。

Hacker News社区之所以重新翻出这篇小说，正是因为技术从业者切身感受到了这种「技能外包」的隐忧。Hacker News（简称HN）是由Y Combinator创始人保罗·格雷厄姆（Paul Graham）于2007年创建的技术新闻聚合与讨论平台。Y Combinator本身是硅谷最具影响力的创业孵化器（曾投资Airbnb、Dropbox、Stripe等知名公司），而HN最初作为其内部社区论坛发展而来。其用户群体主要由软件工程师、创业者和技术研究者组成，日活跃用户估计在数十万量级。与Reddit等泛社区不同，HN以深度技术讨论和对科技行业的批判性反思著称——其简洁到近乎粗糙的界面设计（纯文本、无图片、无广告）本身就是一种对「信息过载」的无声抗议。

该社区有一个显著的传统：在技术变革加速期，成员往往会回溯历史文本——科幻作品、学术论文、早期技术评论——从中寻找对当下趋势的洞察和警示。例如，在加密货币热潮期间，社区频繁讨论1990年代的「数字现金」论文；在大语言模型爆发初期，维纳1950年的《人有人的用处》被大量引用。这种「以史为鉴」的讨论模式，使得HN成为观察技术从业者集体心理的重要窗口。这篇65年前的小说被重新讨论，反映了AI快速发展期技术从业者群体中日益增长的集体焦虑——一种混合着兴奋与不安的复杂情绪。

一个越来越普遍的现象是：开发者能够快速用AI生成可运行的代码，却越来越难以理解代码为何能运行、又为何会出错。这种现象在初级开发者中尤为明显——一些计算机科学教育者报告称，学生越来越倾向于直接让AI生成作业代码，而当被要求解释代码逻辑时却无法作答。这不仅是学术诚信问题，更是一个关于未来工程能力的根本性隐忧：如果一代工程师的能力建立在「会使用AI工具」而非「理解计算原理」之上，当AI系统本身出现故障或给出错误结果时，谁来诊断和修复？

从「工具增强」到「能力依赖」

值得深思的是，工具本身并无过错。计算器、编译器、AI助手都极大地提升了生产力。真正的风险在于依赖的程度与方式——当工具从「增强人类能力」演变为「替代人类能力」时，退化就悄然发生。

这里有必要区分「工具增强」和「能力替代」的分界线。以计算器的历史为例：当计算器在1970年代普及时，数学教育界也曾爆发过类似的争论——学生是否还需要学习手算？最终的共识是，计算器替代的是机械性的计算执行，而非对数学概念的理解。一个使用计算器的工程师仍然需要知道什么时候该用微积分、什么时候该用统计方法。但今天的生成式AI正在触及一个更深的层面：它不仅替代执行，还开始替代「决定做什么」和「判断结果是否正确」的认知过程——这是一个质的飞跃。

当前主流的生成式AI（如ChatGPT、Claude等）基于Transformer架构的大语言模型（LLM）。Transformer是Google研究团队在2017年的论文《Attention Is All You Need》中提出的深度学习架构，其核心创新是「自注意力机制」（self-attention），允许模型在处理序列中的每个位置时同时关注序列中所有其他位置的信息，从而捕捉长距离依赖关系。这一架构彻底取代了此前主导自然语言处理领域的循环神经网络（RNN），并成为几乎所有现代大语言模型的基础。

这些模型的本质是通过海量文本数据训练出的概率预测系统——它预测给定上文后最可能出现的下一个token（词元）。Token是模型处理文本的基本单位，一个英文单词通常被拆分为1-3个token，中文则通常每个字对应1-2个token。训练过程中，模型通过数万亿个token的语料（包括书籍、网页、代码、学术论文等）学习语言的统计规律，调整其数十亿乃至万亿个参数，使得预测准确率不断提高。这意味着这些模型并不真正「理解」内容，而是在模式匹配和统计关联的基础上生成看似合理的输出——它们是极其精密的「语言模式识别器」，而非具有意识或理解力的实体。

这一技术特性使得AI产出可能包含「幻觉」（hallucination）——即以高度自信的语气输出完全错误的信息。幻觉的产生机制与模型的概率预测本质直接相关：模型选择的是「统计上最可能的下一个词」，而非「事实上正确的下一个词」。例如，当被问及某个不存在的学术论文时，模型可能会「创造」一个听起来完全合理的标题、作者和摘要，因为从纯语言模式的角度，这些输出符合学术论文引用的统计分布。研究表明，即使是最先进的模型，在事实性任务中的幻觉率仍可能达到3%-15%不等（取决于领域和任务类型）。用户如果缺乏独立判断能力，就无法识别这些错误。换言之，工具的「智能」越高，对使用者判断力的要求反而越高，而非越低——这是一个深刻的悖论，也正是阿西莫夫笔下那个社会所面临的根本困境的当代版本。

阿西莫夫笔下的社会并非因为技术落后而崩溃，恰恰是因为技术过于先进、过于便利，反而让人类主动放弃了思考。这种「主动的遗忘」，比被动的落后更加危险。它不是灾难性的崩塌，而是渐进式的侵蚀——每一次选择「让AI来做」而非「自己先想想」，都是一次微小的退让，而这些退让的累积效应，可能要到很多年后才会显现。

我们该如何面对这则预言

保留「知其所以然」的能力

《力量感》给当代技术从业者的最大启示，或许是要在拥抱AI工具的同时，刻意保留对底层原理的理解。使用AI写代码可以，但要理解它写了什么；使用AI做分析可以，但要能判断结论是否合理。

这种「知其所以然」的能力在工程领域有一个专门的概念——「心智模型」（mental model）。心智模型是指人对系统运作方式的内在认知表征，它使人能够在没有外部工具辅助的情况下推理系统行为、预测故障、设计解决方案。一个拥有良好心智模型的工程师，即使在AI工具不可用的情况下，仍然能够理解问题本质并提出解决方向。而一个完全依赖AI工具的从业者，其心智模型可能永远无法建立——因为模型的建立需要反复的「尝试-犯错-理解-修正」循环，而AI工具恰恰跳过了这个过程。

工具应当成为能力的放大器，而非替代品。真正的「力量感」不应来自我们能调用多强大的工具，而应来自我们对工具产出的驾驭与判断能力。

技术乐观主义中的清醒

阿西莫夫作为科幻黄金时代的代表作家，并非技术悲观论者。他更多是通过这类作品提醒读者：技术的走向取决于使用它的人。小说结尾那个将人脑塞进导弹的荒诞决定，本质上是人类价值判断失序的产物，而非技术本身的必然。

这一观点与当代AI伦理学中的「价值对齐」（alignment）问题形成有趣的呼应。当前AI安全研究的核心议题之一，是如何确保AI系统的行为与人类价值观保持一致。但阿西莫夫的小说提出了一个更根本的问题：如果人类自身的价值判断已经失序——如果我们已经不再清楚什么是真正重要的——那么即使AI完美「对齐」了人类意图，结果也可能是灾难性的。导弹里装人脑的决定，恰恰是一个「完美执行了错误价值观」的例子。

在生成式AI重塑各行各业的今天，重读这篇65年前的作品，其价值不在于预测未来，而在于提供一面镜子——让我们审视自己是否正在不知不觉中，走向那个「无人会算术」的世界。

结语

一篇短短的科幻小说能够跨越半个多世纪，在Hacker News这样的技术社区引发共鸣，本身就说明了阿西莫夫思考的穿透力。《力量感》不是关于计算机的故事，而是关于人类如何与自己创造的工具相处的寓言。

历史上类似的警示并不缺乏。柏拉图在《斐德若篇》中记载，苏格拉底曾警告文字的发明会削弱人类的记忆力——因为人们不再需要记住一切，只需查阅文本。两千多年后，我们确实无法像口述文化中的人那样背诵数万行史诗，但文字带来的知识积累也使人类文明实现了质的飞跃。每一次认知工具的革命都伴随着某些能力的丧失和另一些能力的获得。真正的问题不是「是否使用工具」，而是「在使用工具的过程中，我们是否保留了足够的基础能力，使得我们在工具失效时不至于完全无助？」

在AI能力日益强大的时代，这个古老的问题被赋予了新的紧迫性：我们究竟是在借助工具变得更强大，还是在依赖工具中逐渐失去自我？答案，取决于我们今天的每一个选择。

核心要点