机器治国：硅谷的科幻小说痴迷如何误读了未来
2026/8/10
科幻小说与技术之间一直存在复杂的关系。它警告。它启发。它讽刺。但它很少——如果曾经——为任何人提供蓝图。这个区别在现在显得尤为重要，因为越来越多的科技领袖援引科幻愿景来为政府、机构和社会运作方式的大规模变革辩护。
历史学家吉尔·莱波尔是《纽约客》特约撰稿人和哈佛大学美国历史教授，她以尖锐的批评介入了这场辩论：硅谷不仅在读科幻小说时读得很差——它还利用这种误读来侵蚀民主规范，其方式带有严重的长期后果。
「机器治国」问题
莱波尔论点的核心是她所谓的「机器治国」概念——即算法系统、AI模型和自动决策工具正日益被定位为对混乱、缓慢的人类治理的优越替代方案。这个说法很具有吸引力：机器不会疲劳，不会受贿，也不会有糟糕的日子。为什么不让它们来运行事务呢？
莱波尔辩称，问题在于这种框架剥去了治理的实质。民主制度不仅仅是做出有效决策的机制。它们是用来表达分歧、保护少数声音、建立共识和分配责任的过程。算法可以针对某个既定目标进行优化——但是*谁定义了这个目标呢？*这个问题本质上是政治性的，自动化答案并不会使其变得不那么政治化。它只是隐没了谁做出选择这一事实。
这种批评值得技术专家和机器人专业人士认真吸收。随着AI硬件变得更加强大——从能够在设备端完全处理视觉和语言模型的边缘推理平台（如英伟达Jetson Orin Nano Super），到在复杂物理环境中导航的完全自主系统——将越来越多的决策权交给机器的诱惑只会增加。工程能力是真实的。治理问题是是否应该这样做，以及在什么条件下进行。
差劲的科幻小说读者
莱波尔对埃隆·马斯克的特别讽刺——说他是个「差劲的科幻小说读者」——听起来比实际更有分量。那些影响硅谷想象的科幻经典著作（艾萨克·阿西莫夫、罗伯特·海因莱因、阿瑟·C·克拉克）经常被理解为某种志向性的路线图：这就是我们应该构建的未来。但作为历史学家的莱波尔对这些作品的理解方式非常不同。
科幻小说，特别是20世纪的基础作品，在很大程度上是警示性的。阿西莫夫的机器人故事不是对自主机器的赞颂——它们是对规则和系统如何在极端情况下失效、法律的字面意思如何被用来违背其本意的系统性探索。完美地遵循其编程但仍然造成伤害的机器是一个反复出现的主题，正是因为它是一个警告。
当科技领袖选择科幻小说中鼓舞人心的意象，同时忽视其内在批评时，他们并不是在做远见卓识的事。莱波尔认为，他们是在做选择性阅读——这种选择性的后果正在社交媒体算法、自动内容审核、AI辅助招聘和算法管理公共服务的提案中实时上演。
这对机器人和AI产业意味着什么
机器人行业不能对这些动态免疫。自主系统正在进入越来越多的领域：送货机器人在餐厅地板上导航，四足机器人进行工业检查，无人机以最少的人类干预监测广大农业景观。这些部署中的每一个都提出了仅凭技术规格无法回答的问责问题。
当自主送货机器人造成事故时，谁应该负责？无人机收集的检查数据应该如何管理和分享？当AI驱动的农业系统做出导致整个作物失败的种植建议时，谁承担成本？
这些不是假设性的极端情况——它们是需要监管框架、民主协商和人类问责结构的问题。机器人或无人机本身不是问题。问题在于一个假设，有时在这些系统如何被销售和部署时是隐含的，即自动化取代了对人类判断的需求，而不是支持它。
莱波尔的介入提醒那些构建和部署前沿技术的人们，他们有义务认真参与治理问题——而不是将这些问题交给技术本身解决。
建设性的前进道路
这一切都不意味着自主系统是坏的，或者机器人创新应该放缓。实际的好处太重要了，不能被忽视：无人机每小时覆盖数十英亩以提高作物产量、四足机器人处理危险的检查工作以保护人类安全，以及教育机器人帮助下一代开发计算思维技能以应对AI塑造的世界。
但有益的技术和负责任的治理并不是对立的——它们需要彼此。自主系统最强大、最持久的部署将是那些建立时具有明确问责链、透明的数据实践和真正公众理解机器在决策中的角色和局限的系统。
这就是硅谷一直在错过的科幻小说教训：这些故事从来都不是关于机器的。它们一直都是关于构建机器的人，以及必须与后果共存的社会。
有兴趣为您的研究或运营探索AI硬件或自主系统？与我们的团队联系以讨论适合您用例的平台是什么样的。
参考资料
本文由AI协助起草，发布前经过审核。