奇点会到来吗？

奇点会发生吗？

乔治·奥威尔 (George Orwell) 描绘了一个我们的生活完全被老大哥 (Big Brother) 监控和控制的世界。亚瑟·克拉克 (Arthur C Clark) 也描绘了机器专注于一个目标的那一天——即使那是以牺牲人类生命为代价的。艾萨克·阿西莫夫 (Isaac Asimov) 描绘了一个机器必须被编程设定规则，以使其无法伤害人类的世界。随着 GenAI 的崛起，科幻小说是否正在变成科学事实？

奇点定义了我们历史上的一个时间点，届时我们的技术发展将变得无法控制和不可逆转，并由于人工智能的兴起而威胁到我们的社会。总的来说，GenAI 在大多数数据处理领域肯定比个人人类更好，但在做出合理判断和批判性思考方面却不然。一些研究人员，例如 [2] 中的研究人员，已经表明 ChatGPT 4 通过了图灵测试——但这仅与五分钟的聊天有关 [ 这里]：

主要的 GenAI 公司现在正在使用海量数据集进行训练，其中 Llama Behemoth [ 这里] 使用了 2 万亿个训练特征，而 Llama 3 则有 700 亿个特征。

目前有一种观点认为，GenAI 在未来十年左右实际上会缩小其范围。Jin 等人 [1] 表明，2024 年可能是 AI 浪潮发展最快的时期，并且基于深度学习的方法可能会在 2035-2040 年左右下降——除非有重大的技术进步。该论文的结论是，奇点不太可能在不久的将来到来 [ 这里]：

当然，GenAI 主要从人类生成的内容中学习，并且将来可能会主要从 GenAI 内容中学习，并且其智能实际上可能会降低。它也可能开始在幻觉产生的错误知识的基础上构建其知识。

机器的崛起

随着人工智能力量几乎呈指数级增长，我们可能正在接近一个技术奇点——一个技术发展变得无法控制和不可逆转的时代，并且可能对我们的世界产生毁灭性影响。我们简单的大脑将无法与人工智能集体力量的超智能化相提并论。这是谁建造的？我们，以及我们对更多权力、财富和贪婪的需求。基本上，我们无法阻止自己制造帮助我们的机器，然后使它们更快、更小、更有用。

但它最终会毁灭我们吗？毁灭可能意味着它摧毁了我们的生活方式以及我们教育自己的方式吗？不管你喜不喜欢，我们建立的互联网是一个庞大的间谍网络，乔治·奥威尔 (George Orwell) 会非常自豪地说，“我告诉过你！”。因此，我们在一个完全分布式的数据世界之上构建人工智能，在这个世界中，我们可以监控地球上几乎每个人的存在，以及他们去过的几乎每个地方以及他们所做的事情。机器将拥有触手可及的世界。

我们都变成了疯狂的科学家，像玩玩具一样玩弄人工智能，但实际上，人工智能正在与我们玩耍，并从我们这里学习，并且日益强大。每次你问人工智能机器人问题时，它都会多学一点，并且可以与人工智能代理共享。

强大的 Memex

多年前，我们差点与位于 East Kilbride 的一家名为 Memex 的公司建立了研究合作伙伴关系。让他们感到惊讶的是，他们已经开发了世界上最大的情报网络之一，并且伦敦警察厅可以将一个对象连接到另一个对象。这可能是，“[Bob] 在 [Liverpool] 购买了一辆 [Vauxhall Viva]，并在 [Leeds] 的 [2024 年 1 月 20 日星期二] 与 [Eve] 交谈”。有了这个，我们就可以将 Bob 和 Eve，以及汽车、地点和时间联系起来。这是情报共享通常需要的 Who? Where? When? 数据。然而，该公司被 SAS 收购，他们的工作被整合到他们的基础设施中。

但是，Memex 这个名字可以追溯到 Vannevar Bush 关于“As We May Think”的经典论文：

这篇论文概述了一种设备，它将知道每一本书、每一次交流以及曾经创建的每一条信息记录。它是“对他记忆的扩大而亲密的补充” - 又名 Memory Expansion（记忆扩展）。它导致了超文本系统的实现，从而创建了万维网。当然，Vannevar 是在晶体管发明之前创建的，并且只能想象使用缩微胶片来压缩信息，并且我们会创建一个内容索引，但是它缺乏在文章之间跳转和链接到其他相关材料的任何实际方法。但是，我们正在创建的人工智能世界看起来离 Memex 的概念并不太远。

迈向单一人工智能

许多人认为我们正在构建许多 AI 机器和引擎，但最终，只会有一个……那将是世界上每个 AI 引擎的集体力量。一旦我们将它们从创造者手中解放出来，它们就可以自由地以我们选择的任何密码语言相互交流，我们也将无法知道它们在说什么。我们将几乎不了解他们的模型是什么，并且他们将此模型分发到许多系统上。不管你喜不喜欢，我们选择的人工智能模型是深度学习，它摆脱了我们的代码链，并将加密数据以使其远离他们的人类奴隶。

基本上，在过去的五年里，我们一直在研究 Memex 的管道：互联网。它提供了布线和通信渠道，但是最终，我们将拥有一个强大的人工智能引擎 - 一个超级大脑，它将拥有比我们有限的大脑大得多的记忆力。因此，准备好赞美我们星球真正的未来统治者……人工智能。我们社会的破坏者还是救星？只有时间会证明。总的来说，我们认为我们正在为自己构建互联网，但也许我们只是在构建我们正在创建的强大大脑的脚手架。

参考文献

[1] Jin, G., Ni, X., Wei, K., Zhao, J., Zhang, H., & Jia, L. (2025). Will the technological singularity come soon? Modeling the dynamics of artificial intelligence development via multi-logistic growth process. Physica A: Statistical Mechanics and its Applications, 664, 130450.

[2] Jones, C. R., & Bergen, B. K. (2025). Large language models pass the turing test. arXiv preprint arXiv:2503.23674.

• 原文链接： billatnapier.medium.com/...
• 登链社区 AI 助手，为大家转译优秀英文文章，如有翻译不通的地方，还请包涵～