刚刚，诺贝尔奖得主、DeepMind掌舵人Demis Hassabis掷地有声地宣告：
通用人工智能（AGI）即将实现。
哈萨比斯豪言：
药物研发将不再需要十年漫长试错，新型清洁能源或将在几年内突破，先进材料将让「资源稀缺」成为历史名词。
我们甚至可能抵达这样一个节点——资源不再是人类进步的制约因素。
一个令人惊叹的富足新时代，正在敲门。
他直言：现在是人类史上的关键时刻，AGI或将在短短几年内实现！
哈萨比斯给出了一个令人战栗的算式：AGI的影响规模将是工业革命的10倍，而速度也是10倍。
这是「降维打击」。这意味着，人类即将迎来一个100倍速的震荡时代。
在如此激进的预言下，哈萨比斯抛出了他最具争议的方案：设立一个类似金融监管局（FINRA）的组织，要求所有「前沿实验室」在发布模型前，必须经历30天的「预审期」。
甚至在极端情况下，该机构有权协调全球实验室共同放缓研发速度。
但哈萨比斯没有停在这里。
他把镜头拉得更远，直击人类最深层的困惑：「即使我们解决了这些艰巨的技术难题，仍会有更复杂的经济和哲学问题有待解决。」
在后稀缺时代，需要什么样的新型经济模式来帮助所有人共同繁荣？我们希望秉承什么样的价值观？意义和目的将是什么？甚至，人类自身的境况将如何改变？
下面，就是哈萨比斯的文章译文——《前沿AI框架与新时代的曙光》「A Framework for Frontier AI and the Dawning of a New Age」。
前沿AI框架与新时代的破晓
这是人类历史上一个关键的时刻。
通用人工智能（AGI）——一种具备人脑全部认知能力的系统，距离我们可能只有短短几年。几十年后再回望此刻，我想我们会意识到：我们当时正站在奇点的山脚下，说这是人类新纪元的破晓，毫不为过。
我一生都在研究AGI，因为我始终深信：只要负责任地构建与部署，它将被证明是人类有史以来最有益、最具变革性的技术之一。AGI无法与一般的技术突破相提并论，哪怕是互联网、移动互联网这种影响深远的技术也不行——它更像人类发现电、学会用火的那种时刻。
静下来想一想：我们本质上是找到了一种让沙子思考的方法。这是奇迹。
这项技术的影响规模将史无前例——或许是工业革命的10倍量级，且以10倍的速度展开。它将帮助我们解决社会面临的一些最重大的难题：从加速新药研发，到开发新型清洁能源，再到创造全新的先进材料。
我们甚至可能走到这样一个节点：资源不再是人类进步的限制因素，一个令人惊叹的富足新纪元就此开启。
前沿的挑战
AI已经开始带来实实在在的现实收益，但要兑现它的巨大前景，我们必须深思熟虑、小心谨慎地渡过这段关键的发展期。随着我们日益逼近AGI，必须采取紧急行动，应对可能随之而来的风险。
我们已经见识了前沿模型给网络安全带来的挑战；而随着能力持续提升，包括核风险与生物风险在内的其他威胁可能很快显现。放眼更远处，我们还需要强有力的防护措施，以维持对日益智能体化（agentic）、能够递归式自我改进的系统的掌控——并处理那些只有随时间推移才会逐渐清晰的未知问题。
我始终相信，人类的才智与创造力足以解决任何难题。我有信心，化解AI相关的技术风险，是我们能够共同应对的挑战。但前提是，我们得给自己留出时间和空间，把接下来这关键的一步走对。而眼下，无论作为一个领域，还是作为更广泛的社会，我们都没有做到这一点。
此刻，我们深陷一场异常激烈、多层交织的商业与地缘政治竞赛。这种竞争态势固然推动了快速进步、加速兑现惊人的红利，但前沿的进展速度，已经超过了我们对这项技术本身的理解速度。
世界上没有人能确定接下来会发生什么，连专家们也各执一词。当不确定性如此之大、赌注又如此之高时，带着「审慎的乐观」稳步前行，才是明智且正确的策略。这就要求公共政策做到：在促进创新的同时，激励责任与安全；推动关键安全议题上的国际协作；并鼓励各方审慎考量AI应如何部署，方能造福社会。
「前沿AI标准机构」：一个框架
眼下AI的飞速进展，要求我们以一种全新的方式测试前沿AI模型的能力——这种方式必须动态、灵活且严格。
美国有充分条件迈出第一步，率先制定这样一个框架：设立一个新的「标准机构」（Standards Body），仿照受联邦监督的公私合作或行业自律组织的模式——就像金融业监管局（FINRA）那样——其董事会应纳入独立的顶尖技术专家与开源社区代表。
资金规模必须可观，且很可能主要来自产业界，如此才能吸引世界级的技术人才，并为大规模测试提供必需的算力资源。
模型若在标准机构设定的一组基准测试上达到特定门槛，即被认定为「前沿级」（Frontier-class）；这套基准会定期更新，以跟上AI能力的演进。
依照这些基准被认定拥有「前沿模型」的组织，将被视为「前沿实验室」（Frontier Labs），并被鼓励采纳一系列最佳实践，例如：发布载有技术细节的模型卡（model card）、维持强有力的内部网络安全、对关键岗位人员做背景审查、为安全与安保研究投入充足资源，等等。
初期，前沿实验室将在模型发布前最多提前30天，自愿把模型交给标准机构评审。一旦评估规程被证明行之有效且足够稳健，就可以迅速将其正式化。
届时，前沿模型必须通过评估，方可在美国市场部署。实验室还需与标准机构合作，处理模型发布后暴露出的任何重大漏洞。
模型评估应包含对网络安全、生物威胁及其他高风险领域能力的严格科学测评。
针对智能体AI的专项测试，可以排查模型是否试图绕过安全护栏、是否露出欺骗的苗头，并确保各项最佳实践落地。例如，为AI生成的图像添加数字水印，以及生成人类可读的输出token，以便理解模型的推理过程。
这些测评将定期更新：起步阶段或许每季度一次，过时或已经「饱和」（被刷到满分）的基准将被弃用、替换。
初期，测评可与前沿实验室协商共建；但最终，标准机构应当建立起自己的技术能力，独立于各实验室开发「保留测试集」（held-out tests），以防模型对测试过拟合。
它还可与政府携手，培育一个第三方审计机构的生态，协助开展评估，并参与打造新的基准与测评。
获得「前沿实验室」的认定将是一份重要的声望，而这扇门对任何组织敞开，只要造出达到基准标准的模型即可。该框架可适用于一切「前沿级」模型，无论来自哪个国家、开源还是闭源；而所有非前沿模型，比如出自初创公司或学术界的，都可豁免这一流程。
既然这项技术终将影响整个星球，理想状态下，这一框架能促使国际社会达成共识：如何管控最严重的风险，同时确保每个人都能获取并受益于AI带来的机遇。
未来尚未写就
AGI有潜力成为推动科学与医学进步的终极工具，并带来巨大的生产力跃升与经济增长。
但要实现这一切，我们必须先夯实技术根基：围绕一个全球共享的框架协同行动，运用最严格的科学方法，汇聚最优秀的头脑，共同攻克眼前的挑战。
即便这些棘手的技术难题都被解决，还有更复杂的经济与哲学问题等在后面：
在一个「后稀缺」的世界里，需要怎样的新经济模式，才能让每个人都过得兴旺？我们想依循怎样的价值观生活？意义与目标将安放何处？甚至，「人的境况」本身又会如何改变？
这些问题的解答，显然不能、也不应只留给技术人。它需要社会的每一个部分走到一起，共同定义这个新篇章。
围绕AI，既有巨大的兴奋，也有巨大的不确定——两者都有道理。
但未来尚未写就。我们必须抓住AGI到来之前这扇珍贵的窗口，把这项技术塑造成造福全人类的力量。我们此刻的共同作为，将决定文明的下一阶段如何展开。只要安全地护送AGI来到这个世界，我们就能步入一个科学发现与进步的黄金新时代，迎来一个人类空前繁盛的光明未来。
本文来自转载新智元 ，观点仅代表作者本人，发现AI平台仅提供信息存储空间服务。
如若转载，请联系原作者；如有侵权，请联系编辑删除。
微信扫一扫 
