对话AI科学家MaxTegmark：通用人工智能（AGI）是个坏主意

专题：世界经济论坛年会_2025冬季达沃斯

　　新浪财经欧洲站 郝倩 发自瑞士达沃斯

　　2025年世界经济论坛年会将于1月20—24日在瑞士举行，年会召集世界各地、各行业的近3000名领袖，探讨“智能时代的合作”这一主题。

　　关于AI的话题，继续成为今年冬季达沃斯参会嘉宾热议的话题。知名物理学家、宇宙学家、人工智能科学家泰格马特（Max Tegmark）教授在与新浪财经对话时表示，“我想在这里传达的一个基本信息就是，作为工具的人工智能（AI）很棒，但通用人工智能（AGI）确实是一个坏主意。”

　　以下是部分对话实录：

　　Max Tegmark：我在这里想要传达的基本信息是，工具型人工智能很棒，而通用人工智能（AGI）着实是个糟糕的构想。我乐观地认为，我们能够利用工具型人工智能创造出一个令人惊叹的未来，帮助治愈疾病，打造出色的自动驾驶车辆，并让我们在各个方面都变得更加富足。

　　但要是我们去构建通用人工智能，结果将会很糟糕，因为相较于弄清楚如何控制它，我们距离搞清楚如何构建它要近得多。因为通用人工智能比人类更强大，归根结底，它最终会成为类似一个新物种的机器人，它们会比我们更聪明，能够建造机器人工厂，还能制造新的机器人工厂等等。在我们还不知道如何控制它之前就去构建它，那绝对是疯狂之举。

　　新浪财经：但你认为我们距离通用人工智能（AGI）还有多远呢？它发展得如此之快，这是怎么回事呢？

　　Max Tegmark：是啊，五六年前，我的大多数同事都认为我们距离（实现通用人工智能）起码还有三四十年、甚至五十年的时间。如今，Sam Altman （OpenAI CEO）认为就在今年（就能实现），所以我们现在真的必须展开这场讨论，探讨我们想要创造什么。我认为非常重要的一点是，我们人类要继续掌控我们的地球。

　　新浪财经：你今年会在世界经济论坛上传递这一信息吗？

　　Max Tegmark：是的，我已经在各种小组讨论和演讲中传达了这一信息，而且我觉得反响很不错。因为这里的大多数人都在经商，他们需要实用工具，而不是新物种，也不是数字之神。这里从事公共卫生工作、希望改善发展中国家状况的人同样也想要实用工具。实际上，几乎没人想创造新物种。

　　新浪财经：你遇到过反对你观点的人吗？

　　Max Tegmark：在美国，大多数人，超过70%的共和党人和民主党人都认为我们应该禁止通用人工智能（AGI），只发展实用工具。但当然也有少数公司，它们投入大量精力进行游说，试图确保自己仍能随心所欲地开展业务。

　　或许我还可以稍微解释一下这个问题，因为引发人工智能革命的关键理念在于，智能关乎信息处理，至于信息是由大脑神经元中的碳原子处理，还是由机器中的硅原子处理，这并不重要。我们人类的大脑极为受限，如果我的大脑大得多，我母亲就无法顺利生下我。但机器却没有这样的限制，一旦制造出和我们人类一样聪明的机器，要打造出比我们聪明100倍、1000倍的机器也并非难事。现在已经有一些人工智能的思考速度比我们快100倍。要是这样的机器人看我们，就会觉得我们像树一样，因为它们思考速度太快，在它们眼中，我们几乎一动不动。

　　新浪财经：我们看起来很傻吗？

　　Max Tegmark：是的，而且我们说话太慢了。

　　新浪声明：所有会议实录均为现场速记整理，未经演讲者审阅，新浪网登载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述。