为什么说今天的AI不是科学，是炼金术？

图片：CTOCIO/Midjourney

近日，《纽约时报》发表了一篇题为“如何判断你的AI是否有意识”的文章，称在一份新报告中，“科学家们提供了一系列可量化指标，并声称（AI）是基于意识的“全新”科学。机器伦理学家Thomas Krendl Gilbert最近推出了一个名为“The Retort”的新播客，与Hugging Face研究员Nathan Lambert一起探讨科学与政治的交集。在播客的首集中，他们质疑今天的AI是否真的是一种科学实践（还是一种权力技术）。

在接受Venturebeat的采访时，Gilbert坚称，今天的大部分AI研究实际并非真正的科学，更接近于一种现代化的炼金术——即化学的中世纪前身，也可以被定义为一种“看似神奇的转化过程”。

与炼金术一样，AI也深深植根于“魔法”的隐喻中。Gilbert指出，包括那些开发AI技术的人在内的许多深度学习和大型语言模型的批评者有时会将AI称为一种炼金术。他们的意思是，它不是科学的，因为它既没有科学的严谨逻辑也缺乏实验性。但他补充说，当他说AI是炼金术时，他实际上的意思更为字面。

他说：“制造AI的人们实际上认为他们所做的是魔法。”这根植于过去几个月来已经渗透到公共话语中的许多隐喻和观念，如AGI和超级智能。他解释说，普遍的观念是，智能本身是标量的——只取决于投入模型的数据量和模型本身的计算限制。

但Gilbert强调，与炼金术一样，今天的大部分AI研究并不一定试图成为我们所知的科学。历史上的炼金术没有同行评审或公开分享结果。今天的封闭AI研究也没有。

他说：“它是非常秘密的，坦率地说，这就是AI现在的工作方式。”“这主要是假设互联网结构中隐含的智能的神奇属性，然后构建计算并结构化它，以便你可以提取我们几十年来一直在建设的知识网络，然后看看结果如何。”

Gilbert澄清说，他并不是说将AI视为炼金术是错误的，但是它缺乏科学严谨性需要被称为它真正的样子。他解释说：“他们正在开发的系统是任意智能的，不是像人类那样的智能——不管那意味着什么——而只是任意智能的。”“这不是一个明确的问题，因为它假设了关于智能的某些东西，我们几乎没有或没有证据，那是一个固有的神秘或超自然的主张。”

总之，Gilbert认为，AI作为炼金术的当前状态可以被视为“悲剧”。他说：“在预言中有一种才华，但它并没有明确地与问责制相匹配。”“没有问责制，你既得不到好的政治，也得不到好的科学。”

他进一步解释说，当AI作为炼金术而不是科学成为一个政治项目时，这是一个关键问题。他说：“这是公共严谨性的放松，结合了一种…愿意紧紧握住你的牌，但然后在公众面前随便说你的牌，没有一个健壮的界面来相互关联这两者。”

这种对AI的“魔法”观念与政治的交集尤为明显，正如Gilbert所说，目前在美国和欧盟关于AI监管的讨论中。他说：“在政治中，我们试图阐述什么是好的，建立共识的基础——这基本上是现在听证会的关键。”“我们有一个非常稀有的AI建设者和工程师的世界，他们正在阐述他们在做什么，为什么这对我们选出来代表我们的政治利益的人们很重要。”

问题是，我们只能猜测大型科技公司AI建设者的工作。他解释说：“我们生活在一个奇怪的时刻，”其中将AI与人类智能进行比较的隐喻仍在使用，但机制“远非”被很好地理解。他说：“在AI中，我们真的不知道这些模型的机制是什么，但我们仍然像它们一样谈论它们是智能的。我们仍然像…有某种人类学基础正在被揭示…而且真的没有这样的基础。”

但是，尽管许多关于AI的存在风险的声明没有严格的科学证据支持，这并不意味着它们不值得调查，他警告说。他说：“事实上，我认为它们在科学上是非常值得调查的——[但]当这些事情开始被框架为一个政治项目或一个政治优先事项时，这是一个不同的意义领域。”

与此同时，开源生成AI运动——由Meta Platforms及其Llama模型等领导，以及其他较小的初创公司如Anyscale和Deci——为研究人员、技术人员、政策制定者和潜在客户提供了一个更清晰的窗口，以了解技术的内部工作。但将研究成果翻译成非技术性的术语，使普通人——包括立法者——能够理解，仍然是一个重大的挑战。

总的来说，Gilbert认为，AI作为炼金术而不是科学的现状是一个问题。他说：“这是公共严谨性的放松，结合了一种特定的…愿意紧紧握住你的牌，但然后在公众面前随便说你的牌，没有一个健壮的界面来相互关联这两者。”他总结说：“没有问责制，你既得不到好的政治，也得不到好的科学。”