纽约报道 – 人工智能(AI)的飞速发展对算力提出了前所未有的需求。尽管传统的计算硬件不断升级,但为了真正释放AI的全部潜力,科学家们一直在探索新的计算范式。近日,美国纽约的 Normal Computing Corporation 公司宣布,他们研发的热力学计算机为AI算力提升提供了一种全新的替代方案。这项突破性的研究成果以“Thermodynamic computing system for AI applications”(面向AI应用的热力学计算系统)为题,于2025年4月22日发表在《Nature Communications》上。
AI算力瓶颈:传统硬件的局限性
AI算法,尤其是生成式AI和概率性AI,对计算资源的需求呈指数级增长。传统的冯·诺依曼架构计算机在处理这些复杂任务时面临诸多挑战:
- 功耗限制: 训练大型AI模型需要消耗大量的电力,这不仅增加了运营成本,也对环境造成了压力。
- 速度瓶颈: 传统计算机的串行处理方式在处理并行计算任务时效率低下,无法满足AI算法对实时性的要求。
- 存储墙: 数据在处理器和存储器之间频繁传输,导致延迟增加,限制了计算速度。
这些局限性促使研究人员寻找新的计算方法,以突破传统硬件的瓶颈。热力学计算正是其中一种极具潜力的解决方案。
热力学计算:一种全新的计算范式
热力学计算是一种利用物理系统的热力学性质进行计算的方法。与传统计算机使用二进制数字进行计算不同,热力学计算机利用物理系统的状态变化来表示和处理信息。这种方法具有以下优势:
- 低功耗: 热力学计算可以利用系统中的自然能量波动进行计算,从而显著降低功耗。
- 并行性: 热力学系统可以同时处理多个计算任务,实现高度并行化。
- 模拟性: 热力学系统可以自然地模拟概率分布和随机过程,非常适合处理概率性AI任务。
Normal Computing 的随机处理单元(SPU)
Normal Computing 公司开发的随机处理单元(Stochastic Processing Unit,SPU)是一种基于热力学原理的专用加速器,旨在加速AI的基本操作,尤其是针对生成式AI和概率性AI。该SPU由印刷电路板上的RLC(电阻、电感、电容)电路组成,具有8个单位单元,通过开关电容实现多对全耦合。
SPU 的工作原理
SPU的核心思想是利用电路中的随机噪声来模拟概率分布。每个单位单元都包含一个随机噪声源和一个非线性激活函数。通过调整电路参数,可以控制噪声的强度和分布,从而实现对概率分布的精确控制。
当输入信号施加到SPU时,每个单位单元都会根据其内部的随机噪声和激活函数产生一个输出。这些输出信号通过开关电容相互耦合,形成一个复杂的动态系统。通过调整开关电容的连接方式,可以实现不同的计算功能。
SPU 的优势
Normal Computing 公司声称,与传统的CPU和GPU相比,SPU在处理概率性AI任务时具有显著的优势:
- 更高的速度: SPU可以利用电路的并行性同时处理多个概率分布,从而显著提高计算速度。
- 更低的功耗: SPU利用电路中的自然噪声进行计算,无需额外的能量消耗,从而显著降低功耗。
- 更好的精度: SPU可以精确地模拟概率分布,从而提高AI模型的精度。
概率 AI 的新希望
论文中,Normal Computing 公司的研究人员展示了SPU在概率AI中的应用。他们使用SPU来加速贝叶斯推理、不确定性量化等任务,并取得了显著的成果。
贝叶斯推理
贝叶斯推理是一种基于贝叶斯定理的统计推理方法,广泛应用于机器学习、数据挖掘等领域。贝叶斯推理的核心是计算后验概率分布,这通常需要进行大量的计算。
Normal Computing 公司的研究人员使用SPU来加速贝叶斯推理的计算过程。他们将后验概率分布表示为SPU中的电路状态,并通过调整电路参数来更新后验概率分布。实验结果表明,与传统的CPU相比,SPU可以将贝叶斯推理的速度提高几个数量级。
不确定性量化
不确定性量化是一种评估模型预测不确定性的方法,对于可靠的AI系统至关重要。不确定性量化通常需要进行大量的采样和统计分析。
Normal Computing 公司的研究人员使用SPU来加速不确定性量化的计算过程。他们将模型预测的不确定性表示为SPU中的电路噪声,并通过调整电路参数来控制噪声的强度和分布。实验结果表明,与传统的GPU相比,SPU可以将不确定性量化的速度提高几个数量级。
挑战与展望
尽管Normal Computing 公司的SPU在概率AI中展现出巨大的潜力,但热力学计算仍然面临诸多挑战:
- 可扩展性: 如何将SPU扩展到更大的规模,以处理更复杂的AI任务,仍然是一个挑战。
- 精度控制: 如何精确地控制电路噪声,以提高计算精度,仍然需要进一步研究。
- 编程模型: 如何开发易于使用的编程模型,以便开发者可以方便地使用SPU,也是一个重要的问题。
尽管如此,Normal Computing 公司的研究成果为AI算力提升提供了一种新的思路。随着技术的不断发展,热力学计算有望成为AI领域的一项重要技术。
专家评论
针对Normal Computing公司的这项研究,多位AI领域的专家发表了自己的看法:
图灵奖得主 Yoshua Bengio 教授: “热力学计算是一种非常有前景的计算范式,它可以突破传统硬件的局限性,为AI的发展带来新的机遇。Normal Computing 公司的SPU是热力学计算领域的一项重要突破,它为概率AI的应用开辟了新的道路。”
斯坦福大学计算机科学教授 Fei-Fei Li: “AI的未来需要更高效、更节能的计算硬件。Normal Computing 公司的SPU在功耗和速度方面都具有显著的优势,有望成为下一代AI计算平台的核心技术。”
谷歌AI首席科学家 Jeff Dean: “我们一直在关注新的计算技术,以满足AI算法对算力的需求。Normal Computing 公司的SPU在概率AI中展现出巨大的潜力,我们期待看到它在实际应用中的表现。”
结论
Normal Computing Corporation 公司开发的随机处理单元(SPU)是基于热力学原理的专用加速器,旨在加速AI的基本操作,尤其是针对生成式AI和概率性AI。该SPU利用电路中的随机噪声来模拟概率分布,具有低功耗、高速度和高精度的优势。尽管热力学计算仍然面临诸多挑战,但Normal Computing 公司的研究成果为AI算力提升提供了一种新的思路,有望成为AI领域的一项重要技术。
随着AI技术的不断发展,对算力的需求将持续增长。热力学计算作为一种新兴的计算范式,有望在未来发挥越来越重要的作用。我们期待看到更多的研究人员和企业加入到热力学计算的探索中,共同推动AI技术的进步。
参考文献:
关键词: AI算力,热力学计算,随机处理单元,概率AI,Normal Computing,Nature Communications
Views: 1