清华大学脑与智能实验室的首席研究员卡洛·维托里奥·坎尼斯特拉奇指出,与其不断增加人工智能的计算资源,不如尝试让它学会更有效地“沟通”。这一观点挑战了当前业界普遍认为AI越聪明就必须依赖算力呈指数级增长的认知。

坎尼斯特拉奇的团队研究了一种名为“稀疏连接”(connectivity sparsity)的技术。该技术旨在让人工智能在学习过程中主动调整内部信息传递路径,其核心目标是保留对任务有用的关键联系,同时大幅减少不必要的计算负担和冗余连接。这代表了一种从“蛮力算力堆砌”向“结构化效率优化”的思维转变。

该技术在实际应用中展现了初步成效。坎尼斯特拉奇的团队在两项机器翻译实验中观察到,采用稀疏连接的网络只保留了约5%的连接,但其表现优于用于对照比较的全连接神经网络。这为AI模型设计提供了一个可量化的优化方向。

从另一个角度看,成都人形机器人创新中心决策规划专家邓轲指出了硬件层面的制约因素。邓轲指出,计算设备越强力,通常会带来更高的能耗和散热需求,这些因素还可能增加机器人的物理重量,进而缩短其实际的续航时间。

这种从“算法效率”到“系统工程”的考量,揭示了AI发展的一个关键边界。邓轲进一步强调,要真正实现能耗的大幅降低,不能仅依赖软件层面的算法改进。他认为,需要软件和硬件同步进行迭代优化,因为算法节省的计算量并不能自动、直接地转化为整机电量的节约。

在机器人能力的提升方面,当前的工作模式仍存在局限性。邓轲介绍,当前的机器人虽然能实现一定程度的持续学习能力,但其改进流程主要还是依赖于采集大量数据、进行集中式的模型训练,然后再将更新后的模型部署到机器人的方式。

综合来看,坎尼斯特拉奇指出,目前广泛使用的计算设备并非是为灵活改变连接方式的网络结构而设计的。这表明算法的理论进步与现有硬件架构之间的匹配度之间,仍然存在着明显的距离和鸿沟。

因此,展望未来,坎尼斯特拉奇表示,下一代人工智能的发展路径需要具备双重特征:一方面,它必须借鉴人脑高效运作的底层原理;另一方面,它也必然需要配套出现能够支持这种灵活、稀疏连接方式的新一代计算硬件支持。这预示着AI研究正从单纯追求模型参数规模,转向关注信息流动的精妙结构。

读者可以关注未来学术界和产业界如何将“稀疏化”的理论成果,与更低功耗、更高集成度的边缘计算硬件结合起来,以解决当前算力过剩带来的能效瓶颈问题。

信息来源

本文基于上述公开资料整理,未使用来源页面的图片、视频或嵌入媒体。