编码机

YannLeCun最新访谈能量模型是通向

发布时间:2024/10/12 14:03:19   
YannLeCun认为,「能量模型」开辟了通往「抽象预测」的道路,为能够进行规划的人工智能提供了「统一世界模型」。来源

ZDNet编译

钱磊

编辑

陈彩娴

继自监督学习之后,YannLeCun在接受ZDNet的最新访谈中又着重探讨了他在几年前曾大篇幅推崇的概念:「能量模型」(energy-basedmodels)。

什么是能量模型?

YoshuaBengio、IanGoodfellow和AaronCourville等人在年出版的《深度学习》(又称「花书」)一书中将「概率函数」定义为「描述了一个或一组随机变量呈现其每种可能状态的可能性大小」,而能量模型则简化了两个变量之间的一致性。能量模型借用统计物理学的概念,假设两个变量之间的能量在它们不相容的情况下上升,在一致的情况下则下降。这可以消除将概率分布“标准化”过程中出现的复杂性。

在机器学习领域,能量模型是一个「老」概念,至少可以追溯到20世纪80年代。但近年来,越来越多成果使能量模型变得更可行。据ZDNet报道,近年来随着对能量模型的思考不断深入,LeCun围绕该概念做了几次演讲,包括年在普林斯顿高等研究院的一次演讲。

最近,LeCun在两篇论文中描述了能量模型的研究现状:一篇是LeCun与FacebookAI实验室(FAIR)的同事于去年夏天共同发表的“BarlowTwins”;另一篇则是他与FAIR、Inria合作发表于今年1月的“VICReg”。

正如LeCun在采访中所说,他目前的研究与量子电动力学有一些有趣的相似之处,尽管这不是他的重点。他

转载请注明:http://www.aideyishus.com/lkgx/7093.html

------分隔线----------------------------