大语言模型的局限在哪里?
AI教母李飞飞这样说:
大自然中是没有语言存在的,你不会从天空中直接看到文字。
语言是一种纯粹的生成的信号。
语言信号的输出主要基于人类给的输入信号,可以说,语言是不独立于人之外的。
然而,物理世界是客观存在的。所以提取、理解、生成3D世界的数据、实现空间智能和处理语言问题时截然不同。
没想到,李飞飞一年前的访谈被扒出来,又引发大量围观。
她这段话意味着,大语言模型或许还不是真正的智能。
真正的智能将是信号感知、物理以及和现实世界相结合的产物。
下面来看看大家还在热议些啥吧。
空间智能可以借鉴语言模型,但仍存在本质差异
这场讨论的焦点在于,现在基于语言信号训练的模型到底懂不懂物理世界的常识
首先,回顾一下李飞飞的说法。
她认为语言模型及当今的多模态语言模型的底层表示是一维的。它们在根本上就是操作于离散token的一维序列上,所以模型对于书面文本这种一维序列的表示是非常自然的。