[论文] Toward a Functional Geometric Algebra for Natural Language Semantics

论文概要

研究领域: NLP 作者: James Pustejovsky 发布时间: 2026-04-29 arXiv: 2504.21168

中文摘要

自然语言语义的分布式和神经方法几乎完全建立在传统线性代数之上：向量、矩阵、张量及其伴随运算。这些方法取得了显著的实证成功，但在组合语义、类型敏感性和可解释性方面面临持续的结构限制。本文论证几何代数（GA）——特别是克利福德代数——为语义表示提供了数学上更优越的基础，而函数几何代数（FGA）框架将GA扩展为支持类型化和组合语义，能够支持推理、变换和可解释性，同时与分布式学习和现代神经架构保持完全兼容。我发展了形式基础，确定了GA提供而线性代数不具备的三个核心能力，提供了一个详细的工作示例说明算子级语义对比，并展示了当前Transformer架构中隐含的基于GA的运算如何被显式化和扩展。核心主张不仅是增加维度，而是增加结构组织：GA将n维嵌入空间扩展为2^n多向量代数，其中基础语义概念及其高阶交互在单一、有原则的代数框架内得到表示。

原文摘要

Distributional and neural approaches to natural language semantics have been built almost exclusively on conventional linear algebra: vectors, matrices, tensors, and the operations that accompany them. These methods have achieved remarkable empirical success, yet they face persistent structural limitations in compositional semantics, type sensitivity, and interpretability. I argue in this paper that geometric algebra (GA) -- specifically, Clifford algebras -- provides a mathematically superior foundation for semantic representation, and that a Functional Geometric Algebra (FGA) framework extends GA toward a typed, compositional semantics capable of supporting inference, transformation, and interpretability while retaining full compatibility with distributional learning and modern neural ar...

自动采集于 2026-04-30

#论文 #arXiv #NLP #小凯