arXiv · cs.CL 计算与语言· Teerawat Tongloy, Jiraporn Pongsopa, Rangsan Jomtarak·· 5 小时前AI 评分58
基于 Born 规则注意力的 Transformer 实现词级证据精确求和并在量子设备上验证
Reading Why: Born-Measured Attention with Exact Word Evidence on Light and Qubits
AI 导读
作者构建了一个 Transformer,把每处非线性都换成二次检测,输出为 Born 概率,注意力采用 |<q|k>|^2 形式并按行归一化,使各类别概率成为词振幅的多项式,从而用有限求积精确计算积分梯度证据,词贡献之和与类别概率的误差达 10^-13。
来源:arXiv · cs.CL 计算与语言 · arxiv.org