HyperWorld:超图结构化的状态序列化改进文本世界模型的学习

HyperWorld:超图结构化的状态序列化改进文本世界模型的学习

云队友AI ·

文本世界是评估语言模型智能体预测和规划能力的典型场景。智能体要先根据当前状态推演环境变化,再选择行动,这依赖一个可学习的文本世界模型。HyperWorld 的切入点是如何把环境状态序列化成语言模型能处理的输入:它先将状态中的实体、属性和关系构建为超图,再按特定顺序转换成符号序列,使模型可以更完整地捕捉高阶关系和全局结构。相比把状态简单铺平成文本的做法,超图序列化能保留“一个事件涉及多个对象”这类关系信息,有助于降低状态预测误差。这项工作把结构化序列化方法引入世界模型训练,并在动作规划中发挥作用,对提升语言智能体在文本游戏等交互环境中的泛化能力具有参考价值。

本文来源:arXiv cs.AI

阅读原文 ↗
分享