Skill0:训练时借技能,推理时把技能撤掉
外部技能库能否只在训练时使用?从 Skill0 看 Agent 如何把经验内化到模型参数中。
外部技能库能否只在训练时使用?从 Skill0 看 Agent 如何把经验内化到模型参数中。
从历史轨迹中提炼多层技能,梳理 SkillX 自动构建、修订与扩展 Agent 技能知识库的方法。
拆解 SGA-MCTS 如何把搜索经验整理为可检索的规划原子,并用于后续 Agent 的规划与搜索。
针对不同形式的QA做了一个整合的工作。对于抽取式、多选式、对错形式的QA数据集,使用了一个单一的模型进行训练,并且测试。
把知识库问答拆成实体识别与属性映射,记录 BERT、CRF 与领域问答的实现思路。
来归类。比较现代的会分析分析。
我们得熟悉pytorch_lightning以及colab的操作。在使用TPU之前,先挂载好我们的云端磁盘以及配置好pytorch需要的TPU环境。
Transformers==4.0.0 由于每次调用bert等模型都需要使用模型的tokenizer,所以写个笔记,方便自己以及后人查阅,(其实看官方文档也可以,但是英文的看着头疼。有错误也请留言吧。
将List[tensor]变成tensor。torch.stack(tensors,dim=0,out=None)Concatenates a sequence of tensors along a…
DGL 开源项目的学习条目,保留项目与模型流程提纲,尚无完整展开。