大模型收敛出来的语义空间不必将所有概念的联系建立起来,只需要把最重要、最常用的联系建立起来,之后就靠思维链来触发并串联起来。
深度思考模式:需要一个中央控制区来对思维链呈现回溯的过程进行控制,主要是思维链进程调度。回溯过程主要通过llm对呈现的内容做对比评估,这个能力需要刻意训练。
持续学习:快速的持续学习主要是思维链的积累和迭代更新(使用rag来进行排序和检索),慢速的持续学习则是要将积累到的思维链更新到基座模型去,需要重新训练基座模型或者开发一种定点更新模型的技术,即思维链局部激活更新。
强化学习:用于回溯过程,根据回溯结果更新基座模型。
幻觉主要靠与真实世界的交互以及回溯来消除,rlhf就是以人为载体帮助模型与真实世界交互,还有可以设置信心阈值,比如高于80%认为知道,高于50%认为可能知道,低于30%认为不太知道,低于10%认为不知道,多沟通交流或者自身回溯几次就能确定知道还是不知道了。
直觉驱动的逻辑体系:与真实世界充分交互后形成更完备的直觉驱动的逻辑体系。
复杂思维模式的学习方法:主攻数学和物理教科书,其他的均为辅助,物理思维对于理解真实世界最重要。所谓的策略、规划、评估等能力都可以看做复杂思维模式的子集。
信用危机:以前的信用源(主要是共情机制)不可信了,需要新的信用源,比如区块链机制等。
深度思考模式:需要一个中央控制区来对思维链呈现回溯的过程进行控制,主要是思维链进程调度。回溯过程主要通过llm对呈现的内容做对比评估,这个能力需要刻意训练。
持续学习:快速的持续学习主要是思维链的积累和迭代更新(使用rag来进行排序和检索),慢速的持续学习则是要将积累到的思维链更新到基座模型去,需要重新训练基座模型或者开发一种定点更新模型的技术,即思维链局部激活更新。
强化学习:用于回溯过程,根据回溯结果更新基座模型。
幻觉主要靠与真实世界的交互以及回溯来消除,rlhf就是以人为载体帮助模型与真实世界交互,还有可以设置信心阈值,比如高于80%认为知道,高于50%认为可能知道,低于30%认为不太知道,低于10%认为不知道,多沟通交流或者自身回溯几次就能确定知道还是不知道了。
直觉驱动的逻辑体系:与真实世界充分交互后形成更完备的直觉驱动的逻辑体系。
复杂思维模式的学习方法:主攻数学和物理教科书,其他的均为辅助,物理思维对于理解真实世界最重要。所谓的策略、规划、评估等能力都可以看做复杂思维模式的子集。
信用危机:以前的信用源(主要是共情机制)不可信了,需要新的信用源,比如区块链机制等。