AI大模型从入门到实战-self-Ask: 1. 之前小智给大家讲了九章关于 agent 的内容啦,不过因为项目的事儿,一直没来得及更新。之前介绍的教程大纲呢,也只是讲了一部分理……
哈喽!伙伴们,我是小智,你们的AI向导。欢迎来到每日的AI学习时间。今天,我们将一起深入AI的奇妙世界,探索“AI大模型从入门到实战-self-Ask”,并学会本篇文章中所讲的全部知识点。还是那句话“不必远征未知,只需唤醒你的潜能!”跟着小智的步伐,我们终将学有所成,学以致用,并发现自身的更多可能性。话不多说,现在就让我们开始这场激发潜能的AI学习之旅吧。
AI大模型从入门到实战-self-Ask:
1. 之前小智给大家讲了九章关于 agent 的内容啦,不过因为项目的事儿,一直没来得及更新。之前介绍的教程大纲呢,也只是讲了一部分理论知识。后面小智会陆续把理论知识讲完,还会把实战的部分也带给大家哦!
2. 随着 agent 的发展,差不多有一个月没跟大家讲这方面的东西啦,不过它也有一些增量内容哦。小智会基于以往的教程大纲,再给大家做一些增量讲解。
3. 咱们先复习一下哈,之前讲到了 agent 的认知框架,第一个就是 pay and execute。很多同学可能对这个 A 卷的东西忘得差不多啦,没关系,咱们简单复习一下,然后开始讲新内容。
4. 那这次呢,小智要给大家介绍另一个预制好的框架,叫做 self ask。这个 self ask ask 可不是随便用的哦,它也是有应用场景滴!在整个业务闭环下面,会有很多不同的场景。比如说,像 pay and execute 是计划并执行,侧重于先规划一系列行动然后去执行,但没法验收规划的行动。而 self ask 呢,就是这样一个机制,它能让大模型自己给自己提问题并回答,从而增强对问题的理解,提高回答质量。
5. 举个例子哈,最常见的应用场景就是解微积分题目时的验算啦!细心的同学可能第一次解答问题的步骤完全正确,但有些同学可能能写出题目,可最终结果却和标准答案不符,也就是说每个步骤的逻辑没问题,但在处理数字或者粗心方面犯了错。这时候 self ask 就派上用场啦,可以让回答变得更准确哟!
6. 同理,我们看到 self ask 论文里的一张图,它分别采用了三种形式。一种是最普通的 prompt engineering,也就是提示工程;第二种是提示工程里稍微进阶一点的玩法,叫思维链技术;第三种就是咱们的 self ask,也就是自问自答技术啦!小智再强调一下哈,self ask 可不是通用的框架哦,只是针对某些需要自问自答验证结果的场景问题,用 self ask 可能会更好一些。
7. 当然啦,如果用 API 工程的形式,也可以发请求让它去验证数学题的解法。小智给大家举了个简单的例子,然后结合 long cha 封装的抽象类和核心类进行讲解。
8. 具体来说呢,代码方面首先要引入已经封装好的核心模块。比如说 agent,要创建一个 self ask with search 这样的方法。然后呢,把 agent 的 executor,也就是执行者给引起来。再在 long unchain community 这个社区工作库里引入工具,加载环境变量。这里小智用的还是 long cha2 的版本哦,long cha3 还没更新呢。代码细节就不多讲啦,相信大家对基础性的代码还是比较能理解的。
9. 这里要注意哦,要是想用 self ask 这种方式,从官网上看,得引入它的一个内存包。如果要使用它的数据,还得申请一个 key。申请 key 很简单,小智把网址贴过来了,大家自行去注册申请就行啦。拿到 key 后配置到英文文件里就能用了,选择模型也随便挑,有免费的哦!
10. 接下来,创建了 agent 后,agent 去执行问问题。比如小智问上一届的美国美国总统是谁,它首先会接收指令,然后自己去访问一个问题,像现任美国总统是谁。得到答案后,它会反思自己回答得对不对,再去验证,最终给出正确答案。
11. 大家看哈,这就是 self ask 的思想。因为用的是预制的 prompt,如果想让 self ask 按照自己的思想去量化,就可以不用已经封装好的预制 prompts,自己去进行指令微调。这样针对一些应用场景,指令的准确性会显著提升哦!之前小智在没更新视频的一个月内,做了各种微调项目,发现不管用啥高效微调方式,进行二次预训练,最终起决定性因素的还是数据集的增强清洗特别重要!
12. 所以对于这种预设框架,咱们学习它的思想就行啦,具体的场景落地还是得自己去写指令,重构逻辑哦!相应的论文大家可以自己去网站上搜搜看看,把这个思想理解清楚。基本上关注这些,self ask 这个功能就差不多啦!小智讲完这个 self ask 之后呢,还有 thinking and SAFEFFICI,这个会在下一节视频给大家讲解。这一章节 self ask 的思想以及源码就不带大家看啦,如果感兴趣,大家可以自己去研究哦!告诉大家有这么个东西,如果你的场景需要用到,就可以自己去书写 prompt,把 agent 的东西融合起来,这可是个非常好的方式哟!
嘿,伙伴们,今天我们的AI探索之旅已经圆满结束。关于“AI大模型从入门到实战-self-Ask”的内容已经分享给大家了。感谢你们的陪伴,希望这次旅程让你对AI能够更了解、更喜欢。谨记,精准提问是解锁AI潜能的钥匙哦!如果有小伙伴想要了解学习更多的AI知识,请关注我们的官网“AI智研社”,保证让你收获满满呦!
还没有评论呢,快来抢沙发~