LLM之LangChain（七）| 使用LangChain，LangSmith实现Prompt工程ToT

       如下图所示，LLM仍然是自治代理的backbone，可以通过给LLM增加以下模块来增强LLM功能:

  • Prompter Agent
  • Checker Module
  • Memory module
  • ToT controller

       当解决具体问题时，这些模块与LLM进行多轮对话。这是基于LLM的自治代理的典型情况，其中动态创建链并按顺序执行，同时多次轮询LLM。

       下图是LangSmith[1]的界面，从图中可以看到使用的tokens总数以及两个延迟类别。

       此图显示了Trace部分，其中包含为该代理创建的完整链，以及输入和输出。LangSmith在链的每一步都给出了详细的分解，包括成本（tokens）和延迟。

       会话和状态历史记录（上下文）存储在内存模块中，这使代理可以参考思维过程的先前部分，并可能从历史记忆采取不同的路线。

      为了验证ToT技术的有效性，本文实现了一个基于ToT的代理来解决数独难题。

论文[2]实验结果表明，ToT框架可以显著提高数独解谜的成功率

       论文指出的一个漏洞是LLM是基于前面的序列生成内容，而忽略了向后编辑。然而，当我们人类解决一个问题时，如果派生的步骤不正确，我们很可能会回溯到以前的迭代。这种回溯方法否定了LLM达到不确定或无答案场景的危险。

       其次，为了建立确保正确性，我们人类的一种做法是在解决问题的每一步都进行测试，这确保了最终解决方案的可信度。本文统计了自回归语言模型在基于以前的token生成新token时，不会显式执行逻辑正确性检查，这限制了LLM纠正自身错误的能力。随着模型生成更多的tokens，一个小错误可能会被放大，这通常被称为级联。因此这会导致生成质量下降，并使其难以从错误中恢复。级联很早就被认为是手动创建提示链的一种危险。然而，考虑到自主代理在运行中创建了一系列提示，它仍然容易受到级联的影响。

该策略[2]通过LLM和提示器代理之间的多轮对话来解决问题。

      上图显示了四种方法的成功率：zero-shot（zs）、one-shot（os）、few-shot（fs）和Tree-of-Thought（tot）。

       以下是ToT代理的完整代码，您可以将其复制并粘贴到笔记本中。您需要更新的只是OpenAI API密钥和LangSmith API密钥。

pip install langchainpip install langchain_experimentalpip install -U langsmithpip install openai​#######​import osfrom uuid import uuid4​unique_id = uuid4().hex[0:8]os.environ["LANGCHAIN_TRACING_V2"] = "true"os.environ["LANGCHAIN_PROJECT"] = f"Agent Tot"os.environ["LANGCHAIN_ENDPOINT"] = "https://api.smith.langchain.com"os.environ["LANGCHAIN_API_KEY"] = "xxxxxxxxxxxxxxxxxxxxxxxx"os.environ['OPENAI_API_KEY'] = str("xxxxxxxxxxxxxxxxxxxxxxxx")​#######​from langchain.llms import OpenAIllm = OpenAI(temperature=1, max_tokens=512, model="text-davinci-003")​#######​sudoku_puzzle =   "3,*,*,2|1,*,3,*|*,1,*,3|4,*,*,1"sudoku_solution = "3,4,1,2|1,2,3,4|2,1,4,3|4,3,2,1"problem_description = f"""{sudoku_puzzle}​- This is a 4x4 Sudoku puzzle.- The * represents a cell to be filled.- The | character separates rows.- At each step, replace one or more * with digits 1-4.- There must be no duplicate digits in any row, column or 2x2 subgrid.- Keep the known digits from previous valid thoughts in place.- Each thought can be a partial or the final solution.""".strip()print(problem_description)​######## The following code implement a simple rule based checker for # a specific 4x4 sudoku puzzle.#######​from typing import Tuplefrom langchain_experimental.tot.checker import ToTCheckerfrom langchain_experimental.tot.thought import ThoughtValidityimport re​class MyChecker(ToTChecker):    def evaluate(self, problem_description: str, thoughts: Tuple[str, ...] = ()) -> ThoughtValidity:        last_thought = thoughts[-1]        clean_solution = last_thought.replace(" ", "").replace('"', "")        regex_solution = clean_solution.replace("*", ".").replace("|", "\\|")        if sudoku_solution in clean_solution:            return ThoughtValidity.VALID_FINAL        elif re.search(regex_solution, sudoku_solution):            return ThoughtValidity.VALID_INTERMEDIATE        else:            return ThoughtValidity.INVALID​######## Testing the MyChecker class above:#######​checker = MyChecker()assert checker.evaluate("", ("3,*,*,2|1,*,3,*|*,1,*,3|4,*,*,1",)) == ThoughtValidity.VALID_INTERMEDIATEassert checker.evaluate("", ("3,4,1,2|1,2,3,4|2,1,4,3|4,3,2,1",)) == ThoughtValidity.VALID_FINALassert checker.evaluate("", ("3,4,1,2|1,2,3,4|2,1,4,3|4,3,*,1",)) == ThoughtValidity.VALID_INTERMEDIATEassert checker.evaluate("", ("3,4,1,2|1,2,3,4|2,1,4,3|4,*,3,1",)) == ThoughtValidity.INVALID​######## Initialize and run the ToT chain, # with maximum number of interactions k set to 30 and # the maximum number child thoughts c set to 8.#######​from langchain_experimental.tot.base import ToTChain​tot_chain = ToTChain(llm=llm, checker=MyChecker(), k=30, c=5, verbose=True, verbose_llm=False)tot_chain.run(problem_description=problem_description)​#######

         代理的输出、迭代和回溯可以在输出中看到：

> Entering new ToTChain chain...Starting the ToT solve procedure./usr/local/lib/python3.10/dist-packages/langchain/chains/llm.py:278: UserWarning: The predict_and_parse method is deprecated, instead pass an output parser directly to LLMChain.  warnings.warn(Thought: 3,4,*,2|1,*,3,*|*,1,*,3|4,*,*,1    Thought: 3,4,1,2|1,*,3,*|*,1,*,3|4,*,*,1        Thought: 3,4,1,2|1,2,3,*|*,1,*,3|4,*,*,1            Thought: 3,4,1,2|1,2,3,4|*,1,*,3|4,*,*,1                Thought: 3,4,1,2|1,2,3,*|1,1,*,3|4,*,*,1                Thought: 3,4,1,2|1,2,3,*|*,2,*,3|4,*,*,1                Thought: 3,4,1,2|1,2,3,*|*,1,1,3|4,*,*,1                Thought: 3,4,1,2|1,2,3,*|*,1,*,4|4,*,*,1                Thought: 3,4,1,2|1,2,3,*|*,1,*,1|4,4,*,1            Thought: 3,4,1,2|1,2,3,*|1,1,*,3|4,*,*,1            Thought: 3,4,1,2|1,2,3,*|*,1,2,3|4,*,*,1            Thought: 3,4,1,2|1,2,3,*|*,1,*,3|4,1,*,1            Thought: 3,4,1,2|1,2,3,*|*,1,*,3|4,*,1,1        Thought: 3,4,1,2|1,*,3,4|*,1,*,3|4,*,*,1            Thought: 3,4,1,2|1,2,3,4|*,1,*,3|4,*,*,1                Thought: 3,4,1,2|1,2,3,4|2,1,*,3|4,*,*,1                    Thought: 3,4,1,2|1,2,3,4|2,1,4,3|4,*,*,1                        Thought: 3,4,1,2|1,2,3,4|2,1,4,3|4,1,*,*                        Thought: 3,4,1,2|1,2,3,4|2,1,4,3|4,2,*,*                        Thought: 3,4,1,2|1,2,3,4|2,1,4,3|4,3,*,*                            Thought: 3,4,1,2|1,2,3,4|2,1,4,3|4,3,1,*                            Thought: 3,4,1,2|1,2,3,4|2,1,4,3|4,3,2,*                                Thought: 3,4,1,2|1,2,3,4|2,1,4,3|4,3,2,1​> Finished chain.3,4,1,2|1,2,3,4|2,1,4,3|4,3,2,1

        在Colab笔记本中查看的输出如下所示：

参考文献：

[1] https://cobusgreyling.medium.com/langsmith-1dd01049c3fb

[2] https://arxiv.org/pdf/2305.08291.pdf

[3] https://cobusgreyling.medium.com/langchain-langsmith-llm-guided-tree-of-thought-47a2cd5bcfca

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://xiahunao.cn/news/2778724.html

如若内容造成侵权/违法违规/事实不符，请联系瞎胡闹网进行投诉反馈，一经查实，立即删除！

相关文章

【2024.02.11】定时执行专家 V6.9 龙年春节版 - 更新日志

【2024.02.11】定时执行专家 V6.9 龙年春节版 - 更新日志

目录 ◆ 最新版下载链接 ◆ 软件更新日志 – TimingExecutor Full Change Log ▼2024-02-11 V6.9 ▼2023-06-16 V6.8.2 ▼2023-02-27 V6.7 ▼ 2023-01-23 V6.6 ▼ 2023-01-20 V6.5 ▼ 2022-12-25 V6.4 ▼ 2022-11-15 V6.3 ▼ 2022-10-01 V6.2 ▼ 2022-07-…
阅读更多...
何时以及如何选择制动电阻

何时以及如何选择制动电阻

制动电阻的选择是优化变频器应用的关键因素 制动电阻器在变频器中是如何工作的？ 制动电阻器在 VFD 应用中的工作原理是将电机减速到驱动器设定的精确速度。它们对于电机的快速减速特别有用。制动电阻还可以将任何多余的能量馈入 VFD，以提升直流母线上的…
阅读更多...
中科大计网学习记录笔记（八）：FTP | EMail

中科大计网学习记录笔记（八）：FTP | EMail

前言： 学习视频：中科大郑烇、杨坚全套《计算机网络（自顶向下方法 第7版，James F.Kurose，Keith W.Ross）》课程 该视频是B站非常著名的计网学习视频，但相信很多朋友和我一样在听完前面的部分发现信…
阅读更多...
2-8 单链表+双链表+模拟栈+模拟队列

2-8 单链表+双链表+模拟栈+模拟队列

今天给大家用数组来实现链表栈和队列 单链表： 首先要明白是如何用数组实现， 在这里需要用到几个数组，head表示头节点的下标，e[i]表示表示下标为i的值，ne[i]表示当前节点下一个节点的下标。idx表示当前已经用到那个点…
阅读更多...
Java：常用API接上篇 --黑马笔记

Java：常用API接上篇 --黑马笔记

一、 StringBuilder类 StringBuilder代表可变字符串对象，相当于是一个容器，它里面的字符串是可以改变的，就是用来操作字符串的。 好处：StringBuilder比String更合适做字符串的修改操作，效率更高，代码也更…
阅读更多...
HiveSQL——sum(if()) 条件累加

HiveSQL——sum(if()) 条件累加

注：参考文章： HiveSql面试题10--sum(if)统计问题_hive sum if-CSDN博客文章浏览阅读5.8k次，点赞6次，收藏19次。0 需求分析t_order表结构字段名含义oid订单编号uid用户idotime订单时间（yyyy-MM-dd）oamount订…
阅读更多...
【芯片设计- RTL 数字逻辑设计入门 7 -- 同步复位与异步复位详细介绍】

【芯片设计- RTL 数字逻辑设计入门 7 -- 同步复位与异步复位详细介绍】

文章目录 复位的类型和划分同步复位综合后电路优缺点 异步复位优缺点 异步复位的时序分析（recovery time/removal time）异步复位，同步释放综合后电路优缺点 转自：https://blog.csdn.net/qq_40281783/article/details/128969188 复…
阅读更多...
EF Core 模型优先——根据类对象创建数据表

EF Core 模型优先——根据类对象创建数据表

需要的nuget包： Microsoft.EntityframeworkCore.SqlServer （根据自己的数据库类型选择对应的nuget包） Microsoft.EntityframeworkCore.Tools Microsoft.VisualStudio.Web.CodeGeneration.Design 说明： （1&#xf…
阅读更多...
爬虫练习——动态网页的爬取（股票和百度翻译）

爬虫练习——动态网页的爬取（股票和百度翻译）

动态网页也是字面意思：实时更新的那种 还有就是你在股票这个网站上，翻页。他的地址是不变的 是动态的加载，真正我不太清楚，只知道他是不变的。如果用静态网页的方法就不可行了。 静态网页的翻页，是网址是有规律的。 …
阅读更多...
社区店经营管理新思路：提升业绩的秘诀

社区店经营管理新思路：提升业绩的秘诀

作为一名资深的鲜奶吧创业者，我深知在社区经营一家店铺所面临的挑战与机遇。经过5年的探索与实践，我总结出了一套提升社区店业绩的秘诀，今天就和大家分享一下。 一、明确目标客户群体，精准定位 在社区开店，首先要明确…
阅读更多...
2.9日学习打卡----初学RabbitMQ（四）

2.9日学习打卡----初学RabbitMQ（四）

2.9日学习打卡 一.RabbitMQ 死信队列 在MQ中，当消息成为死信（Dead message）后，消息中间件可以将其从当前队列发送到另一个队列中，这个队列就是死信队列。而在RabbitMQ中，由于有交换机的概念，实…
阅读更多...
fast.ai 机器学习笔记（四）

fast.ai 机器学习笔记（四）

机器学习 1：第 11 课 原文：medium.com/hiromi_suenaga/machine-learning-1-lesson-11-7564c3c18bbb 译者：飞龙 协议：CC BY-NC-SA 4.0 来自机器学习课程的个人笔记。随着我继续复习课程以“真正”理解它，这些笔记将继续…
阅读更多...
【Java】苍穹外卖 Day02

【Java】苍穹外卖 Day02

苍穹外卖-day02 课程内容 新增员工员工分页查询启用禁用员工账号编辑员工导入分类模块功能代码 **功能实现：**员工管理、菜品分类管理。 员工管理效果： 菜品分类管理效果： 1. 新增员工 1.1 需求分析和设计 1.1.1 产品原型 一般在做需…
阅读更多...
VR和AR傻傻分不清，一句话给你讲明白。

VR和AR傻傻分不清，一句话给你讲明白。

不说废话，直接说结论，虚拟现实（Virtual Reality，VR）和增强现实（Augmented Reality，AR）。如果现实是A，虚拟是B，那么VRB，ARAB，就这简单&…
阅读更多...
算法学习——LeetCode力扣栈与队列篇1

算法学习——LeetCode力扣栈与队列篇1

算法学习——LeetCode力扣栈与队列篇1 232. 用栈实现队列 232. 用栈实现队列 - 力扣（LeetCode） 描述 请你仅使用两个栈实现先入先出队列。队列应当支持一般队列支持的所有操作（push、pop、peek、empty）： 实现 MyQu…
阅读更多...
【MySQL】数据库的基础——数据库的介绍、MySQL的介绍和架构、SQL分类、MySQL的基本使用、MySQL的存储引擎

【MySQL】数据库的基础——数据库的介绍、MySQL的介绍和架构、SQL分类、MySQL的基本使用、MySQL的存储引擎

文章目录 MySQL1. 数据库的介绍1.2 主流数据库 2. MySQL的介绍2.1 MySQL架构2.2 SQL分类2.3 MySQL的基本使用2.4 MySQL存储引擎 MySQL 1. 数据库的介绍 数据库（Database，简称DB）是按照数据结构来组织、存储和管理数据的仓库。它是长期存储在计…
阅读更多...
elasticsearch下载及可视化工具下载使用

elasticsearch下载及可视化工具下载使用

elasticsearch下载及配置、启动 一、下载 Download Elasticsearch | Elastic 二、启动 双击bat即可。 出现如下说明启动成功： 访问测试： 三、注意 （1）因为es启动默认端口是：9200,所以需要检查此端口是否被占用。…
阅读更多...
C#在窗体正中输出文字以及输出文字的画刷使用

C#在窗体正中输出文字以及输出文字的画刷使用

为了在窗体正中输出文字，需要获得输出文字区域的宽和高，这使用MeasureString方法，方法返回值为Size类型； 然后计算输出的起点的x和y坐标，就可以输出了； using System; using System.Collections.Generic; …
阅读更多...
js中bind、call、apply 区别（如何实现）

js中bind、call、apply 区别（如何实现）

文章目录 一、作用二、区别applycallbind小结 三、实现 一、作用 call、apply、bind作用是改变函数执行时的上下文，简而言之就是改变函数运行时的this指向 那么什么情况下需要改变this的指向呢？下面举个例子 var name "lucy"; var obj {n…
阅读更多...
每日五道java面试题之java基础篇（五）

每日五道java面试题之java基础篇（五）

第一题. final、finally、finalize 的区别？ final ⽤于修饰变量、⽅法和类：final 修饰的类不可被继承；修饰的⽅法不可被重写；修饰的变量不可变。finally 作为异常处理的⼀部分，它只能在 try/catch 语句中，…
阅读更多...
最新文章

Copyright @ 2022~2023