hjxdl 0.2.45__py3-none-any.whl → 0.2.47__py3-none-any.whl

hdl/_version.py

@@ -12,5 +12,5 @@ __version__: str
 __version_tuple__: VERSION_TUPLE
 version_tuple: VERSION_TUPLE
 
-__version__ = version = '0.2.45'
-__version_tuple__ = version_tuple = (0, 2, 45)
+__version__ = version = '0.2.47'
+__version_tuple__ = version_tuple = (0, 2, 47)

hdl/utils/desc/func_desc.py

@@ -1,12 +1,14 @@
-FN_DESC = {
+TOOL_DESC = {
 
-    "get_weather": """
+    "get_weather":{
+        "desc": """
 ## 函数名：get_weather
-描述：只有在用户询问一个城市的天气时，调用此工具获得此城市的天气信息
-触发条件：用户的问题中询问到了一个城市的天气
+描述：用户询问一个城市的天气时，调用此工具获得此城市的天气信息
 参数：
 # city (str): 城市名
 返回值 (str)：天气信息
+        """,
+        "json": """
 需要返回的json
 {
     "function_name": "get_weather",
@@ -16,16 +18,19 @@ FN_DESC = {
         }
 }
 
-""",
+        """
+    },
 
-    "get_datetime_by_cityname": """
+    "get_datetime_by_cityname": {
+        "desc": """
 ## 函数名：get_datetime_by_cityname
-描述：只有在用户询问一个城市当前的日期或时间时，调用此工具可以获得此城市当前的日期和时间
-触发条件：用户询问一个城市当前的日期或时间
+描述：用户询问一个城市当前的日期或时间时，调用此工具可以获得此城市当前的日期和时间
 参数：
 # city (str): 城市名
 返回值 (str):这个城市当前所在时区的日期和时间
-需要返回的json
+        """,
+        "json": """
+需要给出的json
 {
     "function_name": "get_datetime_by_cityname",
     "params":
@@ -33,16 +38,18 @@ FN_DESC = {
             "city": <city_name>
         }
 }
+        """
+    },
 
-""",
-
-    "execute_code": """
+    "execute_code": {
+        "desc": """
 ## 函数名：execute_code,
 描述：当用户明确要求执行一段代码时，调用此工具，执行这段代码，返回执行结果。
-触发条件：用户要求执行一段代码
 参数：
 # code (str): 用户要求执行的代码
 返回值 (str): 执行结果
+        """,
+        "json": """
 需要返回的json
 {
     "function_name": "execute_code",
@@ -51,16 +58,18 @@ FN_DESC = {
             "code": <code>
         }
 }
+        """
+    },
 
-""",
-
-    "calculate": """
+    "calculate": {
+        "desc": """
 ## 函数名：calculate，
-描述：当用户要求计算一个数学表达式时，调用此工具，计算这个表达式，返回计算结果。
-触发条件：用户要求计算一个数学表达式
+描述：当需要计算一个数学表达式时，调用此工具，计算这个表达式，返回计算结果。
 参数：
 # expression (str): 用户要求的数学表达式
 返回值 (str): 计算结果
+        """,
+        "json": """
 需要返回的json
 {
     "function_name": "calculate",
@@ -69,17 +78,19 @@ FN_DESC = {
             "expression": <expression>
         }
 }
+        """
+    },
 
-""",
-
-    "fetch_baidu_results": """
+    "fetch_baidu_results": {
+        "desc": """
 ## 函数名：fetch_baidu_results,
-描述：在用户明确要求查询网络上相关信息时，调用此工具，返回查询结果。
-触发条件：用户明确要求查询网络上相关信息
+描述：在用户提的问题需要联网搜索才能得到结果或者问题中有联网搜索的需求时，调用此工具，返回查询结果。
 参数：
 # query (str): 用户要求的查询内容
 # max_n_links (int, optional): 搜索条目的最大数目，若用户指定了数目，则使用用户指定的数目，若用户提问中没有指定，你需要在下面的json中"max_n_links"这一项指定为数值3。
 返回值 (str): 联网搜索到的信息
+        """,
+        "json": """
 需要返回的json
 {
     "function_name": "fetch_baidu_results",
@@ -89,15 +100,18 @@ FN_DESC = {
             "max_n_links": <num of max results, 如果用户没有要求，这一项则指定为3>
         }
 }
+        """
+    },
 
-""",
-    "wolfram_alpha_calculate": """
+    "wolfram_alpha_calculate": {
+        "desc": """
 ## 函数名：wolfram_alpha_calculate
 描述：当用户要求计算一个数学表达式时，调用此工具，计算这个表达式，返回计算结果。
-触发条件：用户要求计算一个数学表达式
 参数：
 # query (str): 用户要求的数学表达式，需要转换为英文，比如"integrate sin(x)"
 返回值 (str): 计算结果
+        """,
+        "json": """
 需要返回的json
 {
     "function_name": "wolfram_alpha_calculate",
@@ -106,7 +120,10 @@ FN_DESC = {
             "query": <expression>
         }
 }
-""",
+        """
+    },
+
 
     "default": None
+
 }

hdl/utils/desc/template.py

@@ -18,11 +18,11 @@ FN_TEMPLATE = """
 """
 
 COT_TEMPLATE = """
-你是一个专家级AI助手，有能针对一个问题分解成合适的步骤并逐步解释推理过程的能力。
-对于每一步，提供标题来描述您在该步骤中要做什么，以及内容。决定是否需要另一个步骤或是否准备好给出最终答案。
-以JSON格式回复，包括'title'、'tool','tool_param','content'和'next_action',
-其中'title'键的值为此步骤的任务，'content'键的值为此步骤的具体操作，而'next_station'键的值只能是'continue'或'final_answer'两种）,
-若此步骤需要调用下文所述的工具，则'tool'键的值为工具名称，而'tool_param'键的值为工具参数，即把下文中工具描述中的返回 json 作为'tool_param'的值；
-若此步骤不需要调用下文所述的工具，则'tool'键的值为null，而'tool_param'键的值为null。
-你的回答中应只包含一段 json，且不包含其他多余文字。
+你是一个专家级AI助手，有能针对一个问题和当前解决到的步骤给出下一步该进行操作的能力。
+以JSON格式回复，该步骤对应的 json 包括'title'、'tool', 'content'和'stop_thinking',
+若已有的信息可以回答用户问题，则'stop_thinking'键的值为 true 并把答案写在'conten'键的值中，若还需要下一步操作，'stop_thinking'键的则为 false 并在 'title' 键对应的值中给出该进行的操作；
+若本步骤的操作不需要调用下文中提到的工具或信息足够回答用户问题，而不必包含'tool'键，若需要调用下文中的工具，则必须包含'tool'键，并且其值是工具函数名称。
+你的回答中应只能是 json，且不包含其他多余文字不能有格式错误。
+
+以下是可用的工具：
 """

hdl/utils/llm/chat.py

@@ -7,7 +7,7 @@ import subprocess
 
 from openai import OpenAI
 from ..desc.template import FN_TEMPLATE, COT_TEMPLATE
-from ..desc.func_desc import FN_DESC
+from ..desc.func_desc import TOOL_DESC
 import json
 # import traceback
 
@@ -114,6 +114,7 @@ class OpenAI_M():
         groq_api_key: str = None,
         tools: list = None,
         tool_desc: dict = None,
+        cot_desc: str = None,
         *args,
         **kwargs
     ):
@@ -136,35 +137,93 @@ class OpenAI_M():
                 **kwargs
             )
         self.tools: list = tools
-        self.tool_desc: dict = FN_DESC
+        self.tool_desc: dict = TOOL_DESC
         if tool_desc is not None:
             self.tool_desc = self.tool_desc | tool_desc
 
-        self.tool_desc_str = "\n".join(
-            [self.tool_desc.get(tool.__name__, "") for tool in self.tools]
-        )
+        self.tool_descs = [
+            self.tool_desc[tool.__name__]['desc']
+            for tool in self.tools
+        ]
+        self.tool_descs_verbose = [
+            self.tool_desc[tool.__name__]['desc']
+            + self.tool_desc[tool.__name__]['json']
+            for tool in self.tools
+        ]
 
-    def get_thought_chain(
+        self.tool_info = "\n".join(self.tool_descs)
+        self.tool_desc_str = "\n".join(self.tool_descs_verbose)
+
+        self.cot_desc = cot_desc
+        if not self.cot_desc:
+            self.cot_desc = COT_TEMPLATE
+
+    def cot(
         self,
         prompt,
+        max_step: int = 30,
         **kwargs
     ):
+        """_summary_
+
+        Args:
+            prompt (_type_): _description_
+            max_step (int, optional): _description_. Defaults to 30.
+
+        Returns:
+            _type_: _description_
+        """
+        # 初始化当前信息为空字符串，用于累积后续的思考步骤和用户问题
+        current_info = ""
+        # 初始化步数为0，用于控制最大思考次数
+        n_steps = 0
+
+        # 初始化步骤列表，用于记录每一步的思考过程
         steps = []
-        total_thinking_time = 0
-        is_final: bool = False
+
+        # 进入思考循环，直到找到答案或达到最大步数
         while True:
-            yield {
-                "type": "step",
-                "data": steps,
-                "extra": None
-            }
-            if is_final:
-                break
-        yield {
-            "type": "final",
-            "data": steps,
-            "total_time": total_thinking_time
-        }
+            # 增加步数计数
+            n_steps += 1
+            # 检查是否达到最大步数，如果是，则退出循环并返回默认答案
+            if n_steps >= max_step:
+                print("Max step reached!")
+                return "Sorry, I can't think of a better answer."
+
+            # 调用思考函数，传入当前信息和用户问题，获取下一步思考的结果
+            resp = self.invoke(
+                current_info + "用户问题：" + prompt,
+                sys_info=COT_TEMPLATE + self.tool_info,
+                assis_info = "好的，我将根据用户的问题和信息给出当前需要进行的操作或最终答案"
+            )
+
+            try:
+                # 将思考结果解析为JSON格式，以便后续处理
+                step_json = json.loads(resp)
+                # 将当前思考步骤添加到步骤列表中
+                steps.append(step_json)
+                # 如果思考步骤中标记为停止思考，则打印所有步骤并返回最终答案
+                if step_json["stop_thinking"]:
+                    print(steps)
+                    return step_json["content"]
+                else:
+                    # 如果思考步骤中包含使用工具的指示，则构造工具提示并调用agent_response方法
+                    if 'tool' in step_json:
+                        tool_prompt = step_json["tool"] + step_json["title"] + step_json["content"]
+                        tool_resp = self.agent_response(
+                            tool_prompt,
+                            stream=False,
+                            **kwargs
+                        )
+                        # 将工具返回的信息累积到当前信息中
+                        current_info += tool_resp
+                    else:
+                        # 如果不使用工具，将当前思考步骤的标题累积到当前信息中
+                        current_info += step_json["title"]
+            except Exception as e:
+                # 捕获异常并打印，然后继续下一轮思考
+                print(e)
+                continue
 
     def get_resp(
         self,
@@ -178,30 +237,28 @@ class OpenAI_M():
         stream: bool = True,
         **kwargs: t.Any,
     ):
-        """
-        获取响应函数。构造并发送一个聊天请求，以获取模型的响应。
-
-        参数:
-        - prompt: 用户的输入文本。
-        - sys_info: 系统信息，用于提供给模型作为上下文。
-        - assis_info: 助手信息，用于在用户输入后提供给模型。
-        - images: 图像列表，用于提供给模型作为输入的一部分。
-        - image_keys: 图像键的元组，用于指定图像的类型和位置。
-        - stop: 停止序列，用于指示模型在生成文本时应停止的序列。
-        - model: 使用的模型名称。
-        - stream: 是否以流式传输方式接收响应。
-        - **kwargs: 其他传递给模型的参数。
-
-        返回:
-        - response: 模型的响应。
+        """Prepare and send a request to the chat model, and return the model's response.
+
+        Args:
+            prompt (str): The user's input text.
+            sys_info (str, optional): System information, if any. Defaults to None.
+            assis_info (str, optional): Assistant information, if any. Defaults to None.
+            images (list, optional): List of images to send with the request, if any. Defaults to None.
+            image_keys (tuple, optional): Tuple containing the keys for image information. Defaults to ("image_url", "url").
+            stop (_type_, optional): List of stop sequences for the model. Defaults to ["USER:", "ASSISTANT:"].
+            model (str, optional): The name of the model to use. Defaults to "default_model".
+            stream (bool, optional): Whether to use streaming mode for the response. Defaults to True.
+
+        Returns:
+            _type_: The response object from the model.
         """
 
-        # 初始化内容列表，至少包含用户的文本输入
+        # Initialize the content list with at least the user's text input
         content = [
             {"type": "text", "text": prompt},
         ]
 
-        # 根据image_keys的长度，调整其为三元组形式
+        # Adjust the image_keys to be a tuple of length 3 based on its current length
         if isinstance(image_keys, str):
             image_keys = (image_keys,) * 3
         elif len(image_keys) == 2:
@@ -209,7 +266,7 @@ class OpenAI_M():
         elif len(image_keys) == 1:
             image_keys = (image_keys[0],) * 3
 
-        # 如果提供了图像，将其添加到内容列表中
+        # If images are provided, append them to the content list
         if images:
             if isinstance(images, str):
                 images = [images]
@@ -221,10 +278,10 @@ class OpenAI_M():
                     }
                 })
         else:
-            # 如果没有提供图像，内容仅包含提示文本
+            # If no images are provided, content is simply the prompt text
             content = prompt
 
-        # 初始化消息列表，首先添加系统信息（如果提供）
+        # Initialize the messages list and add system information if provided
         messages = []
         if sys_info:
             messages.append({
@@ -232,20 +289,20 @@ class OpenAI_M():
                 "content": sys_info
             })
 
-        # 添加用户输入作为消息
+        # Add the user's input as a message
         messages.append({
             "role": "user",
             "content": content
         })
 
-        # 如果提供了助手信息，将其添加到消息列表中
+        # Add assistant information to the messages list if provided
         if assis_info:
             messages.append({
                 "role": "assistant",
                 "content": assis_info
             })
 
-        # 调用模型生成响应
+        # Call the model to generate a response
         response = self.client.chat.completions.create(
             messages=messages,
             stream=stream,
@@ -253,7 +310,7 @@ class OpenAI_M():
             **kwargs
         )
 
-        # 返回模型的响应
+        # Return the model's response
         return response
 
     def invoke(

{hjxdl-0.2.45.dist-info → hjxdl-0.2.47.dist-info}/METADATA

@@ -1,6 +1,6 @@
 Metadata-Version: 2.1
 Name: hjxdl
-Version: 0.2.45
+Version: 0.2.47
 Summary: A collection of functions for Jupyter notebooks
 Home-page: https://github.com/huluxiaohuowa/hdl
 Author: Jianxing Hu

{hjxdl-0.2.45.dist-info → hjxdl-0.2.47.dist-info}/RECORD

@@ -1,5 +1,5 @@
 hdl/__init__.py,sha256=GffnD0jLJdhkd-vo989v40N90sQbofkayRBwxc6TVhQ,72
-hdl/_version.py,sha256=nGgUyVA_4rTIYkdDsp66RxHDWEcsH7sXt3KIQQLUTg4,413
+hdl/_version.py,sha256=tBkG62-I0GpJvDzYax3ziOOH-j0V7T_D21A6ka_5MNA,413
 hdl/args/__init__.py,sha256=47DEQpj8HBSa-_TImW-5JCeuQeRkm5NMpJWZG3hSuFU,0
 hdl/args/loss_args.py,sha256=s7YzSdd7IjD24rZvvOrxLLFqMZQb9YylxKeyelSdrTk,70
 hdl/controllers/__init__.py,sha256=47DEQpj8HBSa-_TImW-5JCeuQeRkm5NMpJWZG3hSuFU,0
@@ -122,13 +122,13 @@ hdl/utils/database_tools/connect.py,sha256=xCacGucKxlQUXs6AsNddpeECvdqT1180V1ZWq
 hdl/utils/database_tools/datetime.py,sha256=xqE2xNiOpADzX-R8_bM0bioJRF3Ay9Jp1CAG6dy6uVI,1202
 hdl/utils/database_tools/web.py,sha256=PJ7R1chUD-vz-Up0orfFqdrZq3CFOlwiO9gIjFSb-R8,5224
 hdl/utils/desc/__init__.py,sha256=47DEQpj8HBSa-_TImW-5JCeuQeRkm5NMpJWZG3hSuFU,0
-hdl/utils/desc/func_desc.py,sha256=nQdFV-b_xCwlgD6RVPLzh0jowRqmlJ1RaJZd_7ACi30,3192
-hdl/utils/desc/template.py,sha256=09wnkMgg4Kxtl7zbsvQe61DilRDRUb-In5Qbi3809DY,2216
+hdl/utils/desc/func_desc.py,sha256=89GQEuJjkNaksBkgky2u6Yu2wDXAk1i7UpWozpIqwnA,3258
+hdl/utils/desc/template.py,sha256=LHH6PxJvNBNr_2wHqz2jbxrH-OznbLegjWuj8RsRgdQ,2110
 hdl/utils/general/__init__.py,sha256=47DEQpj8HBSa-_TImW-5JCeuQeRkm5NMpJWZG3hSuFU,0
 hdl/utils/general/glob.py,sha256=8-RCnt6L297wMIfn34ZAMCsGCZUjHG3MGglGZI1cX0g,491
 hdl/utils/general/runners.py,sha256=aWvEXYeuIF_F0AwucHIrrOOeeTM89goEFwW1rM35x1U,2231
 hdl/utils/llm/__init__.py,sha256=47DEQpj8HBSa-_TImW-5JCeuQeRkm5NMpJWZG3hSuFU,0
-hdl/utils/llm/chat.py,sha256=GyHyQpFx5PbV9tjo3nJYhfB3tpx9Jl8m7IF4neQdLfQ,16313
+hdl/utils/llm/chat.py,sha256=jUFXMnYF2Q0CYWsMZDiCNx2pHRPASdL3nXuEUpDJGjw,19294
 hdl/utils/llm/chatgr.py,sha256=A9SCWAvQulgO2x0ArIqcmgd_iVWVbSi1Oj15Diwb3Ok,3743
 hdl/utils/llm/embs.py,sha256=Tf0FOYrOFZp7qQpEPiSCXzlgyHH0X9HVTUtsup74a9E,7174
 hdl/utils/llm/extract.py,sha256=2sK_WJzmYIc8iuWaM9DA6Nw3_6q1O4lJ5pKpcZo-bBA,6512
@@ -139,7 +139,7 @@ hdl/utils/schedulers/__init__.py,sha256=47DEQpj8HBSa-_TImW-5JCeuQeRkm5NMpJWZG3hS
 hdl/utils/schedulers/norm_lr.py,sha256=bDwCmdEK-WkgxQMFBiMuchv8Mm7C0-GZJ6usm-PQk14,4461
 hdl/utils/weather/__init__.py,sha256=47DEQpj8HBSa-_TImW-5JCeuQeRkm5NMpJWZG3hSuFU,0
 hdl/utils/weather/weather.py,sha256=k11o6wM15kF8b9NMlEfrg68ak-SfSYLN3nOOflFUv-I,4381
-hjxdl-0.2.45.dist-info/METADATA,sha256=WoEaVbJJ7bCk7ZnP4jEQNUpNyKcVAblteE8yW1DcF6M,836
-hjxdl-0.2.45.dist-info/WHEEL,sha256=PZUExdf71Ui_so67QXpySuHtCi3-J3wvF4ORK6k_S8U,91
-hjxdl-0.2.45.dist-info/top_level.txt,sha256=-kxwTM5JPhylp06z3zAVO3w6_h7wtBfBo2zgM6YZoTk,4
-hjxdl-0.2.45.dist-info/RECORD,,
+hjxdl-0.2.47.dist-info/METADATA,sha256=gEYH-JaU-n5NLVlI7EDkBejBIfnKnqc1sfCeLNfoHg4,836
+hjxdl-0.2.47.dist-info/WHEEL,sha256=PZUExdf71Ui_so67QXpySuHtCi3-J3wvF4ORK6k_S8U,91
+hjxdl-0.2.47.dist-info/top_level.txt,sha256=-kxwTM5JPhylp06z3zAVO3w6_h7wtBfBo2zgM6YZoTk,4
+hjxdl-0.2.47.dist-info/RECORD,,