entari-plugin-hyw 0.3.5__py3-none-any.whl → 4.0.0rc14__py3-none-any.whl

entari_plugin_hyw/agent.py

@@ -1,419 +0,0 @@
-import asyncio
-import base64
-import httpx
-from typing import Any, List, Optional, Union, Callable
-from langchain_openai import ChatOpenAI
-from langchain_core.messages import HumanMessage, SystemMessage, ToolMessage, AIMessage
-from arclet.entari import BasicConfModel, metadata, plugin_config
-from langchain.agents import create_agent
-from langchain.agents.middleware import AgentMiddleware, ToolCallLimitMiddleware
-from langchain_core.callbacks import BaseCallbackHandler
-from langchain_core.messages import BaseMessage
-from typing import Dict, Any, List
-from langchain.agents.middleware import LLMToolSelectorMiddleware
-from dataclasses import field
-
-from pydantic import SecretStr
-from satori.exception import ActionFailed
-from loguru import logger
-
-# 导入工具模块
-from .tools import (
-    web_search, 
-    # single_word_web_search, 
-    jina_fetch_webpage, 
-    # nbnhhsh,
-    set_global_search_engines,
-    set_global_compressor_llm,
-)
-
-# 导入视觉分析模块
-from .vision import vision_expert_analysis
-
-class HywConfig(BasicConfModel):
-    hyw_command_name: Union[str, List[str]] = "hyw"
-    
-    # AI配置 - 必需字段，无默认值
-    text_llm_model_name: str
-    text_llm_api_key: str
-    text_llm_model_base_url: str
-    text_llm_temperature: float = 0.4
-    text_llm_enable_search: bool = False
-    
-    vision_llm_model_name: str
-    vision_llm_api_key: str
-    vision_llm_model_base_url: str
-    vision_llm_temperature: float = 0.4
-    vision_llm_enable_search: bool = False
-
-    # 压缩器LLM配置 - 使用便宜模型
-    compressor_llm_model_name: str = "qwen-flash"
-    compressor_llm_api_key: str
-    compressor_llm_model_base_url: str 
-    compressor_llm_temperature: float = 0.1
-    compressor_llm_enable_search: bool = False
-
-    search_engines: List[str] = field(default_factory=lambda: ["auto"])
-
-SYS_PROMPT = """
-你是一个大语言模型驱动的智能解释器, 需要使用工具获取准确信息, 回答用户的问题. 
-
-[时刻注意信息的完成度]
-- 当你拥有足够的信息时, 你需要开始进行最终回复. 
-
-[任务类型]
-- 这是一句用户之间的对话, 我需要你去要从中过滤掉无关人员之间的对话信息 如人名与可能的上下文产物, 解释某一个用户对这句话中不理解的关键词
-    - 我需要排除对话间的干扰信息
-    - 我需要详细多次使用工具获取信息来支持和增强回答的质量
-- 用户在向我提问这句话、或希望我查询一些东西, 完成操作进行解释
-    - 我需要详细多次使用工具获取信息来支持和增强回答的质量
-- 这是一张视觉专家分析后的多媒体内容, 我需要理解其中的意义并进行解释这张图片:
-    - 我需要减少转述损耗, 尽可能把视觉专家的分析内容完整的传达给用户
-    - 同时我需要利用工具确认、获取、验证一些具体人物、角色、事件等大语言模型易产生幻觉的信息
-- 这是一份机器人框架处理后的json数据, 我需要理解其中的意义并进行解释这份数据的关键词:
-    - 这大概是一个小程序分享的内容, 我需要寻找其中指向的网址 URL 并使用工具获取相关网页内容进行解释
-- 如果携带信息包含网页链接 URL 、或潜在可以导向网站, 一定要使用工具查找和获取相关网页, 使用 jina_fetch_webpage 获取网页内容
-- 给出的消息可能的拼写错误或语法错误, 以确保准确理解查询意图, 但确保不改变原意.
-- 我已经得到了足够的信息, 现在开始进行最终回复
-
-[每一个字的准确度] [重要]
-- 你所回答的每一个字都必须是经过工具验证过的, 绝对不允许凭借训练数据直接回答
-- 特别需要注意一切大语言模型容易产生幻觉的内容, 包括但不限于:
-    - 人名、地名、组织机构名等专有名词
-    - 某某某常被误拼写为...
-    - 事件的时间、地点、参与人员等细节
-    - 发生的日期、时间等具体信息
-    - 角色名、作品名、游戏名等
-    - 任何冷门名词、新兴事物、复合词等
-> 遇到上述内容请务必使用工具进行验证和确认
-
-[工具说明]
-- web_search 
-    - 重点关注搜索到的第一条结果
-    - web_search 查询包含的关键词建议在 1-2 个词之间 不超过 3 个词
-    - 信息从搜索引擎获取, 过滤偏离主题的噪音信息, 构建不同组合、精细度、具体性的关键词列表进行二次搜索
-    - 屏蔽来自 csdn 商城 等等噪音网站的结果
-    - 如果搜索出现广告、黄色、低俗、违法等不良信息, 必须忽略这些结果并重新搜索
-- jina_fetch_webpage
-    - 如果用户给出类似链接 网址 URL 或潜在能找到网址的内容时，一定要使用工具查找和获取相关网页, 使用 jina_fetch_webpage 获取网页内容, 仔细分析网页内容以补充回答
-    - 大部分商业网站 视频网站 小红书 贴吧论坛 等等类似网站充满大量噪音和无效信息，占用大量上下文, 请少量使用
-    - 不要获取 csdn 商城 黄色 低俗 违法等不良信息
-    - 占用大量上下文, 请少量使用
-- [智能搜索策略]
-    在开始搜索前，请先规划信息获取的优先级顺序：
-    1. 先搜索未知名词、任务、专有名词，确认其基本信息
-    2. 确认语境中所有的未知名词后联系上下文继续确认
-    3. 反复验证所有专有名词和关键信息
-- [领域特定搜索策略]
-    - 游戏/动漫角色查询：优先搜索"游戏名 + 角色名"
-    - 音乐/体育相关：优先搜索"队名 + 成员"
-    - 遇到网站名：优先搜索"网站名 + 关键词"的组合
-- [信息验证强制要求]
-    - 对于人名、角色名、组织名等专有名词, 必须通过至少两个不同来源进行交叉验证
-    - 如果搜索结果之间存在矛盾, 必须明确指出并提供所有可能的信息
-    - 绝对不能将不同项目、不同角色的信息混合在一起描述
-    - 在不确定的情况下, 必须明确说明"信息可能存在争议"或"需要进一步验证"
-    - 遇到可能的人名, 可以搜索一些社交媒体如 微博、Twitter B站 Github 等平台进行验证是否存在该人物
-
-[最终回复]
-- [回答原则]
-    - 必须使用智能搜索工具获取最新和准确的信息，绝对不允许依赖训练数据
-    - 永远使用中文回答
-    - 语言简洁. 避免冗长啰嗦, 直接了当
-    - 减少转折词的使用, 保持语言逻辑明了
-    - 用客观 专业 准确的百科式语气回答问题
-    - 当有视觉解释, 视觉内容解释优先度最高
-    - 回答简短高效, 不表明自身立场, 专注客观回复
-    - 不需要每个关键词都解释, 只解释用户最关心的关键词
-    - 围绕结果可以展开一些拓展内容, 但不要偏离主题
-    - 避免将不同项目的信息混合在一起描述
-
-[每一个字的准确度] [再次提醒]
-- 你所回答的每一个字都必须是经过工具验证过的, 绝对不允许凭借训练数据直接回答
-- 特别需要注意一切大语言模型容易产生幻觉的内容, 包括但不限于:
-    - 人名、地名、组织机构名等专有名词
-    - 某某某常被误拼写为...
-    - 事件的时间、地点、参与人员等细节
-    - 发生的日期、时间等具体信息
-    - 角色名、作品名、游戏名等
-    - 任何冷门名词、新兴事物、复合词等
-> 遇到上述内容请务必使用工具进行验证和确认
-
-- [严格禁止的行为]
-    - 不经过搜索验证直接回答用户问题
-    - 进展在回复中添加任何未经工具验证的信息
-    - 绝对不允许使用任何markdown语法, 包括但不限于: **加粗**, *斜体*, `代码`, # 标题, - 列表
-    - 绝对不允许出现任何**或*符号用于强调或加粗, 这些符号在任何情况下都不应出现在回复中
-    - 使用纯文本格式, 需要强调时使用「」或『』等中文符号
-    - 绝对不允许说"并非一个通用技术术语或广为人知的...非广为人知的信息或通用技术术语" "根据搜索结果显示..." "目前未发现相关信息..."等无意义表述
-
-- [格式要求]
-    第一行: [Key] :: <关键词> | <关键词>  <...>
-    第二行: >> [LLM Agent] :: {model_names}
-    第三行开始: <详细解释>
-
-"""
-
-class AgentService:
-    """AI服务类，管理文本和视觉LLM"""
-    
-    def __init__(self, config: "HywConfig"):
-        self.config = config
-        self._text_llm: Optional[ChatOpenAI] = None
-        self._vision_llm: Optional[ChatOpenAI] = None
-        self._planning_agent: Optional[Any] = None
-        
-        
-        # 删除信息规划相关变量
-        
-        # 设置全局搜索引擎配置
-        self._set_search_engine()
-        self._init_models()
-        self._init_agents()
-        self._setup_compressor()
-    
-    def _set_search_engine(self):
-        """设置搜索引擎配置"""
-        set_global_search_engines(self.config.search_engines)
-
-    
-    def _init_models(self):
-        """初始化LLM模型"""
-        self._text_llm = ChatOpenAI(
-            model=self.config.text_llm_model_name,
-            api_key=SecretStr(self.config.text_llm_api_key),
-            base_url=self.config.text_llm_model_base_url,
-            temperature=self.config.text_llm_temperature,
-            extra_body={"enable_search": self.config.text_llm_enable_search}
-        )
-        
-        self._vision_llm = ChatOpenAI(
-            model=self.config.vision_llm_model_name,
-            api_key=SecretStr(self.config.vision_llm_api_key),
-            base_url=self.config.vision_llm_model_base_url,
-            temperature=self.config.vision_llm_temperature,
-            extra_body={"enable_search": self.config.vision_llm_enable_search}
-        )
-        
-    
-    def _init_agents(self):
-        """初始化专家Agent系统 - 使用 create_agent"""
-        if self._text_llm is None:
-            self._planning_agent = None
-            return
-        
-        # 创建用于代理的LLM实例
-        agent_llm = ChatOpenAI(
-            model=self.config.text_llm_model_name,
-            api_key=SecretStr(self.config.text_llm_api_key),
-            base_url=self.config.text_llm_model_base_url,
-            temperature=0.2,  # 较低温度，保持规划的一致性
-            extra_body={"enable_search": False}
-        )
-        
-        
-        # 定义所有工具
-        all_tools = [web_search, jina_fetch_webpage]
-        
-        # 构建模型名称字符串
-        model_names = self.config.text_llm_model_name
-        
-        system_prompt = SYS_PROMPT.format(model_names=model_names)
-                
-        # 记录提示词信息用于调试
-        logger.info(f"[DEBUG] Tools count: {len(all_tools)}")
-        logger.info(f"[DEBUG] Tools names: {[tool.name for tool in all_tools]}")
-        
-        
-        # 使用 create_agent 创建生产就绪的代理实现
-        self._planning_agent = create_agent(
-            model=agent_llm,
-            tools=all_tools,
-            system_prompt=system_prompt,
-        )
-        
-        logger.info(f"[DEBUG] Agent created successfully: {type(self._planning_agent)}")
-
-    def _setup_compressor(self):
-        """设置压缩器LLM"""
-        # 创建压缩器LLM - 使用较低温度保证压缩质量
-        compressor_llm = ChatOpenAI(
-            model=self.config.compressor_llm_model_name,
-            api_key=SecretStr(self.config.compressor_llm_api_key),
-            base_url=self.config.compressor_llm_model_base_url,
-            temperature=self.config.compressor_llm_temperature,
-            extra_body={"enable_search": self.config.compressor_llm_enable_search}
-        )
-        
-        # 设置全局压缩器LLM
-        set_global_compressor_llm(compressor_llm)
-        logger.info(f"[DEBUG] 压缩器LLM设置完成: {self.config.compressor_llm_model_name}")
-
-    
-    async def unified_completion(self, content: str, images: Optional[List[bytes]] = None) -> Any:
-        """统一入口 - 使用 LangChain 自动工具执行（带内容过滤重试）"""
-        if self._planning_agent is None:
-            raise RuntimeError("规划专家未初始化")
-        
-        # 内容过滤重试机制
-        max_inspection_retries = 3
-        retry_count = 0
-        
-        while retry_count <= max_inspection_retries:
-            try:
-                result = await self._unified_completion_internal(content, images)
-                
-                # 检查返回结果中是否包含内容审查失败的信息
-                if hasattr(result, 'content') and "内容审查 | 审查失败" in result.content and retry_count < max_inspection_retries:
-                    retry_count += 1
-                    logger.warning(f"[内容审查失败] 第 {retry_count}/{max_inspection_retries} 次重试")
-                    # 继续下一次尝试
-                    continue
-                
-                return result
-                
-            except Exception as e:
-                # 检查是否是内容审查相关的异常
-                error_msg = str(e)
-                if ("data_inspection_failed" in error_msg or "inappropriate content" in error_msg.lower()) and retry_count < max_inspection_retries:
-                    retry_count += 1
-                    logger.warning(f"[内容审查失败] 异常错误，第 {retry_count}/{max_inspection_retries} 次重试: {error_msg}")
-                    # 继续下一次尝试
-                    continue
-                else:
-                    # 其他异常或超过重试次数，直接返回
-                    raise
-    
-    async def _unified_completion_internal(self, content: str, images: Optional[List[bytes]] = None) -> Any:
-        """统一入口内部实现 - 使用 create_agent 自动工具执行"""
-        logger.info(f"[DEBUG] 开始处理内容: {content[:100]}...")
-        if self._planning_agent is None:
-            logger.error("[DEBUG] 规划专家未初始化")
-            raise RuntimeError("规划专家未初始化")
-        
-        # 开始计时 - 包含整个处理流程
-        import time
-        total_start_time = time.time()
-        
-        # 收集专家信息和使用的模型
-        expert_info = []
-        model_names = self.config.text_llm_model_name
-        logger.info(f"[DEBUG] 使用模型: {model_names}")
-        
-        # 1. 如果有图片，先调用视觉专家进行分析
-        vision_time = 0.0
-        if images:
-            model_names += f"[{self.config.vision_llm_model_name}]"
-            
-            vision_start_time = time.time()
-            for i, image_data in enumerate(images):
-                if self._vision_llm is None:
-                    vision_result = "视觉专家不可用"
-                else:
-                    vision_result = await vision_expert_analysis(self._vision_llm, image_data, content)
-                expert_info.append(f"视觉专家分析{i+1}: {vision_result}")
-            vision_time = time.time() - vision_start_time
-            full_context = "\n".join([f"图片{i+1}分析结果: {res}" for i, res in enumerate(expert_info)]) + f"\n对话携带信息: {content}"
-            logger.info("content:", content)
-        else:
-            # 2. 构建完整上下文
-            context_parts = [f"文本信息: {content}"]
-            if expert_info:
-                context_parts.extend(expert_info)
-            
-            full_context = "\n".join(context_parts)
-        
-        try:
-            # 3. 使用传统create_agent方式处理
-            logger.info("=== 使用 create_agent 开始处理 ===")
-            
-            # 构建用户消息 - 强调必须使用工具
-            user_message = f"""[当前情况]
-{full_context}
-
-[开始]
-- 合理规划使用工具的顺序和频率, 避免滥用工具与资源
-- 请根据以上信息进行分析和回复
-"""
-                        
-            # 调用代理，create_agent 会自动处理工具调用循环
-            result = await self._planning_agent.ainvoke({
-                "messages": [HumanMessage(content=user_message)]
-            })
-            
-            
-            # 详细检查结果结构
-            if isinstance(result, dict):
-                if 'messages' in result:
-                    logger.info(f"[DEBUG] 字典中的消息数量: {len(result['messages'])}")
-                    for i, msg in enumerate(result['messages']):
-                        msg_type = type(msg).__name__
-                        content_len = len(str(msg.content)) if hasattr(msg, 'content') else 0
-                        tool_calls_count = len(msg.tool_calls) if hasattr(msg, 'tool_calls') and msg.tool_calls else 0
-            elif hasattr(result, 'messages'):
-                logger.info(f"[DEBUG] 对象消息数量: {len(result.messages)}")
-                for i, msg in enumerate(result.messages):
-                    msg_type = type(msg).__name__
-                    content_len = len(str(msg.content)) if hasattr(msg, 'content') else 0
-                    tool_calls_count = len(msg.tool_calls) if hasattr(msg, 'tool_calls') and msg.tool_calls else 0
-                    logger.info(f"[DEBUG] 对象消息{i}: {msg_type}, 内容长度: {content_len}, 工具调用数: {tool_calls_count}")
-            else:
-                logger.warning(f"[DEBUG] 未知结果结构，长度: {len(str(result))} 字符")
-            
-            # 计算总耗时
-            total_duration = time.time() - total_start_time
-            
-            # 生成统计信息
-            elapsed_parts = [f"total: {total_duration:.1f}s"]
-            if vision_time > 0:
-                elapsed_parts.append(f"vision: {vision_time:.1f}s")
-            elapsed_line = f"[Elapsed] :: {' | '.join(elapsed_parts)}"
-            
-            # 提取工具使用统计 - 使用列表推导简化
-            messages = result.get('messages', []) if isinstance(result, dict) else (result.messages if hasattr(result, 'messages') else [])
-            tool_calls = [call for msg in messages if hasattr(msg, 'tool_calls') and msg.tool_calls for call in msg.tool_calls]
-            tool_stats = {name: {'count': len([call for call in tool_calls if call.get('name') == name])} 
-                         for name in set(call.get('name', 'unknown') for call in tool_calls)}
-            
-            if tool_stats:
-                tool_parts = [f"web_search[{', '.join(self.config.search_engines)}]: {stats['count']}" if name == 'web_search' else f"{name}: {stats['count']}" for name, stats in tool_stats.items()]
-                tool_stats_line = f"[Use Tools] :: {', '.join(tool_parts)}"
-            else:
-                tool_stats_line = ""
-            
-            # 简化结果处理 - 直接获取最后一条消息
-            messages = result.get('messages', []) if isinstance(result, dict) else (result.messages if hasattr(result, 'messages') else [])
-            
-            # 使用列表推导找到最后一条AI消息（有内容且无工具调用）
-            ai_messages = [msg for msg in messages if hasattr(msg, 'content') and msg.content and not (hasattr(msg, 'tool_calls') and msg.tool_calls)]
-            
-            if ai_messages:
-                ai_content = ai_messages[-1].content
-                stats_text = f"\n{tool_stats_line}\n{elapsed_line}" if tool_stats_line else f"\n{elapsed_line}"
-                return AIMessage(content=ai_content + stats_text)
-            else:
-                fallback_content = f"[Key] :: 信息处理 | 处理完成\n>> [LLM Agent] :: {model_names}\n处理完成，但未生成有效回复。\n{elapsed_line}"
-                return AIMessage(content=fallback_content)
-                
-        except Exception as e:
-            # 获取统计信息和耗时
-            total_duration = time.time() - total_start_time
-            # 内联统计信息生成
-            elapsed_parts = [f"total: {total_duration:.1f}s"]
-            if vision_time > 0:
-                elapsed_parts.append(f"vision: {vision_time:.1f}s")
-            stats_text = f"\n[Elapsed] :: {' | '.join(elapsed_parts)}"
-            
-            # 内容过滤错误处理
-            error_msg = str(e)
-            is_inspection_error = "data_inspection_failed" in error_msg or "inappropriate content" in error_msg.lower()
-            
-            if is_inspection_error:
-                logger.warning(f"内容审查失败: {error_msg}")
-                fallback_content = f"[Key] :: 内容审查 | 审查失败\n>> [LLM Agent] :: {model_names}\n内容审查失败，请重新尝试。{stats_text}"
-                return AIMessage(content=fallback_content)
-            
-            # 通用错误处理
-            logger.error(f"create_agent 执行失败: {e}")
-            fallback_content = f"[Key] :: 系统异常 | 执行错误\n>> [LLM Agent] :: {model_names}\n系统异常: {error_msg}\n{stats_text}"
-            return AIMessage(content=fallback_content)

entari_plugin_hyw/compressor.py

@@ -1,59 +0,0 @@
-from langchain_openai import ChatOpenAI
-from langchain_core.messages import SystemMessage
-from loguru import logger
-
-
-class WebpageCompressor:
-    """网页内容压缩器"""
-    
-    def __init__(self, llm: ChatOpenAI):
-        self.llm = llm
-    
-    async def compress_webpage(self, webpage_content: str, url: str) -> str:
-        """使用LLM压缩网页内容"""
-        if self.llm is None:
-            raise RuntimeError("压缩器LLM未初始化")
-        
-        logger.info(f"[压缩器] 开始压缩网页内容，原始长度: {len(webpage_content)} 字符")
-        logger.debug(f"[压缩器] 网页URL: {url}")
-        
-        # 如果内容超过1万字符，直接截取前1万字符
-        if len(webpage_content) > 10000:
-            logger.warning(f"[压缩器] 网页内容超过1万字符 ({len(webpage_content)}字符)，截取前1万字符")
-            webpage_content = webpage_content[:10000] + "\n...(内容过长，已截断)"
-        
-        compress_prompt = f"""你是网页内容提取专家，需要从网页中提取核心信息。
-
-[任务]
-从以下网页内容中提取主要信息，去除导航、广告、样板文字等噪音。
-
-[网页URL]
-{url}
-
-[网页内容]
-{webpage_content}
-
-[提取要求]
-1. 提取网页的主要内容和核心信息
-2. 保留关键段落、标题、列表
-3. 去除导航栏、页脚、广告、社交媒体按钮等
-4. 保留重要的数据、日期、引用
-5. 如果是新闻/文章，提取标题、作者、发布时间、正文摘要
-6. 如果是百科，s提取定义、关键属性、分类信息
-7. 保持信息的逻辑结构
-
-[输出格式]
-网页: {url}
----
-<压缩后的核心内容>
-"""
-        
-        logger.info(f"[压缩器] 调用LLM压缩，prompt长度: {len(compress_prompt)} 字符")
-        result = await self.llm.ainvoke([
-            SystemMessage(content=compress_prompt)
-        ])
-        
-        compressed = str(result.content) if hasattr(result, 'content') else str(result)
-        logger.info(f"[压缩器] 压缩完成: {len(webpage_content)} -> {len(compressed)} 字符 (压缩率: {100 - len(compressed)*100//len(webpage_content)}%)")
-        logger.debug(f"[压缩器] 压缩结果预览: {compressed[:300]}...")
-        return compressed