xiaothink 1.2.2__tar.gz → 1.2.4__tar.gz

{xiaothink-1.2.2/xiaothink.egg-info → xiaothink-1.2.4}/PKG-INFO

@@ -1,6 +1,6 @@
 Metadata-Version: 2.1
 Name: xiaothink
-Version: 1.2.2
+Version: 1.2.4
 Summary: 一个AI工具包，帮助用户快速调用小思框架（Xiaothink）相关接口。
 Home-page: UNKNOWN
 Author: Shi Jingqi
@@ -255,7 +255,7 @@ python -m xiaothink.llm.img_zip.img_zip
 ### 2. Python 代码调用
 
 ```python
-from xiaothink.llm.img_zip import ImgZip
+from xiaothink.llm.img_zip.img_zip import ImgZip
 
 # 初始化实例
 img_zip = ImgZip(model_path='path/to/your/imgzip_model.keras')
@@ -400,9 +400,30 @@ if __name__ == '__main__':
 2. 推荐使用经过指令微调的模型（如`t6_standard`），非微调模型可能影响分类精度
 4. 输出结果格式为：{'积极': 0.6667, '消极': 0.1667, '中性': 0.1667}
 
+
+---
+小思框架系列模型名称、其对应MT（模型架构版本）以及form（模型prompt传入格式）一览：
+| 模型名称（按发布时间）              | mt 参数           | form 参数   |
+|-----------------------|------------------|-------------|
+| Xiaothink-T6-0.08B       | mt='t6_beta_dense'| form=1      |
+| Xiaothink-T6-0.15B       | mt='t6_standard' | form=1      |
+| Xiaothink-T6-0.02B       | mt='t6_fast'     | form=1      |
+| Xiaothink-T6-0.5B        | mt='t6_large'    | form=1      |
+| Xiaothink-T6-0.5B-pretrain| mt='t6_large'    | form='pretrain' |
+
 ---
 
 ## 更新日志
+### 版本 1.2.4 (2025-08-30)
+- **更新接口**：
+  - 更新文档中ImgZIP相关接口的导入方法为：from xiaothink.llm.img_zip.img_zip import ImgZip
+
+### 版本 1.2.3 (2025-08-30)
+- **新增功能**：
+  - 添加了Xiaothink-T6-0.02B系列模型（MT='t6_fast'）
+  - 添加了Xiaothink-T6-0.5B系列模型（MT='t6_large'）
+  - 在model.chat方法中添加了form='pretrain'的支持，t6系列指令微调的模型应使用form=1，预训练模型应使用form='pretrain'
+
 ### 版本 1.2.2 (2025-08-18)
 - **新增功能**：
   - 新增情感分类工具，通过`ClassifyModel`实现文本情感倾向分析

{xiaothink-1.2.2 → xiaothink-1.2.4}/README.md

@@ -230,7 +230,7 @@ python -m xiaothink.llm.img_zip.img_zip
 ### 2. Python 代码调用
 
 ```python
-from xiaothink.llm.img_zip import ImgZip
+from xiaothink.llm.img_zip.img_zip import ImgZip
 
 # 初始化实例
 img_zip = ImgZip(model_path='path/to/your/imgzip_model.keras')
@@ -375,9 +375,30 @@ if __name__ == '__main__':
 2. 推荐使用经过指令微调的模型（如`t6_standard`），非微调模型可能影响分类精度
 4. 输出结果格式为：{'积极': 0.6667, '消极': 0.1667, '中性': 0.1667}
 
+
+---
+小思框架系列模型名称、其对应MT（模型架构版本）以及form（模型prompt传入格式）一览：
+| 模型名称（按发布时间）              | mt 参数           | form 参数   |
+|-----------------------|------------------|-------------|
+| Xiaothink-T6-0.08B       | mt='t6_beta_dense'| form=1      |
+| Xiaothink-T6-0.15B       | mt='t6_standard' | form=1      |
+| Xiaothink-T6-0.02B       | mt='t6_fast'     | form=1      |
+| Xiaothink-T6-0.5B        | mt='t6_large'    | form=1      |
+| Xiaothink-T6-0.5B-pretrain| mt='t6_large'    | form='pretrain' |
+
 ---
 
 ## 更新日志
+### 版本 1.2.4 (2025-08-30)
+- **更新接口**：
+  - 更新文档中ImgZIP相关接口的导入方法为：from xiaothink.llm.img_zip.img_zip import ImgZip
+
+### 版本 1.2.3 (2025-08-30)
+- **新增功能**：
+  - 添加了Xiaothink-T6-0.02B系列模型（MT='t6_fast'）
+  - 添加了Xiaothink-T6-0.5B系列模型（MT='t6_large'）
+  - 在model.chat方法中添加了form='pretrain'的支持，t6系列指令微调的模型应使用form=1，预训练模型应使用form='pretrain'
+
 ### 版本 1.2.2 (2025-08-18)
 - **新增功能**：
   - 新增情感分类工具，通过`ClassifyModel`实现文本情感倾向分析

{xiaothink-1.2.2 → xiaothink-1.2.4}/setup.py

@@ -10,7 +10,7 @@ with open("NOTICE", "r", encoding='utf-8') as notice_file:
     
 setuptools.setup(
     name="xiaothink",  # 模块名称
-    version="1.2.2",  # 当前版本
+    version="1.2.4",  # 当前版本
     author="Shi Jingqi",  # 使用真实姓名而非昵称
     author_email="xiaothink@foxmail.com",  # 作者邮箱
     description="一个AI工具包，帮助用户快速调用小思框架（Xiaothink）相关接口。",  # 模块简介

{xiaothink-1.2.2 → xiaothink-1.2.4}/xiaothink/llm/inference/build_model.py

@@ -223,6 +223,22 @@ dic={1:[int(256*4*2*0.7),int(1024*4*2*0.7),512],
                                             'all_maxlen':2048,
 }, 
                             512],
+
+'t6_fast':[int(256),{'rnn_units':int(600), 'n_layer':1,'embed_q':0.4,'router_units':64,
+                                            'trans_layers':17,'dff_factor':2,'num_heads':4,
+                                            'trans_window':140,#130,
+                                            'all_maxlen':2048,
+}, 
+                            512],
+
+'t6_large':[int(920),{'rnn_units':int(1200), 'n_layer':1,'embed_q':0.4,'router_units':512,
+                                            'trans_layers':41,'dff_factor':2,'num_heads':4,
+                                            'trans_window':130,#130,
+                                            'all_maxlen':2048,
+}, 
+                            512],
+
+
      
 
 }
@@ -2676,7 +2692,7 @@ if 1:
         
         return model
                         
-      elif mt=='t6_standard':
+      elif mt=='t6_standard' or mt=='t6_fast' or mt=='t6_large':
         # 参数设置
         maxlen = window
         #vocab_size = 20000

{xiaothink-1.2.2 → xiaothink-1.2.4}/xiaothink/llm/inference/test.py

@@ -233,6 +233,22 @@ dic={1:[int(256*4*2*0.7),int(1024*4*2*0.7),512],
                                             'all_maxlen':2048,
 }, 
                             512],
+
+'t6_fast':[int(256),{'rnn_units':int(600), 'n_layer':1,'embed_q':0.4,'router_units':64,
+                                            'trans_layers':17,'dff_factor':2,'num_heads':4,
+                                            'trans_window':140,#130,
+                                            'all_maxlen':2048,
+}, 
+                            512],
+
+'t6_large':[int(920),{'rnn_units':int(1200), 'n_layer':1,'embed_q':0.4,'router_units':512,
+                                            'trans_layers':41,'dff_factor':2,'num_heads':4,
+                                            'trans_window':130,#130,
+                                            'all_maxlen':2048,
+}, 
+                            512],
+
+
      
 }
 

{xiaothink-1.2.2 → xiaothink-1.2.4}/xiaothink/llm/inference/test_formal.py

@@ -353,6 +353,19 @@ class QianyanModel:
                     '"}]}',
                     '"}',
                 ]
+        elif form=='pretrain':
+            if self.his!='':
+                self.his+='\n{inp} '.replace('{inp}',text)
+      
+            else:
+                self.his='{inp} '.replace('{inp}',text)
+
+            #print(self.his)
+            inp='{"text": "<s>{his}'.replace('{his}',self.his)
+            stopc=[
+                    '</s>',
+                    '"}',
+                ]
         else:
             print('Err')
             return '-1: form error'
@@ -360,7 +373,7 @@ class QianyanModel:
         if ontime:
             funct=lambda a:print(a,end='',flush=True)
             print('\n【实时输出】')
-        #print(funct)
+        #print(inp)
         if loop:
             inf=test.generate_texts_untilstr_loop
         else:
@@ -377,7 +390,8 @@ class QianyanModel:
             self.his+=ret
         elif form==1:
             self.his+=', {"role": "assistant", "content": "{inp}"}'.replace('{inp}',ret)
-      
+        elif form=='pretrain':
+            self.his+='{inp}'.replace('{inp}',ret)
         return replace_vec(ret,self.v_path,self.use_patch,imgzip_model_path=self.imgzip_model_path)#ret
 
     def chat_(self,text,temp=0.68,max_len=2048,form=1,ontime=True,
@@ -457,10 +471,10 @@ class QianyanModel:
                                     )
         return ret
 
-    def img2ms(self, img_path, temp=0.28, pre_text='', pass_start_char=[]):
+    def img2ms(self, img_path, temp=0.28, pre_text='', pass_start_char=[], ontime=False, max_len=128):
         self.clean_his()
         self.model.reset_states()
-        ret=self.chat('<img>'+img_path+'</img>请你描述图片内容', temp=temp, pre_text=pre_text, pass_start_char=pass_start_char, ontime=False)
+        ret=self.chat('<img>'+img_path+'</img>请你描述图片内容', repetition_penalty=1.0, temp=temp, pre_text=pre_text, pass_start_char=pass_start_char, ontime=ontime, max_len=max_len)
         self.clean_his()
         self.model.reset_states()
         return ret

{xiaothink-1.2.2 → xiaothink-1.2.4}/xiaothink/llm/inference/test_vision.py

@@ -233,6 +233,20 @@ dic={1:[int(256*4*2*0.7),int(1024*4*2*0.7),512],
                                             'all_maxlen':2048,
 }, 
                             512],
+'t6_fast':[int(256),{'rnn_units':int(600), 'n_layer':1,'embed_q':0.4,'router_units':64,
+                                            'trans_layers':17,'dff_factor':2,'num_heads':4,
+                                            'trans_window':140,#130,
+                                            'all_maxlen':2048,
+}, 
+                            512],
+
+'t6_large':[int(920),{'rnn_units':int(1200), 'n_layer':1,'embed_q':0.4,'router_units':512,
+                                            'trans_layers':41,'dff_factor':2,'num_heads':4,
+                                            'trans_window':130,#130,
+                                            'all_maxlen':2048,
+}, 
+                            512],
+
      
 }
 

{xiaothink-1.2.2 → xiaothink-1.2.4}/xiaothink/llm/inference/vision_api.py

@@ -207,7 +207,7 @@ def split_autoencoder(model):
     decoder = model.get_layer('decoder')
     return model, encoder, decoder
 
-def image_to_compressed(encoder, img_path, vocab, patch=True):
+def image_to_compressed(encoder, img_path, vocab, n_min, n_max, patch=True):
     """将图像编码为压缩字符串，支持分块处理"""
     if patch:
         # 分块处理模式
@@ -242,7 +242,7 @@ def image_to_compressed(encoder, img_path, vocab, patch=True):
         vector = encoder.predict(np.expand_dims(img_array, axis=0), verbose=0)[0]
         return compress_vector(vector, vocab)
 
-def compressed_to_image(decoder, compressed_str, vocab, patch=True):
+def compressed_to_image(decoder, compressed_str, vocab, n_min, n_max, patch=True):
     """从压缩字符串解码为图像，支持分块处理"""
     # 先解压整个字符串
     raw_str = compressed_str

{xiaothink-1.2.2 → xiaothink-1.2.4/xiaothink.egg-info}/PKG-INFO

@@ -1,6 +1,6 @@
 Metadata-Version: 2.1
 Name: xiaothink
-Version: 1.2.2
+Version: 1.2.4
 Summary: 一个AI工具包，帮助用户快速调用小思框架（Xiaothink）相关接口。
 Home-page: UNKNOWN
 Author: Shi Jingqi
@@ -255,7 +255,7 @@ python -m xiaothink.llm.img_zip.img_zip
 ### 2. Python 代码调用
 
 ```python
-from xiaothink.llm.img_zip import ImgZip
+from xiaothink.llm.img_zip.img_zip import ImgZip
 
 # 初始化实例
 img_zip = ImgZip(model_path='path/to/your/imgzip_model.keras')
@@ -400,9 +400,30 @@ if __name__ == '__main__':
 2. 推荐使用经过指令微调的模型（如`t6_standard`），非微调模型可能影响分类精度
 4. 输出结果格式为：{'积极': 0.6667, '消极': 0.1667, '中性': 0.1667}
 
+
+---
+小思框架系列模型名称、其对应MT（模型架构版本）以及form（模型prompt传入格式）一览：
+| 模型名称（按发布时间）              | mt 参数           | form 参数   |
+|-----------------------|------------------|-------------|
+| Xiaothink-T6-0.08B       | mt='t6_beta_dense'| form=1      |
+| Xiaothink-T6-0.15B       | mt='t6_standard' | form=1      |
+| Xiaothink-T6-0.02B       | mt='t6_fast'     | form=1      |
+| Xiaothink-T6-0.5B        | mt='t6_large'    | form=1      |
+| Xiaothink-T6-0.5B-pretrain| mt='t6_large'    | form='pretrain' |
+
 ---
 
 ## 更新日志
+### 版本 1.2.4 (2025-08-30)
+- **更新接口**：
+  - 更新文档中ImgZIP相关接口的导入方法为：from xiaothink.llm.img_zip.img_zip import ImgZip
+
+### 版本 1.2.3 (2025-08-30)
+- **新增功能**：
+  - 添加了Xiaothink-T6-0.02B系列模型（MT='t6_fast'）
+  - 添加了Xiaothink-T6-0.5B系列模型（MT='t6_large'）
+  - 在model.chat方法中添加了form='pretrain'的支持，t6系列指令微调的模型应使用form=1，预训练模型应使用form='pretrain'
+
 ### 版本 1.2.2 (2025-08-18)
 - **新增功能**：
   - 新增情感分类工具，通过`ClassifyModel`实现文本情感倾向分析