re-common 0.2.54__tar.gz → 2.0.1__tar.gz

{re_common-0.2.54 → re_common-2.0.1}/PKG-INFO

@@ -1,6 +1,6 @@
 Metadata-Version: 2.1
 Name: re_common
-Version: 0.2.54
+Version: 2.0.1
 Summary: a library about all python projects
 Home-page: https://gitee.com/xujiangios/re-common
 Author: vic

re_common-2.0.1/README.md

@@ -0,0 +1,10 @@
+# re-common
+
+#### 介绍
+
+v2 会完全重新开始的基础库 会慢慢将master的库转移过来
+
+#### 安装教程
+
+1.  pip install re-common
+

re_common-2.0.1/re_common/v2/baselibrary/s3object/baseboto3.py

@@ -0,0 +1,230 @@
+from boto3.session import Session
+
+
+class BaseBoto3(object):
+
+    def __init__(self, aws_access_key_id="", aws_secret_access_key="", endpoint_url=""):
+        self.aws_access_key_id = aws_access_key_id
+        self.aws_secret_access_key = aws_secret_access_key
+        self.endpoint_url = endpoint_url
+        self.session = None
+        self.client = None
+        if self.aws_access_key_id and self.aws_secret_access_key and self.endpoint_url:
+            self.conn_session()
+            self.get_client()
+
+    def set_key(self, aws_access_key_id, aws_secret_access_key, endpoint_url):
+        self.aws_access_key_id = aws_access_key_id
+        self.aws_secret_access_key = aws_secret_access_key
+        self.endpoint_url = endpoint_url
+        return self
+
+    def conn_session(self):
+        assert self.aws_access_key_id not in (None, '')
+        assert self.aws_secret_access_key not in (None, '')
+        self.session = Session(aws_access_key_id=self.aws_access_key_id,
+                               aws_secret_access_key=self.aws_secret_access_key)
+        return self.session
+
+    def get_client(self):
+        assert self.session is not None
+        self.client = self.session.client('s3', endpoint_url=self.endpoint_url)
+        return self
+
+    def get_all_buckets(self):
+        """
+        获取所有的桶信息
+        :return:
+        """
+        return self.client.list_buckets()
+
+    def create_buckets(self, buckets_name):
+        """
+         如果get_client 使用 client 返回
+        {'ResponseMetadata': {'RequestId': '16BC90EED4A433C4', 'HostId': '', 'HTTPStatusCode': 200, 'HTTPHeaders': {'accept-ranges': 'bytes', 'content-length': '0', 'content-security-policy': 'block-all-mixed-content', 'location': '/create1', 'server': 'MinIO', 'strict-transport-security': 'max-age=31536000; includeSubDomains', 'vary': 'Origin, Accept-Encoding', 'x-amz-request-id': '16BC90EED4A433C4', 'x-content-type-options': 'nosniff', 'x-xss-protection': '1; mode=block', 'date': 'Wed, 01 Dec 2021 07:28:39 GMT'}, 'RetryAttempts': 0}, 'Location': '/create1'}
+        """
+        assert buckets_name.find("_") == -1, "新建一个bucket桶(bucket name 中不能有_下划线)"
+        # 新建一个bucket桶(bucket name 中不能有_下划线)
+        return self.client.create_bucket(Bucket=buckets_name)
+
+    def delete_buckets(self, bucket_name):
+        """
+        删除桶 删除bucket(只能删除空的bucket)
+        :return:
+        """
+        response = self.client.delete_bucket(Bucket=bucket_name)
+        return response
+
+    def get_bucket(self, bucket_name):
+        raise Exception("无实现方法")
+
+    def get_all_objs(self, bucket_name, prefix=None, continuation_token=None):
+        """
+
+        continuation_token: 如果超过1000 需要传第一次获取结果中的 continuation_token
+
+        response 的结构
+        {'ResponseMetadata': {'RequestId': '1818F447C1E7BA3B', 'HostId': '', 'HTTPStatusCode': 200,
+        'HTTPHeaders': {'accept-ranges': 'bytes', 'content-length': '3182', 'content-security-policy': 'block-all-mixed-content', 'content-type': 'application/xml',
+        'server': 'MinIO', 'strict-transport-security': 'max-age=31536000; includeSubDomains', 'vary': 'Origin, Accept-Encoding', 'x-amz-request-id': '1818F447C1E7BA3B',
+         'x-content-type-options': 'nosniff', 'x-xss-protection': '1; mode=block', 'date': 'Thu, 09 Jan 2025 07:04:05 GMT'}, 'RetryAttempts': 0},
+         'IsTruncated': False, 'Contents':
+         [
+         {'Key': 'zt_file/zt类型样例数据/11_part-00000.gz', 'LastModified': datetime.datetime(2024, 4, 28, 2, 56, 59, 716000, tzinfo=tzutc()), 'ETag': '"e0d635f171bce6a67ad72265e5f9137d-2"',
+          'Size': 18164139, 'StorageClass': 'STANDARD', 'Owner': {'DisplayName': 'minio', 'ID': '02d6176db174dc93cb1b899f7c6078f08654445fe8cf1b6ce98d8855f66bdbf4'}},
+        {'Key': 'zt_file/zt类型样例数据/12_part-00000.gz', 'LastModified': datetime.datetime(2024, 4, 28, 2, 56, 57, 70000, tzinfo=tzutc()), 'ETag': '"f238fe9973a2bc0d3e1562c2938ce897-9"',
+        'Size': 93710911, 'StorageClass': 'STANDARD', 'Owner': {'DisplayName': 'minio', 'ID': '02d6176db174dc93cb1b899f7c6078f08654445fe8cf1b6ce98d8855f66bdbf4'}},
+         ],
+         'Name': 'crawl.dc.cqvip.com', 'Prefix': 'zt_file/zt类型样例数据', 'Delimiter': '',
+         'MaxKeys': 1000, 'EncodingType': 'url', 'KeyCount': 7}
+
+        """
+        if continuation_token:
+            # 获取桶中以特定前缀开头的所有对象
+            response = self.client.list_objects_v2(Bucket=bucket_name,
+                                                   Prefix=prefix,
+                                                   ContinuationToken=continuation_token)
+        else:
+            # 获取桶中以特定前缀开头的所有对象
+            response = self.client.list_objects_v2(Bucket=bucket_name,
+                                                   Prefix=prefix)
+        object_list = []
+        # 检查是否有对象存在
+        if 'Contents' in response:
+            object_list = [obj['Key'] for obj in response['Contents']]
+
+        continuation_token = None
+        # 检查是否有更多对象
+        if response.get('IsTruncated'):  # 如果返回结果被截断，说明有更多对象
+            continuation_token = response.get('NextContinuationToken')
+
+        return object_list, continuation_token
+
+    def list_prefixes(self, bucket_name, prefix=None, Delimiter="/", continuation_token=None):
+        """
+        获取目录下一层的目录
+        prefix: 注意 这个要以 Delimiter 结尾 比如 Delimiter="/" 那么 prefix="a/"
+        continuation_token: 如果超过1000 需要传第一次获取结果中的 continuation_token
+        return:  ['a/b/', 'a/c/'] 注意 反回的 结果带有prefix 只能返回目录 不能返回文件
+        """
+        if continuation_token:
+            # 获取桶中以特定前缀开头的所有对象
+            response = self.client.list_objects_v2(Bucket=bucket_name,
+                                                   Prefix=prefix,
+                                                   Delimiter=Delimiter,  # 使用斜杠分隔符模拟目录结构
+                                                   ContinuationToken=continuation_token)
+        else:
+            # 获取桶中以特定前缀开头的所有对象
+            response = self.client.list_objects_v2(Bucket=bucket_name,
+                                                   Delimiter=Delimiter,  # 使用斜杠分隔符模拟目录结构
+                                                   Prefix=prefix)
+        object_list = []
+        # 检查是否有对象存在
+        if 'Contents' in response:
+            object_list = [obj['Key'] for obj in response['Contents']]
+
+        Prefix_list = []
+        # 检查是否有目录存在
+        if 'CommonPrefixes' in response:
+            Prefix_list = [obj['Prefix'] for obj in response['CommonPrefixes']]
+
+        continuation_token = None
+        # 检查是否有更多对象
+        if response.get('IsTruncated'):  # 如果返回结果被截断，说明有更多对象
+            continuation_token = response.get('NextContinuationToken')
+
+        return object_list, Prefix_list, continuation_token
+
+    def get_object_value(self, bucket_name, file_key, encoding='utf-8'):
+        """
+        读取文本数据
+        Returns:
+        """
+        obj = self.client.get_object(Bucket=bucket_name, Key=file_key)
+        body = obj['Body'].read().decode(encoding)
+        return body
+
+    def put_object(self, bucket_name, key, body):
+        """
+        直接写内容到文件
+        Args:
+            bucket_name:
+            key:
+            body: 需要 编码 .encode('utf-8')
+
+        Returns:
+        """
+        self.client.put_object(Bucket=bucket_name,
+                               Key=key,
+                               Body=body)
+
+    def download_file(self, bucket_name, key, local_file):
+        """
+        return: None
+        """
+        result = self.client.download_file(bucket_name, key, local_file)
+        return result
+
+    def upload_file(self, bucket_name, key, local_file):
+        """
+        # key 桶中的位置 test1/test.pdf
+        :param local_file:  本地文件路径
+        :param bucket_name: 桶名
+        :param key: 远程文件路径
+        :return:
+        """
+        self.client.upload_file(local_file, bucket_name, key)
+
+    def download_fileobj(self, bucket_name, key, fileobj):
+        """
+        return: None
+        """
+        result = self.client.download_fileobj(bucket_name, key, fileobj)
+        return result
+
+    def upload_fileobj(self, bucket_name, key, fileobj):
+        # fileobj 字节流
+        self.client.upload_fileobj(fileobj, bucket_name, key)
+
+    def check_exist_or_file_info(self, bucket_name, key):
+        """
+        检查文件是否存在且能获取文件info
+        {'ResponseMetadata': {'RequestId': '17E6A65A2B299D3B', 'HostId': '', 'HTTPStatusCode': 200, 'HTTPHeaders':
+         {'accept-ranges': 'bytes', 'content-length': '117', 'content-security-policy': 'block-all-mixed-content', 'content-type': 'binary/octet-stream',
+         'etag': '"2237a934f176003e41abf3d733291079"', 'last-modified': 'Thu, 25 Jul 2024 05:49:43 GMT', 'server': 'MinIO',
+         'strict-transport-security': 'max-age=31536000; includeSubDomains', 'vary': 'Origin, Accept-Encoding', 'x-amz-request-id': '17E6A65A2B299D3B',
+          'x-content-type-options': 'nosniff', 'x-xss-protection': '1; mode=block', 'date': 'Mon, 29 Jul 2024 09:53:33 GMT'}, 'RetryAttempts': 0},
+          'AcceptRanges': 'bytes', 'LastModified': datetime.datetime(2024, 7, 25, 5, 49, 43, tzinfo=tzutc()), 'ContentLength': 117, 'ETag': '"2237a934f176003e41abf3d733291079"',
+           'ContentType': 'binary/octet-stream', 'Metadata': {}}
+        """
+        try:
+            obj_info = self.client.head_object(
+                Bucket=bucket_name,
+                Key=key
+            )
+            return obj_info
+        except:
+            return None
+
+    def get_prefix_count(self, bucket_name, obj_count, prefix, continuation_token=None):
+        """
+        统计 某个目录的文件数据量，由于需要每个目录获取一次 性能很慢
+        """
+        for index in range(10000):
+            obj_list, dir_list, token = self.list_prefixes(bucket_name=bucket_name,
+                                                           prefix=prefix,
+                                                           continuation_token=continuation_token)
+
+            obj_count = obj_count + len(obj_list)
+            for dir_sub in dir_list:
+                obj_count = self.get_prefix_count(bucket_name, obj_count, dir_sub)
+
+            if token:
+                continuation_token = token
+            else:
+                break
+
+        if index > 10000 - 5:
+            raise Exception("循环耗尽，请检查逻辑正确性")
+
+        return obj_count

re_common-2.0.1/re_common/v2/baselibrary/tools/dict_tools.py

@@ -0,0 +1,24 @@
+class DotDict(dict):
+    """
+    让字典成为对象 既可以用字典方式访问 也可以用点访问key
+    """
+    def __init__(self, *args, **kwargs):
+        super().__init__(*args, **kwargs)
+        # 递归地将嵌套字典转换为 DotDict
+        for key, value in self.items():
+            if isinstance(value, dict):
+                self[key] = DotDict(value)
+
+    def __getattr__(self, key):
+        try:
+            value = self[key]
+            if isinstance(value, dict):  # 如果值是字典，继续转换为 DotDict
+                return DotDict(value)
+            return value
+        except KeyError:
+            raise AttributeError(f"'DotDict' object has no attribute '{key}'")
+
+    def __setattr__(self, key, value):
+        if isinstance(value, dict):  # 如果值是字典，转换为 DotDict
+            value = DotDict(value)
+        self[key] = value

re_common-2.0.1/re_common/v2/baselibrary/tools/search_hash_tools.py

@@ -0,0 +1,33 @@
+from typing import List
+
+import jieba
+from datasketch import MinHash
+
+
+def tokenize(text: str, stopwords=None) -> List[str]:
+    """
+    分词并移除停用词
+    """
+    if stopwords is None:
+        stopwords = []
+    words = jieba.lcut(text)
+    # 统计单字符数据 长度，防止结巴分词分不了的单词 将数据分为单个字符
+    one_char_size = len([i for i in words if len(i) == 1])
+    all_size = len(words)
+    # 如果单字符个数超过一定比例 就直接用空格分词
+    if all_size != 0 and one_char_size / all_size > 0.6:
+        words = [i for i in text.split() if i.strip()]
+
+    # 过滤停用词和空字符
+    words = [w for w in words if w not in stopwords and w.strip()]
+    return words
+
+
+def create_minhash(words: List[str], num_perm=128) -> MinHash:
+    """
+    为分词结果创建 MinHash
+    """
+    minhash = MinHash(num_perm=num_perm)
+    for word in words:
+        minhash.update(word.encode("utf-8"))
+    return minhash

re_common-2.0.1/re_common/v2/baselibrary/tools/text_matcher.py

@@ -0,0 +1,223 @@
+import jieba
+import re
+from typing import List, Dict, Tuple, Set, Optional, Union
+from datasketch import MinHash, MinHashLSH
+
+
+class TextMatcher:
+    def __init__(
+            self,
+            threshold: float = 0.5,
+            num_perm: int = 128,
+            is_raw_texts=True,
+            stopwords_path: Optional[str] = None,
+            user_dict_path: Optional[str] = None,
+
+    ):
+        """
+        初始化文本匹配器
+
+        Args:
+            threshold: LSH 相似度阈值
+            num_perm: MinHash 排列数
+            stopwords_path: 停用词文件路径
+            user_dict_path: 用户自定义词典路径
+        """
+        self.threshold = threshold
+        self.num_perm = num_perm
+        self.lsh = MinHashLSH(threshold=threshold, num_perm=num_perm)
+        # self.minhashes: Dict[str, MinHash] = {}
+        self.raw_texts: Dict[str, str] = {}
+        self.is_raw_texts = is_raw_texts
+        self.doc_counter = 0
+
+        # 加载停用词
+        self.stopwords: Set[str] = set()
+        if stopwords_path:
+            self.load_stopwords(stopwords_path)
+
+        # 加载用户词典
+        if user_dict_path:
+            jieba.load_userdict(user_dict_path)
+
+    def load_stopwords(self, stopwords_path: str) -> None:
+        """加载停用词"""
+        with open(stopwords_path, "r", encoding="utf-8") as f:
+            self.stopwords = set(line.strip() for line in f)
+
+    def preprocess_text(self, text: str) -> str:
+        """
+        文本预处理
+        """
+        # 转换为小写
+        text = text.lower()
+        # 移除特殊字符
+        text = re.sub(r"[^\w\s\u4e00-\u9fff]", "", text)
+        # 移除多余空格
+        text = re.sub(r"\s+", " ", text).strip()
+        return text
+
+    def tokenize(self, text: str) -> List[str]:
+        """
+        分词并移除停用词
+        """
+        words = jieba.lcut(text)
+        one_char_size = len([i for i in words if len(i) == 1])
+        all_size = len(words)
+        if all_size != 0 and one_char_size / all_size > 0.6:
+            words = [i for i in text.split() if i.strip()]
+
+        # 过滤停用词和空字符
+        words = [w for w in words if w not in self.stopwords and w.strip()]
+        return words
+
+    def create_minhash(self, words: List[str]) -> MinHash:
+        """
+        为分词结果创建 MinHash
+        """
+        minhash = MinHash(num_perm=self.num_perm)
+        for word in words:
+            minhash.update(word.encode("utf-8"))
+        return minhash
+
+    def add_document(self, text: str, doc_id: Optional[str] = None) -> str:
+        """
+        添加文档到索引
+
+        Args:
+            text: 文档文本
+            doc_id: 文档ID（可选）
+
+        Returns:
+            doc_id: 文档ID
+        """
+        if doc_id is None:
+            doc_id = f"doc_{self.doc_counter}"
+            self.doc_counter += 1
+
+        # 预处理和分词
+        processed_text = self.preprocess_text(text)
+        words = self.tokenize(processed_text)
+
+        # 创建 MinHash
+        minhash = self.create_minhash(words)
+        if self.is_raw_texts:
+            # 存储原始文本和 MinHash
+            self.raw_texts[doc_id] = text
+        # self.minhashes[doc_id] = minhash
+
+        # 添加到 LSH
+        self.lsh.insert(doc_id, minhash)
+
+        return doc_id
+
+    def batch_add_documents(self, texts: Dict[str, str]) -> None:
+        """
+        批量添加文档
+
+        Args:
+            texts: {doc_id: text} 的字典
+        """
+        for doc_id, text in texts.items():
+            self.add_document(text, doc_id)
+
+    def create_query_minhash(self, query: str):
+
+        # 预处理查询文本
+        processed_query = self.preprocess_text(query)
+        query_words = self.tokenize(processed_query)
+        # print(query_words)
+        query_minhash = self.create_minhash(query_words)
+        return query_minhash
+
+    def find_similar(self, query_minhash: MinHash, return_similarities: bool = False) -> Union[
+        List[str], List[Tuple[str, float]]]:
+        """
+        查找相似文档
+
+        Args:
+            query: 查询文本
+            return_similarities: 是否返回相似度分数
+
+        Returns:
+            如果 return_similarities 为 True，返回 [(doc_id, similarity), ...]
+            否则返回 [doc_id, ...]
+        """
+
+        # 使用 LSH 查找候选集
+        similar_docs = self.lsh.query(query_minhash)
+
+        # if return_similarities:
+        #     # 计算精确的 Jaccard 相似度
+        #     results = []
+        #     for doc_id in similar_docs:
+        #         similarity = query_minhash.jaccard(self.minhashes[doc_id])
+        #         results.append((doc_id, similarity))
+        #     # 按相似度降序排序
+        #     return sorted(results, key=lambda x: x[1], reverse=True)
+
+        return similar_docs
+
+    def get_text(self, doc_id: str) -> Optional[str]:
+        """获取原始文本"""
+        if self.is_raw_texts:
+            return self.raw_texts.get(doc_id)
+        raise Exception("没有开启存储")
+
+    def remove_document(self, doc_id: str) -> bool:
+        """
+        删除文档
+
+        Returns:
+            bool: 是否成功删除
+        """
+        # if doc_id not in self.minhashes:
+        #     return False
+
+        self.lsh.remove(doc_id)
+        # del self.minhashes[doc_id]
+        if self.is_raw_texts:
+            del self.raw_texts[doc_id]
+        return True
+
+    def clear(self) -> None:
+        """清空所有数据"""
+        self.lsh = MinHashLSH(threshold=self.threshold, num_perm=self.num_perm)
+        # self.minhashes.clear()
+        self.raw_texts.clear()
+        self.doc_counter = 0
+
+
+if __name__ == "__main__":
+    # 创建匹配器实例
+    matcher = TextMatcher(
+        threshold=0.1,  # 相似度阈值
+        num_perm=128,  # MinHash 排列数
+    )
+
+    # 添加单个文档
+    doc_id = matcher.add_document(
+        "北京是中国的首都"
+    )
+
+    # 批量添加文档
+    docs = {"doc1": "北京是一座现代化的大都市", "doc2": "上海是中国最大的城市", "doc3": "中国的首都是北京"}
+    matcher.batch_add_documents(docs)
+
+    # 查找相似文档（不返回相似度分数）
+    similar_docs = matcher.find_similar("北京首都")
+    print("相似文档ID:", similar_docs)
+
+    # 查找相似文档（返回相似度分数）
+    similar_docs_with_scores = matcher.find_similar("北京首都", return_similarities=True)
+    print("相似文档ID和分数:", similar_docs_with_scores)
+
+    # 获取原始文本
+    for doc_id, score in similar_docs_with_scores:
+        print(f"文档 {doc_id}: {matcher.get_text(doc_id)} (相似度: {score:.2f})")
+
+    # 删除文档
+    matcher.remove_document("doc1")
+
+    # 清空所有数据
+    matcher.clear()

re_common-2.0.1/re_common/v2/baselibrary/tools/unionfind_tools.py

@@ -0,0 +1,60 @@
+"""
+并查集（Union-Find）是一种用于管理元素分组的数据结构，主要用于解决动态连通性问题。它支持以下两种核心操作：
+
+查找（Find）：确定某个元素属于哪个集合。
+
+合并（Union）：将两个集合合并为一个集合。
+
+并查集广泛应用于图论、网络连接、社交网络分析、图像处理等领域。
+"""
+
+
+class UnionFind:
+    def __init__(self):
+        """
+        初始化并查集。
+        使用字典动态存储 parent 和 rank。
+        """
+        self.parent = {}  # 存储每个元素的父节点，用于表示集合的树结构
+        self.rank = {}  # 存储每个集合的秩（树的高度），用于优化合并操作
+
+    def find(self, x):
+        """
+        查找元素 x 的根节点（路径压缩优化）。
+        如果元素不存在，则动态添加。
+        """
+        if x not in self.parent:  # 如果元素 x 不在 parent 字典中
+            self.parent[x] = x  # 将 x 的父节点设置为自己（初始化）
+            self.rank[x] = 1  # 将 x 的秩初始化为 1
+        if self.parent[x] != x:  # 如果 x 不是根节点（路径压缩优化）
+            self.parent[x] = self.find(self.parent[x])  # 递归查找根节点，并更新 x 的父节点
+        return self.parent[x]  # 返回 x 的根节点
+
+    def union(self, x, y):
+        """
+        合并元素 x 和 y 所在的集合（按秩合并优化）。
+        如果元素不存在，则动态添加。
+        """
+        root_x = self.find(x)  # 找到 x 的根节点
+        root_y = self.find(y)  # 找到 y 的根节点
+        if root_x != root_y:  # 如果 x 和 y 不在同一个集合中
+            # 按秩合并
+            if self.rank[root_x] > self.rank[root_y]:  # 如果 x 所在集合的秩更大
+                self.parent[root_y] = root_x  # 将 y 的根节点指向 x 的根节点
+            elif self.rank[root_x] < self.rank[root_y]:  # 如果 y 所在集合的秩更大
+                self.parent[root_x] = root_y  # 将 x 的根节点指向 y 的根节点
+            else:  # 如果两个集合的秩相等
+                self.parent[root_y] = root_x  # 将 y 的根节点指向 x 的根节点
+                self.rank[root_x] += 1  # 增加 x 所在集合的秩
+
+    def get_groups(self):
+        """
+        获取所有分组，返回一个字典，键为根节点，值为该组的所有元素。
+        """
+        groups = {}  # 初始化一个空字典，用于存储分组
+        for x in self.parent:  # 遍历所有元素
+            root = self.find(x)  # 找到当前元素的根节点
+            if root not in groups:  # 如果根节点不在 groups 字典中
+                groups[root] = []  # 初始化一个空列表
+            groups[root].append(x)  # 将当前元素添加到对应根节点的列表中
+        return groups  # 返回分组结果

re_common-2.0.1/re_common/v2/baselibrary/utils/BusinessStringUtil.py

@@ -0,0 +1,74 @@
+# 某些业务中的字符串处理 算是特定场景的工具
+import re
+
+
+def clean_organ_postcode(organ):
+    """
+    格式化组织名称字符串，移除括号内容并删除独立的6位数字（邮政编码），然后清理标点。
+
+    备注: 该方法替换java 里面的 formatOrgan
+
+    参数:
+        organ (str): 输入的组织名称字符串，可能包含括号、分号和邮政编码。
+
+    返回:
+        str: 格式化并清理后的组织名称字符串（无独立6位数字）。
+    """
+    # 如果输入为空，设为空字符串以避免后续操作报错
+    if not organ:
+        organ = ""
+
+    # 删除方括号和圆括号中的内容（包括括号本身）
+    organ = re.sub(r"\[.*?\]", "", organ)  # 非贪婪匹配方括号内容
+    organ = re.sub(r"\(.*?\)", "", organ)  # 非贪婪匹配圆括号内容
+
+    # 定义正则表达式，匹配独立的6位数字
+    # \b 表示单词边界，确保6位数字是独立的（前后不是字母、数字或下划线）
+    organ = re.sub(r"\b[0-9]{6}\b", "", organ)
+
+    # 初始化结果列表，用于存储处理后的组织名称部分
+    format_organ = []
+    # 按分号分割字符串，生成组织名称的各个部分
+    organ_parts = organ.split(";")
+
+    # 遍历每个部分，追加到结果列表
+    for temp_organ in organ_parts:
+        # 去除首尾多余空格后追加（避免因移除邮编导致的空字符串）
+        cleaned_part = temp_organ.strip()
+        # 如果首尾是标点符号，则移除
+        # 定义标点符号的正则表达式（这里包括常见标点）
+        punctuation = r"^[!,.?;:#$%^&*+-]+|[!,.?;:#$%^&*+-]+$"
+        cleaned_part = re.sub(punctuation, "", cleaned_part)
+        if cleaned_part:  # 只追加非空部分
+            format_organ.append(cleaned_part)
+
+    # 用分号连接结果，转换为大写并清理标点
+    format_organ = ";".join(format_organ)
+
+    # 返回最终结果并去除首尾空格
+    return format_organ.strip()
+
+
+def get_first_organ(organ):
+    if not organ:
+        return ""
+    organ_list = organ.strip().split(";")
+    for organ_one in organ_list:
+        # 清理邮政编码
+        organ_one = clean_organ_postcode(organ_one)
+        if organ_one:
+            return organ_one
+
+    return ""
+
+
+def get_first_author(author: str) -> str:
+    if not author:
+        return ""
+    au_list = author.strip().split(";")
+    for au in au_list:
+        au = re.sub("\\[.*?]", "", au)
+        au = re.sub("\\(.*?\\)", "", au)
+        if au:
+            return au
+    return ""