VictoriaFreSh 2021.8.20 → 2022.1.11

checksums.yaml

@@ -1,7 +1,7 @@
 ---
 SHA256:
-  metadata.gz: a56b845c853ea051b1161ab0ecfa3c234dbf9516d1556bd80abab4f40229091c
-  data.tar.gz: b0be7bf5028590e06c48603586199a5c4bf11169489cec752d750fa895e44f1f
+  metadata.gz: e816682e96950693c25509f5bacef3c369750c4744509b6b4249d07dc3ffb44a
+  data.tar.gz: c6916510d824a4524375dcd88f92aaa24c259a0d8723ea9631352f8f108ef71a
 SHA512:
-  metadata.gz: 91f6eab1bb592d56387183e2bcbb932c7b2c0b8c111410ec707f80d56a4c8a3246a1d316f3691df272b7f44fc303f9c12ed8214771db2dfa32b530649aac69c7
-  data.tar.gz: 10ee5a210c1030ed986c80b66dc3d9b64bcef2694a0d84f96aeb3ca8362e472e2184c7c362406f9f2d23932f31580b1e127052b04e2aedbac109f9b44518b5b6
+  metadata.gz: e98134456774cefe3c9f2a22837d3c810365524807218703646643d8c877d2d5d0d5a46f1660a1ef0117746f93dd9f96e879d135dd3aeef9e47072203c3f5967
+  data.tar.gz: 8fd84643f71e5c5a1b016ce444131c324be949d1824d4cf14090b51364fc14d8c3fa8555ffbec96c8983f5565b8f81db9669cd64e0eb1a539eaa82ec8a73f276

data/lib/victoriafresh.rb

@@ -4,6 +4,7 @@ require 'pathname'
 require 'fileutils'
 require 'cbor'
 require 'get_process_mem'
+require 'digest'
 
 # require File.dirname(__FILE__)+'/VictoriaFreSh/filemessage_pb.rb'
 
@@ -25,6 +26,21 @@ class VictoriaFresh
         @currentDiskFlushSuffix=0 #当前的磁盘文件后缀
         @bufferLength=0 #缓冲区总长度
         @externalDataFile={} #外部数据文件对象
+        @nextFileIdToUse=1 # 下一个要用的文件编号。
+        @md5FileIdMap={} # MD5 与文件编号之间的映射
+        @fileIdPathMap={} # 文件编号与它的实际路径之间的映射
+    end
+    
+    # 计算文件内容的MD5。
+    def calculateMd5(currentFileContent) 
+      Digest::MD5.hexdigest currentFileContent      #=> "90015098..."
+    end
+    
+    # 下一个可用的文件编号
+    def nextFileId
+      result=@nextFileIdToUse # 结果
+      
+      @nextFileIdToUse=@nextFileIdToUse+1
     end
     
     def checkMemoryUsage(lineNumber)
@@ -57,15 +73,31 @@ class VictoriaFresh
     def writeFileExternalDataFile(pathPrefix, packagedFile) #写入文件
         timeObject=getTimeObject(packagedFile) #构造时间戳对象
         
-        @externalDataFile.seek(packagedFile['file_start_index']) #定位到起始位置
-        
-        victoriaFreshData=@externalDataFile.read(packagedFile['file_length']) #读取内容
+        is_duplicate=packagedFile['is_duplicate'] # 是否是重复文件。
+        fileId=packagedFile['id'] # 获取文件编号。
+        
+        if is_duplicate # 是重复文件。
+          sameFileId=packagedFile['same_file_id'] # 找到相同文件的编号。
+          
+          sameFilePath=@fileIdPathMap[sameFileId] # 获取原始相同文件的路径。
+          
+          victoriaFreshData=File.read(sameFilePath) # 读取原始相同文件的内容。
+        else # 不是重复文件。
+          @externalDataFile.seek(packagedFile['file_start_index']) #定位到起始位置
+          
+          victoriaFreshData=@externalDataFile.read(packagedFile['file_length']) #读取内容
+        end # if is_duplicate # 是重复文件。
+        
+        if (packagedFile['name']=='hgrc')
+          puts packagedFile # Debug
+          puts victoriaFreshData # Debug
+        end
         
-        #         victoriaFreshData=contentString[packagedFile.file_start_index, packagedFile.file_length] #获取内容
-#         victoriaFreshData=contentString[ packagedFile['file_start_index'], packagedFile['file_length'] ] #获取内容
+
         
-        #         pathToMake=pathPrefix + '/' + packagedFile.name #构造文件名
         pathToMake=pathPrefix + '/' + packagedFile['name'] #构造文件名
+        
+        @fileIdPathMap[fileId]=pathToMake # 记录文件编号与路径之间的映射。
 
         begin
           victoriaFreshDataFile=File.new(pathToMake , "wb", packagedFile['permission']) #数据文件。
@@ -80,8 +112,6 @@ class VictoriaFresh
           elsif #带权限字段
             File.chmod(permissionNumber, pathToMake) #设置权限
           end #if (permissionNumber.nil?) #不带权限字段
-
-
         rescue Errno::ENOENT # File not exist
           puts "Rescued by Errno::ENOENT statement. #{pathToMake}" #报告错误
         rescue Errno::EACCES # File permission error
@@ -320,8 +350,6 @@ class VictoriaFresh
                         @diskWriteFileObject.syswrite(contentToWrite) #写入内容
                         
                         @diskWriteFileObject.close
-                        
-                        
                     else #单个磁盘文件
                         @diskWriteFileObject.syswrite(contentToWrite) #写入内容
                         
@@ -344,8 +372,6 @@ class VictoriaFresh
         
         packagedFile={} #创建文件消息对象。
         
-        packagedFile['sub_files'] = [] #加入到子文件列表中。
-        
         directoryPathName=Pathname.new(directoryPath) #构造路径名字对象。
         
         baseName=directoryPathName.basename.to_s #基本文件名。
@@ -360,8 +386,6 @@ class VictoriaFresh
         
         packagedFile['is_symlink']=isSymLink #设置属性，是否是符号链接
         
-        puts directoryPath #Dbug.
-        
         #记录时间戳：
         begin #读取时间戳
             mtimeStamp=File.mtime(directoryPath) #获取时间戳
@@ -376,20 +400,44 @@ class VictoriaFresh
         end #begin #读取时间戳
         
         if isFile #是文件，不用再列出其子文件了。
-            packagedFile['file_length']=directoryPathName.size #记录文件的内容长度。
+            packagedFile['file_length']=0 #记录文件的内容长度。
+            packagedFile['id']= nextFileId # 设置下一个文件编号
             
             #读取文件内容：
             fileToReadContent=File.new(directoryPath,"rb") #创建文件。
             currentFileContent=fileToReadContent.read #全部读取
-            @contentPartArray <<  currentFileContent
-            @bufferLength=@bufferLength+ currentFileContent.length #记录缓冲区总长度
-            #       @contentString= @contentString +  fileToReadContent.read #全部读取。
+            
+            currentContentMd5=calculateMd5(currentFileContent) # 计算文件内容的MD5。
+            
+            sameFileId=@md5FileIdMap[currentContentMd5] # 尝试寻找对应的相同文件的编号。
+            
+            if sameFileId.nil? # 不存在相同的文件
+              packagedFile['file_length']=directoryPathName.size #记录文件的内容长度。
+
+              @contentPartArray <<  currentFileContent
+              @bufferLength=@bufferLength+ currentFileContent.length #记录缓冲区总长度
+              @md5FileIdMap[currentContentMd5]=packagedFile['id'] # 尝试寻找对应的相同文件的编号。
+            else # 存在相同的文件
+              packagedFile['is_duplicate']=true # 是重复文件。
+              packagedFile['same_file_id']=sameFileId # 设置相同文件的编号。
+            end # if sameFileId.nil? # 不存在相同的文件
+            
+            if (packagedFile['name']=='hgrc')
+              puts packagedFile # Debug
+              puts currentFileContent
+              puts @contentPartArray.last
+              puts @contentPartArray.join.length
+            end # if (packagedFile['name']=='hgrc')
+            
+            if ((@contentPartArray.join.length-packagedFile['file_length'])!=(packagedFile['file_start_index']))
+              puts packagedFile
+              #raise StandardError
+            end
             
             assessDiskFlush(layer) #考虑是否要向磁盘先输出内容
         elsif (isSymLink) #是符号链接
             linkTarget=directoryPathName.readlink #获取链接目标
             
-            #         待续，设置内容长度。符号链接字符串的长度
             packagedFile['file_length']=linkTarget.to_s.bytesize #记录文件的内容长度。
             
             #读取文件内容：
@@ -397,22 +445,15 @@ class VictoriaFresh
             currentFileContent=StringIO.new(linkTarget.to_s).binmode.read #全部读取。
             @contentPartArray << currentFileContent #加入数组
             @bufferLength=@bufferLength + currentFileContent.length #记录缓冲区总长度
-            #       @contentString= @contentString + StringIO.new(linkTarget.to_s).binmode.read #全部读取。
             
             assessDiskFlush(layer) #考虑是否要向磁盘先输出内容
-            
         else #是目录。
-            #       contentString="" #容纳内容的字符串。
             subFileStartIndex=startIndex #子文件的起始位置，以此目录的起始位置为基准。
             
             packagedFile['file_length']=0 #本目录的内容长度。
-
-            puts "Listing for #{directoryPathName}" # Debug
+            packagedFile['sub_files'] = [] #加入到子文件列表中。
 
             directoryPathName.each_child do |subFile| #一个个文件地处理。
-                #           puts("sub file: #{subFile}, class: #{subFile.class}, symlink: #{subFile.symlink?}, expand_path: #{subFile.expand_path}, file?: #{subFile.file?}") #Debug.
-                #     checkMemoryUsage(221)
-
                 begin
                 realPath=subFile.expand_path #获取绝对路径。
                 
@@ -420,15 +461,8 @@ class VictoriaFresh
                 
                 packagedFile['sub_files'] << packagedSubFile #加入到子文件列表中。
                 
-                #         puts("sub file content: #{subFileContent}, nil?: #{subFileContent.nil?}" ) #Debug
-                
-                #             puts(" content: #{contentString}, nil?: #{contentString.nil? }") #Debug
-                
-                #         contentString = contentString + subFileContent #串接文件内容。
-                
                 assessDiskFlush(layer) #考虑是否要向磁盘先输出内容
                 
-                
                 subFileStartIndex+=packagedSubFile['file_length'] #记录打包的子文件的长度，更新下一个要打包的子文件的起始位置。
                 
                 #         puts("237, content string length: #{contentString.length}") #Debug

metadata

@@ -1,14 +1,14 @@
 --- !ruby/object:Gem::Specification
 name: VictoriaFreSh
 version: !ruby/object:Gem::Version
-  version: 2021.8.20
+  version: 2022.1.11
 platform: ruby
 authors:
 - Hxcan Cai
-autorequire: 
+autorequire:
 bindir: bin
 cert_chain: []
-date: 2021-08-20 00:00:00.000000000 Z
+date: 2022-01-08 00:00:00.000000000 Z
 dependencies:
 - !ruby/object:Gem::Dependency
   name: hx_cbor
@@ -50,7 +50,7 @@ homepage: http://rubygems.org/gems/VictoriaFreSh
 licenses:
 - MIT
 metadata: {}
-post_install_message: 
+post_install_message:
 rdoc_options: []
 require_paths:
 - lib
@@ -66,7 +66,7 @@ required_rubygems_version: !ruby/object:Gem::Requirement
       version: '0'
 requirements: []
 rubygems_version: 3.1.6
-signing_key: 
+signing_key:
 specification_version: 4
 summary: VictoriaFreSh
 test_files: []