EXtremeZip 2022.2.4 → 2022.2.20

checksums.yaml

@@ -1,7 +1,7 @@
 ---
 SHA256:
-  metadata.gz: 18b15f99993a00ab85f9dc642d40bd43141eb4f59c357c14f11155476eeee56d
-  data.tar.gz: 602d58ef6b385072c725263f96fc0dcdaa045c98c106d1c006f88b1bf285504a
+  metadata.gz: 4b684ef3eb29aacd0f18ae476b837af976b8bb054c4dd90dd07dcfe7873e833a
+  data.tar.gz: 4d0410d8d161d798e514694559f65595fa3ffcc78c90d937e33daa2decdbcd32
 SHA512:
-  metadata.gz: c13853be7482d3e5a0592f5dc866dda963dc186823f087cf506fdd9556ee4ccb1b579f756d6e3ba39b6c595c7dff6b0baec6e9929824881fb2ce452e20440254
-  data.tar.gz: 8935108d009d1884da3ba99e4fc20cefbd335c1cd8de818a1b93958726e5e9320f6e1762aec72442026f63149fdf90de3e603fb9d4d55b93ed51cfe3bc584a68
+  metadata.gz: a21e8e7e4428a2d1963507f93068c2a75f451d31d5bc684e30c3178f30bfcaf0ed59637f10cb998316849ee617988b04d7938c16b9a3596a1f9011277a401680
+  data.tar.gz: 1ec8b2c365b10c609d237b9092a1f63bfd8107b38ccbd76334e0a5f3b1ceb626c5d25dc73274b37291942da23e3aff2256aa5b17db56def39d718d91cd4d19c3

data/lib/extremeunzip.zzaqsu.rb

@@ -1,20 +1,47 @@
 #!/usr/bin/env ruby
 
-# require 'pathname'
-# require File.dirname(__FILE__)+'/filemessage.pb.rb'
 require 'victoriafresh'
 require 'cbor'
 require 'lzma'
 require 'get_process_mem'
 
 def checkMemoryUsage(lineNumber)
-            mem = GetProcessMem.new
+  mem = GetProcessMem.new
 
-            puts("#{lineNumber} ,  Memory: #{mem.mb}"); # Debug
+  puts("#{lineNumber} ,  Memory: #{mem.mb}"); # Debug
 end # def checkMemoryUsage
 
-# 根据版本号，提取VFS数据内容
-def extractVfsDataWithVersionExternalFile(wholeCbor, fileVersion)
+
+
+
+class ExtremeUnZip
+  # 根据偏移值来读取压缩块数据列表。
+def readVfsDataList(wholeCbor) 
+        compressedVfsDataList = [] # 获取压缩后的数据块列表
+        startIndix=wholeCbor['vfsDataListStart'] # 初始起始位置。
+        
+        puts "whole length: #{@wholeFileContent.length}, list conent: #{wholeCbor['vfsDataList']}" # Debug
+        
+        
+        wholeCbor['vfsDataList'].each do |currentBlockInfo| # 一个个块地处理
+          length=currentBlockInfo['length'] # 获取长度。
+          
+          currentBlock=@wholeFileContent[startIndix, length] # 读取内容
+          
+          puts "start index: #{startIndix}, length: #{length}, content length: #{currentBlock.length}" # Debug
+          
+          compressedVfsDataList << currentBlock # 加入当前块
+          
+          startIndix+=length # 位移。
+        end
+  
+        compressedVfsDataList # 返回 内容
+end
+  
+  # 根据版本号，提取VFS数据内容
+
+  
+  def extractVfsDataWithVersionExternalFile(wholeCbor, fileVersion)
     victoriaFreshData = '' # 解压后的数据块整体
     dataFileName = 'victoriafreshdata.w' # 数据文件名
     dataFile = {} # 数据文件对象
@@ -31,6 +58,10 @@ def extractVfsDataWithVersionExternalFile(wholeCbor, fileVersion)
         dataFile.close # 关闭文件
     elsif (fileVersion >= 30) # 30以上版本
         compressedVfsDataList = wholeCbor['vfsDataList'] # 获取压缩后的数据块列表
+        
+        if (fileVersion>=251) # 251 以上版本。要按照偏移值来读取压缩数据块列表。
+          compressedVfsDataList=readVfsDataList(wholeCbor) # 根据偏移值来读取压缩块数据列表。
+        end # if (fileVersion>=251) # 251 以上版本
 
         puts("data block amont: #{compressedVfsDataList.length}") # Debug
 
@@ -44,18 +75,12 @@ def extractVfsDataWithVersionExternalFile(wholeCbor, fileVersion)
 
             begin # 解压
                 currentRawData = LZMA.decompress(currentCompressed) # 解压这一块
-                
 
                 dataFile.syswrite(currentRawData) # 写入内容
             rescue RuntimeError => e # 解压失败
                 puts "Warning: the exz file may be incomplete." # 报告错误。文件可能不完整。
             end # begin # 解压
 
-            #             victoriaFreshData=victoriaFreshData+currentRawData #追加
-            #             victoriaFreshData << currentRawData #追加
-
-            #puts("byte size: #{victoriaFreshData.bytesize}") # debug.
-
             dataBlockCounter += 1 # count
         end # compressedVfsDataList.each do |currentCompressed|
 
@@ -65,88 +90,46 @@ def extractVfsDataWithVersionExternalFile(wholeCbor, fileVersion)
     dataFileName # 返回解压后的数据块整体
 end # def extractVfsDataWithVersionExternalFile(wholeCbor, fileVersion) #根据版本号，提取VFS数据内容
 
-def extractVfsDataWithVersion(wholeCbor, fileVersion) # 根据版本号，提取VFS数据内容
-    victoriaFreshData = '' # 解压后的数据块整体
-
-    if (fileVersion == 14) # 14版本
-        compressedVfsData = wholeCbor['vfsData'] # 获取压缩后的数据内容
-
-        victoriaFreshData = LZMA.decompress(compressedVfsData) # 解压缩数据内容
-    elsif (fileVersion >= 30) # 30以上版本
-        compressedVfsDataList = wholeCbor['vfsDataList'] # 获取压缩后的数据块列表
-
-        puts("data block amont: #{compressedVfsDataList.length}") # Debug
-
-        dataBlockCounter = 0 # Data block counter
-
-        compressedVfsDataList.each do |currentCompressed| # 一块块地解压
-            puts("data block counter: #{dataBlockCounter}") # Debug
-            checkMemoryUsage(34)
-
-            currentRawData = LZMA.decompress(currentCompressed) # 解压这一块
-
-            #             victoriaFreshData=victoriaFreshData+currentRawData #追加
-            victoriaFreshData << currentRawData # 追加
-
-            puts("byte size: #{victoriaFreshData.bytesize}") # debug.
-
-            dataBlockCounter += 1 # count
-        end # compressedVfsDataList.each do |currentCompressed|
-    end # if (fileVersion==14) #14版本
-
-    victoriaFreshData # 返回解压后的数据块整体
-end #        extractVfsDataWithVersion(wholeCbor, fileVersion) #根据版本号，提取VFS数据内容
-
-class ExtremeUnZip
-    # 解压
+  # 解压
     def exuz(rootPath)
-        result = true # 解压结果
-        
-        wholeFileContent = File.read(rootPath) # 最终文件内容
+      result = true # 解压结果
 
-        checkMemoryUsage(60)
+      currentBlockFile = File.new(rootPath, 'rb') # 打开文件
 
-        puts wholeFileContent.class # debug
+      @wholeFileContent = currentBlockFile.read # 读取全部内容
 
-        wholeCborByteArray = wholeFileContent[4..-1] # 从第5个到末尾
+      currentBlockFile.close # 关闭文件
 
-        #     puts wholeCborByteArray #Debug.
+      checkMemoryUsage(60)
 
-        #/usr/local/share/gems/gems/EXtremeZip-2021.7.8/lib/extremeunzip.zzaqsu.rb:110:in `decode': end of buffer reached (EOFError)
+      wholeCborByteArray = @wholeFileContent[4..-1] # 从第5个到末尾
 
         begin # 可能出错。
-            options = {:tolerant => true}
+          options = {:tolerant => true}
 
-            wholeCbor = CBOR.decode(wholeCborByteArray, options) # 解码
+          wholeCbor = CBOR.decode(wholeCborByteArray, options) # 解码
             
-            fileVersion = wholeCbor['version'] # 获取版本号
+          fileVersion = wholeCbor['version'] # 获取版本号
             
             if (fileVersion < 14) # 版本号过小
-                checkMemoryUsage(85)
-                puts 'file version too old' # 报告错误
+              checkMemoryUsage(85)
+              puts 'file version too old' # 报告错误
             else # 版本号够大
-                compressedVfsMenu = wholeCbor['vfsMenu'] # 获取压缩后的目录内容
+              compressedVfsMenu = wholeCbor['vfsMenu'] # 获取压缩后的目录内容
                 
-                checkMemoryUsage(90)
-                replyByteArray = LZMA.decompress(compressedVfsMenu) # 解码目录VFS字节数组内容
+              checkMemoryUsage(90)
+              replyByteArray = LZMA.decompress(compressedVfsMenu) # 解码目录VFS字节数组内容
                 
-                #         puts replyByteArray #Debug
-                
-                checkMemoryUsage(95)
-                #         victoriaFreshData=extractVfsDataWithVersion(wholeCbor, fileVersion) #根据版本号，提取VFS数据内容
-                victoriaFreshDataFile = extractVfsDataWithVersionExternalFile(wholeCbor, fileVersion) # 根据版本号，提取VFS数据内容
-                
-                #         puts victoriaFreshData #Debug
-                
-                checkMemoryUsage(100)
-                $clipDownloader = VictoriaFresh.new # 创建下载器。
-                
-                $clipDownloader.releaseFilesExternalDataFile(replyByteArray, victoriaFreshDataFile) # 释放各个文件
+              checkMemoryUsage(95)
+
+              victoriaFreshDataFile = extractVfsDataWithVersionExternalFile(wholeCbor, fileVersion) # 根据版本号，提取VFS数据内容
                 
-                fileToRemove = File.new(victoriaFreshDataFile) # 要删除的文件
+              checkMemoryUsage(100)
+              $clipDownloader = VictoriaFresh.new # 创建下载器。
                 
-                #File.delete(fileToRemove) # 删除文件
+              $clipDownloader.releaseFilesExternalDataFile(replyByteArray, victoriaFreshDataFile) # 释放各个文件
                 
+              fileToRemove = File.new(victoriaFreshDataFile) # 要删除的文件
             end # if (fileVersion<14) #版本号过小
             
             result =true # 解压成功

data/lib/extremezip.zzaqsv.rb

@@ -8,6 +8,7 @@ require 'etc' # cpu amount
 require 'cod'
 require 'uuid'
 require 'get_process_mem'
+require 'pathname'
 
 def checkMemoryUsage(lineNumber)
     mem = GetProcessMem.new
@@ -22,6 +23,7 @@ class ExtremeZip
         @filePartCounter = 0 # 文件分块计数器
         @responsePipeList = [] # 任务回复管道列表
         @processIdList = [] # 子进程编号列表。
+        @processTimestamp = Time.new.to_i # 记录进程启动的时间戳。
 
         @maxSubProcessAmount = Etc.nprocessors # 获取最大的子进程个数
 
@@ -57,64 +59,155 @@ class ExtremeZip
         
         @wholeCbor['vfsDataListStart']=198910 # 压缩 VFS 数据列表起始位置。
     end # addBasicFileInformation # 加入基本文件信息
+    
+    def writeStamp(rootPath) # 更新时间戳文件
+      directoryPathName=Pathname.new(rootPath) #构造路径名字对象。
+      datastore=  "#{directoryPathName.expand_path}/.exzstamp"  # 配置文件路径
+      puts "writing stamp file: #{datastore}" # Debug
+      
+      #stamp = wholeCbor['timestamp'] # 获取时间戳
+      stampCbor={} # 时间戳对象。
+      stampCbor['timestamp']= @processTimestamp # 设置时间戳。
+      
+      compressed= stampCbor.to_cbor  
+      
+      extremeZipOutputFile = File.new(datastore, 'wb') # 创建文件
+      extremeZipOutputFile.syswrite(compressed) # 写入文件
+      extremeZipOutputFile.close # 关闭文件
+      
+    end # writeStamp # 更新时间戳文件
+    
+    def loadStamp(rootPath) # 读取时间戳阈值。
+      stamp=0 # 默认值。
+      fileExists=false # 文件是否存在
+      
+      directoryPathName=Pathname.new(rootPath) #构造路径名字对象。
+        
+      isFile=directoryPathName.file? #是否是文件。
+
+      unless isFile #是文件就跳过。 
+        #陈欣
+        
+        datastore=  "#{directoryPathName.expand_path}/.exzstamp"  # 配置文件路径
+        puts "reading stamp file: #{datastore}" # Debug
+        
+        begin # 尝试读取。
+          
+          #陈欣
+          
+          currentBlockFile = File.new(datastore, 'rb') # 打开文件
+          
+          fileExists=true # 文件存在
+
+          stampFileContent = currentBlockFile.read # 读取全部内容
+
+          currentBlockFile.close # 关闭文件
+          
+          options = {:tolerant => true}
+
+          wholeCbor = CBOR.decode(stampFileContent, options) # 解码
+          
+          puts wholeCbor # Debug
+          puts wholeCbor.inspect # Debug
+            
+          stamp = wholeCbor['timestamp'] # 获取时间戳
+          #stamp = wholeCbor.try(:[], 'timestamp') # 获取时间戳
+        rescue Errno::ENOENT, TypeError
+
+        end
+
+        
+      end #unless isFile #是文件就跳过。 
+      
+      return stamp, fileExists # 返回时间戳。
+    end #loadStamp(rootPath) # 读取时间戳阈值。
 
     # 压缩
     def exz(rootPath)
-        victoriaFresh, = @clipDownloader.checkOnce(rootPath) # 打包该目录树。
+      timestampTHreshold, fileExists=loadStamp(rootPath) # 读取时间戳阈值。
+      
+      #陈欣
+      
+      if (timestampTHreshold > 0) # 有效的时间戳
+        @clipDownloader.timestampThreshold=timestampTHreshold # 设置文件时间戳阈值。
+      end #if (timestampTHreshold > 0) # 有效的时间戳
+      
+      if fileExists # 存在文件，则表明将要发生增量压缩
+        @wholeCbor['incremental']=true # 是增量压缩。
+        
+      end # if fileExists # 存在文件，则表明用户要求增量压缩
 
-        @filePartAmount = @clipDownloader.currentDiskFlushSuffix # 获取文件个数
+      @wholeCbor['timestamp']=@processTimestamp # 记录进程启动的时间戳。
+      
+      victoriaFresh, = @clipDownloader.checkOnce(rootPath) # 打包该目录树。
 
-        compressVfsMenu(victoriaFresh) # 压缩目录数据。
+      @filePartAmount = @clipDownloader.currentDiskFlushSuffix # 获取文件个数
 
-        addBasicFileInformation # 加入基本文件信息
+      compressVfsMenu(victoriaFresh) # 压缩目录数据。
 
-        processIdList, responsePipeList = launchSubProcesses # 启动子进程。
+      addBasicFileInformation # 加入基本文件信息
 
-        receiveCompressedVfsDataList(processIdList, responsePipeList) # 接收压缩后的数据块列表
+      processIdList, responsePipeList = launchSubProcesses # 启动子进程。
 
-        checkMemoryUsage(155)
-        @wholeCbor['vfsDataList'] = @vfsDataList # 加入数据
+      receiveCompressedVfsDataList(processIdList, responsePipeList) # 接收压缩后的数据块列表
 
-        wholeFileContent = 'exz' + "\0" + @wholeCbor.to_cbor # 追加CBOR字节数组
+      checkMemoryUsage(155)
+      @wholeCbor['vfsDataList'] = @vfsDataList # 加入数据
+
+      wholeFileContent = 'exz' + "\0" + @wholeCbor.to_cbor # 追加CBOR字节数组
         
-        vfsDataListStart=wholeFileContent.length # 按照现在的序列化情况，计算出来的起始位置。
+      vfsDataListStart=wholeFileContent.length # 按照现在的序列化情况，计算出来的起始位置。
         
-        while (vfsDataListStart!=@wholeCbor['vfsDataListStart']) # 计算出的偏移不一致
-          @wholeCbor['vfsDataListStart']=vfsDataListStart # 使用新的值
-          wholeFileContent = 'exz' + "\0" + @wholeCbor.to_cbor # 追加CBOR字节数组
-          vfsDataListStart=wholeFileContent.length # 按照现在的序列化情况，计算出来的起始位置。          
-        end
+      while (vfsDataListStart!=@wholeCbor['vfsDataListStart']) # 计算出的偏移不一致
+        @wholeCbor['vfsDataListStart']=vfsDataListStart # 使用新的值
+        wholeFileContent = 'exz' + "\0" + @wholeCbor.to_cbor # 追加CBOR字节数组
+        vfsDataListStart=wholeFileContent.length # 按照现在的序列化情况，计算出来的起始位置。          
+      end
 
-        # 写入文件：
-        writeFile(wholeFileContent, victoriaFresh) # 写入文件内容
+      # 写入文件：
+      writeFile(wholeFileContent, victoriaFresh) # 写入文件内容
         
-        appendVfsDataList # 追加压缩块列表数据。
+      appendVfsDataList victoriaFresh # 追加压缩块列表数据。
+      
+      if fileExists # 存在文件，则表明将要发生增量压缩
+        writeStamp (rootPath) # 更新时间戳文件
+      end # if fileExists # 存在文件，则表明用户要求增量压缩
+      
     end # def exz(rootPath)
     
     # 写入压缩块文件
     def writeCompressBlock(compressed, processCounter) 
-        extremeZipOutputFile = File.new("comressed.#{processCounter}.cex", 'wb') # 创建文件
-        extremeZipOutputFile.syswrite(compressed) # 写入文件
-        extremeZipOutputFile.close # 关闭文件
+      extremeZipOutputFile = File.new("comressed.#{processCounter}.cex", 'wb') # 创建文件
+      extremeZipOutputFile.syswrite(compressed) # 写入文件
+      extremeZipOutputFile.close # 关闭文件
     end
     
     # 追加压缩块列表数据。
-    def appendVfsDataList 
-        extremeZipOutputFile = File.new("#{victoriaFresh['name']}.exz", 'ab') # 打开文件
+    def appendVfsDataList (victoriaFresh)
+      extremeZipOutputFile = File.new("#{victoriaFresh['name']}.exz", 'ab') # 打开文件
         
-        processCounter=0 # 块计数器。
+      processCounter=0 # 块计数器。
         
-        @wholeCbor['vfsDataList'].each do
+      @wholeCbor['vfsDataList'].each do
         #extremeZipOutputFile = File.new("comressed.#{processCounter}.cex", 'wb') # 创建文件
 
-          wholeFileContent=File.read("comressed.#{processCounter}.cex") # 读取压缩块。
+        currentBlockFile = File.new("comressed.#{processCounter}.cex", 'rb') # 打开文件
+
+        wholeFileContent = currentBlockFile.read # 读取全部内容
+
+        currentBlockFile.close # 关闭文件
+        File.delete(currentBlockFile) # 删除数据块文件
+
+          #wholeFileContent=File.read("comressed.#{processCounter}.cex", 'rb') # 读取压缩块。
           
-          extremeZipOutputFile.syswrite(wholeFileContent) # 写入文件
+        puts "wirte file contetn length: #{wholeFileContent.length}" # Debghu
           
-          processCounter += 1 # 计数
-        end
+        extremeZipOutputFile.syswrite(wholeFileContent) # 写入文件
+          
+        processCounter += 1 # 计数
+      end
         
-        extremeZipOutputFile.close # 关闭文件
+      extremeZipOutputFile.close # 关闭文件
     end
 
     # 写入文件内容
@@ -138,6 +231,8 @@ class ExtremeZip
             
             blockInfo={} # 块信息
             blockInfo['length']=compressed.length # 记录长度
+            
+            puts "block length: #{blockInfo['length']}" # Debug
 
             @vfsDataList << blockInfo # 加入数据块列表中
             checkMemoryUsage(150)
@@ -158,7 +253,7 @@ class ExtremeZip
 
         currentBlockFile.close # 关闭文件
 
-        #File.delete(currentBlockFile) # 删除数据块文件
+        File.delete(currentBlockFile) # 删除数据块文件
 
         currentBlockData
     end
@@ -167,11 +262,8 @@ class ExtremeZip
     def schedule1Block(filePartCounter)
         currentBlockData = readBlockFile(filePartCounter) # 读取块文件内容
 
-        # currentTaskPipe = Cod.pipe # 任务分配管道
         currentResponsePipe = Cod.pipe # 任务回复管道
 
-        puts("forking sub process, file part counter: #{filePartCounter}") # Debug.
-
         p1 = fork do # 复制出子进程
             compressInSubProcess(currentBlockData, currentResponsePipe) # 在子进程中具体执行的压缩代码
         end # p1 = fork do #复制出子进程
@@ -192,11 +284,8 @@ class ExtremeZip
 
     # 启动子进程。
     def launchSubProcesses
-
-        #while ((@filePartCounter < @filePartAmount) && (true)) # 未处理完毕，并且未达到最大子进程个数
         while ((@filePartCounter < @filePartAmount) && (@filePartCounter<@maxSubProcessAmount)) # 未处理完毕，并且未达到最大子进程个数
             currentResponsePipe, p1 = schedule1Block(@filePartCounter) # 计划一个块的压缩计算
-
         end # while processDataLength < victoriaFreshData.byte_size do #未处理完毕
 
         [@processIdList, @responsePipeList]
@@ -214,7 +303,6 @@ class ExtremeZip
 
         currentResponsePipe.put currentCompressedVfsData # 将压缩后的数据块写入到回复管道中
 
-        checkMemoryUsage(125)
         puts("finished #{Process.pid}") # Debug
     end # compressInSubProcess(currentBlockData, currentResponsePipe)  # 在子进程中具体执行的压缩代码
 

metadata

@@ -1,14 +1,14 @@
 --- !ruby/object:Gem::Specification
 name: EXtremeZip
 version: !ruby/object:Gem::Version
-  version: 2022.2.4
+  version: 2022.2.20
 platform: ruby
 authors:
 - Hxcan Cai
 autorequire:
 bindir: bin
 cert_chain: []
-date: 2022-02-04 00:00:00.000000000 Z
+date: 2022-02-19 00:00:00.000000000 Z
 dependencies:
 - !ruby/object:Gem::Dependency
   name: cod
@@ -86,20 +86,20 @@ dependencies:
     requirements:
     - - "~>"
       - !ruby/object:Gem::Version
-        version: 2022.1.27
+        version: 2022.2.20
     - - ">="
       - !ruby/object:Gem::Version
-        version: 2022.1.27
+        version: 2022.2.20
   type: :runtime
   prerelease: false
   version_requirements: !ruby/object:Gem::Requirement
     requirements:
     - - "~>"
       - !ruby/object:Gem::Version
-        version: 2022.1.27
+        version: 2022.2.20
     - - ">="
       - !ruby/object:Gem::Version
-        version: 2022.1.27
+        version: 2022.2.20
 - !ruby/object:Gem::Dependency
   name: hx_cbor
   requirement: !ruby/object:Gem::Requirement