EXtremeZip 2022.1.27 → 2022.2.19

checksums.yaml

@@ -1,7 +1,7 @@
 ---
 SHA256:
-  metadata.gz: 28ef36288016b807b01a2a9a8b4e5b8c53c28c89ed0686a53b2a5d03c4f3b5b6
-  data.tar.gz: 45078a0ebfeae22cd0c3d1e1d211702a88f111491842bbc92de3410a925d38ce
+  metadata.gz: d6f7accde07ae32cb5a0b760673749535b3cbbcaf33df4688ca303b427080bff
+  data.tar.gz: 808669d1eb5fa58e9f6d89b5e8a01c0bafebf0f49475f215aee8cbb0f2b756e3
 SHA512:
-  metadata.gz: b7d21377242380c6610b40d7ddca1d3bc7a3a3b1140e879317059a4e2993a8a8a0db38a3e6b632c1ac6e337fa55064cedde5b98f04445a8687bb50d8c50cf977
-  data.tar.gz: de35bd17671ba87ae37c97ab053d1bbf578622f4fa380899218e8a71c74108f8d55961c2227180f5e3126c9075b5dc3b722504d2cfba24192a51672d1bfe9414
+  metadata.gz: 634db332f4d8656a233ab935ab82c83ef1dc934861534da11c47dfbf6e93e98a6432e7542a4951fdb3d9e5b294c1fb397185d471d07e2fb8e026f9922eacd8f2
+  data.tar.gz: 35eb1b03750c86e87f71fb997f529cd79ef407d42d3ced0d34ecd831fe503bb74acfd37101c4bacc02ee809e49e0285efa5844c2aabb22e19f2c010efe2d52df

data/lib/extremeunzip.zzaqsu.rb

@@ -1,20 +1,47 @@
 #!/usr/bin/env ruby
 
-# require 'pathname'
-# require File.dirname(__FILE__)+'/filemessage.pb.rb'
 require 'victoriafresh'
 require 'cbor'
 require 'lzma'
 require 'get_process_mem'
 
 def checkMemoryUsage(lineNumber)
-            mem = GetProcessMem.new
+  mem = GetProcessMem.new
 
-            puts("#{lineNumber} ,  Memory: #{mem.mb}"); # Debug
+  puts("#{lineNumber} ,  Memory: #{mem.mb}"); # Debug
 end # def checkMemoryUsage
 
-# 根据版本号，提取VFS数据内容
-def extractVfsDataWithVersionExternalFile(wholeCbor, fileVersion)
+
+
+
+class ExtremeUnZip
+  # 根据偏移值来读取压缩块数据列表。
+def readVfsDataList(wholeCbor) 
+        compressedVfsDataList = [] # 获取压缩后的数据块列表
+        startIndix=wholeCbor['vfsDataListStart'] # 初始起始位置。
+        
+        puts "whole length: #{@wholeFileContent.length}, list conent: #{wholeCbor['vfsDataList']}" # Debug
+        
+        
+        wholeCbor['vfsDataList'].each do |currentBlockInfo| # 一个个块地处理
+          length=currentBlockInfo['length'] # 获取长度。
+          
+          currentBlock=@wholeFileContent[startIndix, length] # 读取内容
+          
+          puts "start index: #{startIndix}, length: #{length}, content length: #{currentBlock.length}" # Debug
+          
+          compressedVfsDataList << currentBlock # 加入当前块
+          
+          startIndix+=length # 位移。
+        end
+  
+        compressedVfsDataList # 返回 内容
+end
+  
+  # 根据版本号，提取VFS数据内容
+
+  
+  def extractVfsDataWithVersionExternalFile(wholeCbor, fileVersion)
     victoriaFreshData = '' # 解压后的数据块整体
     dataFileName = 'victoriafreshdata.w' # 数据文件名
     dataFile = {} # 数据文件对象
@@ -31,6 +58,10 @@ def extractVfsDataWithVersionExternalFile(wholeCbor, fileVersion)
         dataFile.close # 关闭文件
     elsif (fileVersion >= 30) # 30以上版本
         compressedVfsDataList = wholeCbor['vfsDataList'] # 获取压缩后的数据块列表
+        
+        if (fileVersion>=251) # 251 以上版本。要按照偏移值来读取压缩数据块列表。
+          compressedVfsDataList=readVfsDataList(wholeCbor) # 根据偏移值来读取压缩块数据列表。
+        end # if (fileVersion>=251) # 251 以上版本
 
         puts("data block amont: #{compressedVfsDataList.length}") # Debug
 
@@ -44,18 +75,12 @@ def extractVfsDataWithVersionExternalFile(wholeCbor, fileVersion)
 
             begin # 解压
                 currentRawData = LZMA.decompress(currentCompressed) # 解压这一块
-                
 
                 dataFile.syswrite(currentRawData) # 写入内容
             rescue RuntimeError => e # 解压失败
                 puts "Warning: the exz file may be incomplete." # 报告错误。文件可能不完整。
             end # begin # 解压
 
-            #             victoriaFreshData=victoriaFreshData+currentRawData #追加
-            #             victoriaFreshData << currentRawData #追加
-
-            #puts("byte size: #{victoriaFreshData.bytesize}") # debug.
-
             dataBlockCounter += 1 # count
         end # compressedVfsDataList.each do |currentCompressed|
 
@@ -65,88 +90,46 @@ def extractVfsDataWithVersionExternalFile(wholeCbor, fileVersion)
     dataFileName # 返回解压后的数据块整体
 end # def extractVfsDataWithVersionExternalFile(wholeCbor, fileVersion) #根据版本号，提取VFS数据内容
 
-def extractVfsDataWithVersion(wholeCbor, fileVersion) # 根据版本号，提取VFS数据内容
-    victoriaFreshData = '' # 解压后的数据块整体
-
-    if (fileVersion == 14) # 14版本
-        compressedVfsData = wholeCbor['vfsData'] # 获取压缩后的数据内容
-
-        victoriaFreshData = LZMA.decompress(compressedVfsData) # 解压缩数据内容
-    elsif (fileVersion >= 30) # 30以上版本
-        compressedVfsDataList = wholeCbor['vfsDataList'] # 获取压缩后的数据块列表
-
-        puts("data block amont: #{compressedVfsDataList.length}") # Debug
-
-        dataBlockCounter = 0 # Data block counter
-
-        compressedVfsDataList.each do |currentCompressed| # 一块块地解压
-            puts("data block counter: #{dataBlockCounter}") # Debug
-            checkMemoryUsage(34)
-
-            currentRawData = LZMA.decompress(currentCompressed) # 解压这一块
-
-            #             victoriaFreshData=victoriaFreshData+currentRawData #追加
-            victoriaFreshData << currentRawData # 追加
-
-            puts("byte size: #{victoriaFreshData.bytesize}") # debug.
-
-            dataBlockCounter += 1 # count
-        end # compressedVfsDataList.each do |currentCompressed|
-    end # if (fileVersion==14) #14版本
-
-    victoriaFreshData # 返回解压后的数据块整体
-end #        extractVfsDataWithVersion(wholeCbor, fileVersion) #根据版本号，提取VFS数据内容
-
-class ExtremeUnZip
-    # 解压
+  # 解压
     def exuz(rootPath)
-        result = true # 解压结果
-        
-        wholeFileContent = File.read(rootPath) # 最终文件内容
+      result = true # 解压结果
 
-        checkMemoryUsage(60)
+      currentBlockFile = File.new(rootPath, 'rb') # 打开文件
 
-        puts wholeFileContent.class # debug
+      @wholeFileContent = currentBlockFile.read # 读取全部内容
 
-        wholeCborByteArray = wholeFileContent[4..-1] # 从第5个到末尾
+      currentBlockFile.close # 关闭文件
 
-        #     puts wholeCborByteArray #Debug.
+      checkMemoryUsage(60)
 
-        #/usr/local/share/gems/gems/EXtremeZip-2021.7.8/lib/extremeunzip.zzaqsu.rb:110:in `decode': end of buffer reached (EOFError)
+      wholeCborByteArray = @wholeFileContent[4..-1] # 从第5个到末尾
 
         begin # 可能出错。
-            options = {:tolerant => true}
+          options = {:tolerant => true}
 
-            wholeCbor = CBOR.decode(wholeCborByteArray, options) # 解码
+          wholeCbor = CBOR.decode(wholeCborByteArray, options) # 解码
             
-            fileVersion = wholeCbor['version'] # 获取版本号
+          fileVersion = wholeCbor['version'] # 获取版本号
             
             if (fileVersion < 14) # 版本号过小
-                checkMemoryUsage(85)
-                puts 'file version too old' # 报告错误
+              checkMemoryUsage(85)
+              puts 'file version too old' # 报告错误
             else # 版本号够大
-                compressedVfsMenu = wholeCbor['vfsMenu'] # 获取压缩后的目录内容
+              compressedVfsMenu = wholeCbor['vfsMenu'] # 获取压缩后的目录内容
                 
-                checkMemoryUsage(90)
-                replyByteArray = LZMA.decompress(compressedVfsMenu) # 解码目录VFS字节数组内容
+              checkMemoryUsage(90)
+              replyByteArray = LZMA.decompress(compressedVfsMenu) # 解码目录VFS字节数组内容
                 
-                #         puts replyByteArray #Debug
-                
-                checkMemoryUsage(95)
-                #         victoriaFreshData=extractVfsDataWithVersion(wholeCbor, fileVersion) #根据版本号，提取VFS数据内容
-                victoriaFreshDataFile = extractVfsDataWithVersionExternalFile(wholeCbor, fileVersion) # 根据版本号，提取VFS数据内容
-                
-                #         puts victoriaFreshData #Debug
-                
-                checkMemoryUsage(100)
-                $clipDownloader = VictoriaFresh.new # 创建下载器。
-                
-                $clipDownloader.releaseFilesExternalDataFile(replyByteArray, victoriaFreshDataFile) # 释放各个文件
+              checkMemoryUsage(95)
+
+              victoriaFreshDataFile = extractVfsDataWithVersionExternalFile(wholeCbor, fileVersion) # 根据版本号，提取VFS数据内容
                 
-                fileToRemove = File.new(victoriaFreshDataFile) # 要删除的文件
+              checkMemoryUsage(100)
+              $clipDownloader = VictoriaFresh.new # 创建下载器。
                 
-                #File.delete(fileToRemove) # 删除文件
+              $clipDownloader.releaseFilesExternalDataFile(replyByteArray, victoriaFreshDataFile) # 释放各个文件
                 
+              fileToRemove = File.new(victoriaFreshDataFile) # 要删除的文件
             end # if (fileVersion<14) #版本号过小
             
             result =true # 解压成功

data/lib/extremezip.zzaqsv.rb

@@ -8,6 +8,7 @@ require 'etc' # cpu amount
 require 'cod'
 require 'uuid'
 require 'get_process_mem'
+require 'pathname'
 
 def checkMemoryUsage(lineNumber)
     mem = GetProcessMem.new
@@ -22,6 +23,7 @@ class ExtremeZip
         @filePartCounter = 0 # 文件分块计数器
         @responsePipeList = [] # 任务回复管道列表
         @processIdList = [] # 子进程编号列表。
+        @processTimestamp = Time.new.to_i # 记录进程启动的时间戳。
 
         @maxSubProcessAmount = Etc.nprocessors # 获取最大的子进程个数
 
@@ -48,34 +50,161 @@ class ExtremeZip
 
     # 加入基本文件信息
     def addBasicFileInformation
-        @wholeCbor['version'] = 233 # 文件格式版本号
+        @wholeCbor['version'] = 251 # 文件格式版本号
 
         uuid = UUID.new # 获取生成器
         @wholeCbor['uuid'] = uuid.generate # 指定本个压缩包的唯一编号
+        
+        @wholeCbor['website']='https://rubygems.org/gems/EXtremeZip' # 加入网站地址
+        
+        @wholeCbor['vfsDataListStart']=198910 # 压缩 VFS 数据列表起始位置。
     end # addBasicFileInformation # 加入基本文件信息
+    
+    def writeStamp(rootPath) # 更新时间戳文件
+      directoryPathName=Pathname.new(rootPath) #构造路径名字对象。
+      datastore=  "#{directoryPathName.expand_path}/.exzstamp"  # 配置文件路径
+      puts "writing stamp file: #{datastore}" # Debug
+      
+      #stamp = wholeCbor['timestamp'] # 获取时间戳
+      stampCbor={} # 时间戳对象。
+      stampCbor['timestamp']= @processTimestamp # 设置时间戳。
+      
+      compressed= stampCbor.to_cbor  
+      
+      extremeZipOutputFile = File.new(datastore, 'wb') # 创建文件
+      extremeZipOutputFile.syswrite(compressed) # 写入文件
+      extremeZipOutputFile.close # 关闭文件
+      
+    end # writeStamp # 更新时间戳文件
+    
+    def loadStamp(rootPath) # 读取时间戳阈值。
+      stamp=0 # 默认值。
+      fileExists=false # 文件是否存在
+      
+      directoryPathName=Pathname.new(rootPath) #构造路径名字对象。
+        
+      isFile=directoryPathName.file? #是否是文件。
+
+      unless isFile #是文件就跳过。 
+        #陈欣
+        
+        datastore=  "#{directoryPathName.expand_path}/.exzstamp"  # 配置文件路径
+        puts "reading stamp file: #{datastore}" # Debug
+        
+        begin # 尝试读取。
+          
+          #陈欣
+          
+          currentBlockFile = File.new(datastore, 'rb') # 打开文件
+          
+          fileExists=true # 文件存在
+
+          stampFileContent = currentBlockFile.read # 读取全部内容
+
+          currentBlockFile.close # 关闭文件
+          
+          options = {:tolerant => true}
+
+          wholeCbor = CBOR.decode(stampFileContent, options) # 解码
+            
+          stamp = wholeCbor['timestamp'] # 获取时间戳
+        rescue Errno::ENOENT
+
+        end
+
+        
+      end #unless isFile #是文件就跳过。 
+      
+      return stamp, fileExists # 返回时间戳。
+    end #loadStamp(rootPath) # 读取时间戳阈值。
 
     # 压缩
     def exz(rootPath)
-        victoriaFresh, = @clipDownloader.checkOnce(rootPath) # 打包该目录树。
+      timestampTHreshold, fileExists=loadStamp(rootPath) # 读取时间戳阈值。
+      
+      #陈欣
+      
+      if (timestampTHreshold > 0) # 有效的时间戳
+        @clipDownloader.timestampThreshold=timestampTHreshold # 设置文件时间戳阈值。
+      end #if (timestampTHreshold > 0) # 有效的时间戳
+      
+      if fileExists # 存在文件，则表明将要发生增量压缩
+        @wholeCbor['incremental']=true # 是增量压缩。
+        
+      end # if fileExists # 存在文件，则表明用户要求增量压缩
 
-        @filePartAmount = @clipDownloader.currentDiskFlushSuffix # 获取文件个数
+      @wholeCbor['timestamp']=@processTimestamp # 记录进程启动的时间戳。
+      
+      victoriaFresh, = @clipDownloader.checkOnce(rootPath) # 打包该目录树。
 
-        compressVfsMenu(victoriaFresh) # 压缩目录数据。
+      @filePartAmount = @clipDownloader.currentDiskFlushSuffix # 获取文件个数
 
-        addBasicFileInformation # 加入基本文件信息
+      compressVfsMenu(victoriaFresh) # 压缩目录数据。
 
-        processIdList, responsePipeList = launchSubProcesses # 启动子进程。
+      addBasicFileInformation # 加入基本文件信息
 
-        receiveCompressedVfsDataList(processIdList, responsePipeList) # 接收压缩后的数据块列表
+      processIdList, responsePipeList = launchSubProcesses # 启动子进程。
 
-        checkMemoryUsage(155)
-        @wholeCbor['vfsDataList'] = @vfsDataList # 加入数据
+      receiveCompressedVfsDataList(processIdList, responsePipeList) # 接收压缩后的数据块列表
 
+      checkMemoryUsage(155)
+      @wholeCbor['vfsDataList'] = @vfsDataList # 加入数据
+
+      wholeFileContent = 'exz' + "\0" + @wholeCbor.to_cbor # 追加CBOR字节数组
+        
+      vfsDataListStart=wholeFileContent.length # 按照现在的序列化情况，计算出来的起始位置。
+        
+      while (vfsDataListStart!=@wholeCbor['vfsDataListStart']) # 计算出的偏移不一致
+        @wholeCbor['vfsDataListStart']=vfsDataListStart # 使用新的值
         wholeFileContent = 'exz' + "\0" + @wholeCbor.to_cbor # 追加CBOR字节数组
+        vfsDataListStart=wholeFileContent.length # 按照现在的序列化情况，计算出来的起始位置。          
+      end
 
-        # 写入文件：
-        writeFile(wholeFileContent, victoriaFresh) # 写入文件内容
+      # 写入文件：
+      writeFile(wholeFileContent, victoriaFresh) # 写入文件内容
+        
+      appendVfsDataList victoriaFresh # 追加压缩块列表数据。
+      
+      if fileExists # 存在文件，则表明将要发生增量压缩
+        writeStamp # 更新时间戳文件
+      end # if fileExists # 存在文件，则表明用户要求增量压缩
+      
     end # def exz(rootPath)
+    
+    # 写入压缩块文件
+    def writeCompressBlock(compressed, processCounter) 
+      extremeZipOutputFile = File.new("comressed.#{processCounter}.cex", 'wb') # 创建文件
+      extremeZipOutputFile.syswrite(compressed) # 写入文件
+      extremeZipOutputFile.close # 关闭文件
+    end
+    
+    # 追加压缩块列表数据。
+    def appendVfsDataList (victoriaFresh)
+      extremeZipOutputFile = File.new("#{victoriaFresh['name']}.exz", 'ab') # 打开文件
+        
+      processCounter=0 # 块计数器。
+        
+      @wholeCbor['vfsDataList'].each do
+        #extremeZipOutputFile = File.new("comressed.#{processCounter}.cex", 'wb') # 创建文件
+
+        currentBlockFile = File.new("comressed.#{processCounter}.cex", 'rb') # 打开文件
+
+        wholeFileContent = currentBlockFile.read # 读取全部内容
+
+        currentBlockFile.close # 关闭文件
+        File.delete(currentBlockFile) # 删除数据块文件
+
+          #wholeFileContent=File.read("comressed.#{processCounter}.cex", 'rb') # 读取压缩块。
+          
+        puts "wirte file contetn length: #{wholeFileContent.length}" # Debghu
+          
+        extremeZipOutputFile.syswrite(wholeFileContent) # 写入文件
+          
+        processCounter += 1 # 计数
+      end
+        
+      extremeZipOutputFile.close # 关闭文件
+    end
 
     # 写入文件内容
     def writeFile(wholeFileContent, victoriaFresh)
@@ -92,8 +221,16 @@ class ExtremeZip
             currentSubProcess=processIdList[processCounter] # 获取子进程对象
         #processIdList.each do |currentSubProcess|
             compressed = receiveFromSubProcess(currentSubProcess, responsePipeList, processCounter) # 从子进程中读取数据，并终止子进程
+            
+            #写入当前压缩块到文件系统中去作为缓存。陈欣
+            writeCompressBlock(compressed, processCounter) # 写入压缩块文件
+            
+            blockInfo={} # 块信息
+            blockInfo['length']=compressed.length # 记录长度
+            
+            puts "block length: #{blockInfo['length']}" # Debug
 
-            @vfsDataList << compressed # 加入数据块列表中
+            @vfsDataList << blockInfo # 加入数据块列表中
             checkMemoryUsage(150)
 
             processCounter += 1 # 子进程计数
@@ -112,7 +249,7 @@ class ExtremeZip
 
         currentBlockFile.close # 关闭文件
 
-        #File.delete(currentBlockFile) # 删除数据块文件
+        File.delete(currentBlockFile) # 删除数据块文件
 
         currentBlockData
     end
@@ -121,11 +258,8 @@ class ExtremeZip
     def schedule1Block(filePartCounter)
         currentBlockData = readBlockFile(filePartCounter) # 读取块文件内容
 
-        # currentTaskPipe = Cod.pipe # 任务分配管道
         currentResponsePipe = Cod.pipe # 任务回复管道
 
-        puts("forking sub process, file part counter: #{filePartCounter}") # Debug.
-
         p1 = fork do # 复制出子进程
             compressInSubProcess(currentBlockData, currentResponsePipe) # 在子进程中具体执行的压缩代码
         end # p1 = fork do #复制出子进程
@@ -146,11 +280,8 @@ class ExtremeZip
 
     # 启动子进程。
     def launchSubProcesses
-
-        #while ((@filePartCounter < @filePartAmount) && (true)) # 未处理完毕，并且未达到最大子进程个数
         while ((@filePartCounter < @filePartAmount) && (@filePartCounter<@maxSubProcessAmount)) # 未处理完毕，并且未达到最大子进程个数
             currentResponsePipe, p1 = schedule1Block(@filePartCounter) # 计划一个块的压缩计算
-
         end # while processDataLength < victoriaFreshData.byte_size do #未处理完毕
 
         [@processIdList, @responsePipeList]
@@ -168,7 +299,6 @@ class ExtremeZip
 
         currentResponsePipe.put currentCompressedVfsData # 将压缩后的数据块写入到回复管道中
 
-        checkMemoryUsage(125)
         puts("finished #{Process.pid}") # Debug
     end # compressInSubProcess(currentBlockData, currentResponsePipe)  # 在子进程中具体执行的压缩代码
 

metadata

@@ -1,14 +1,14 @@
 --- !ruby/object:Gem::Specification
 name: EXtremeZip
 version: !ruby/object:Gem::Version
-  version: 2022.1.27
+  version: 2022.2.19
 platform: ruby
 authors:
 - Hxcan Cai
 autorequire:
 bindir: bin
 cert_chain: []
-date: 2022-01-27 00:00:00.000000000 Z
+date: 2022-02-19 00:00:00.000000000 Z
 dependencies:
 - !ruby/object:Gem::Dependency
   name: cod
@@ -86,20 +86,20 @@ dependencies:
     requirements:
     - - "~>"
       - !ruby/object:Gem::Version
-        version: 2022.1.27
+        version: 2022.2.19
     - - ">="
       - !ruby/object:Gem::Version
-        version: 2022.1.27
+        version: 2022.2.19
   type: :runtime
   prerelease: false
   version_requirements: !ruby/object:Gem::Requirement
     requirements:
     - - "~>"
       - !ruby/object:Gem::Version
-        version: 2022.1.27
+        version: 2022.2.19
     - - ">="
       - !ruby/object:Gem::Version
-        version: 2022.1.27
+        version: 2022.2.19
 - !ruby/object:Gem::Dependency
   name: hx_cbor
   requirement: !ruby/object:Gem::Requirement