EXtremeZip 2022.2.5 → 2022.2.21

checksums.yaml

@@ -1,7 +1,7 @@
 ---
 SHA256:
-  metadata.gz: 8a901704ebb0119ce33eb6456905840c2b4dc6c0b5b59fef45412a1503bf71b9
-  data.tar.gz: 7b848ffaf0a33ae060d77f13c12f45b4c686a155d2fca7a86b69bb816d2e3dc3
+  metadata.gz: f274c7112e5fa1cf2379de1a65c7c25b14041431045ab3b519acefac42c9de17
+  data.tar.gz: 055ba68656972d056b5102b8e3248c12e78c00382138be2dbdd7762d63d7e640
 SHA512:
-  metadata.gz: 38a3aa8e8679c4d065df2b21af79c0808f69e6e7756efd4bc68cbdf35d519c5eff0219e3d2541671ff1fe69f5d1688836f27a53c00ed56ce4d417852613609d0
-  data.tar.gz: 90b04389278faddbc27977f5e86c8ce468ffbf85aa95177c48a6630eb29e14f3ca540850b84e4cb95617bf487a54fa5566e9e330f309132249953cae7752c12d
+  metadata.gz: d0ce3400f2248ea435e52b05e7afec8a27a7dcb97e4ddfd74536302afc460daba0c9dfdc6b11d1f3fea53344c1dc8152ad7cf41933b52f7976936da25a8faf49
+  data.tar.gz: f70e13f87ab926df4a6ecae50eaf2231fa547953e8ff665e1e31781be0c3cd88d2a2a4af0c5cb280c4598d0033c8c4e648ee7b4451d7f23092b0e5b02a43cbb2

data/lib/extremeunzip.zzaqsu.rb

@@ -92,46 +92,44 @@ end # def extractVfsDataWithVersionExternalFile(wholeCbor, fileVersion) #根据
 
   # 解压
     def exuz(rootPath)
-        result = true # 解压结果
-        
-        currentBlockFile = File.new(rootPath, 'rb') # 打开文件
+      result = true # 解压结果
 
-        @wholeFileContent = currentBlockFile.read # 读取全部内容
+      currentBlockFile = File.new(rootPath, 'rb') # 打开文件
 
-        currentBlockFile.close # 关闭文件
+      @wholeFileContent = currentBlockFile.read # 读取全部内容
 
-        #@wholeFileContent = File.read(rootPath) # 最终文件内容
+      currentBlockFile.close # 关闭文件
 
-        checkMemoryUsage(60)
+      checkMemoryUsage(60)
 
-        wholeCborByteArray = @wholeFileContent[4..-1] # 从第5个到末尾
+      wholeCborByteArray = @wholeFileContent[4..-1] # 从第5个到末尾
 
         begin # 可能出错。
-            options = {:tolerant => true}
+          options = {:tolerant => true}
 
-            wholeCbor = CBOR.decode(wholeCborByteArray, options) # 解码
+          wholeCbor = CBOR.decode(wholeCborByteArray, options) # 解码
             
-            fileVersion = wholeCbor['version'] # 获取版本号
+          fileVersion = wholeCbor['version'] # 获取版本号
             
             if (fileVersion < 14) # 版本号过小
-                checkMemoryUsage(85)
-                puts 'file version too old' # 报告错误
+              checkMemoryUsage(85)
+              puts 'file version too old' # 报告错误
             else # 版本号够大
-                compressedVfsMenu = wholeCbor['vfsMenu'] # 获取压缩后的目录内容
+              compressedVfsMenu = wholeCbor['vfsMenu'] # 获取压缩后的目录内容
                 
-                checkMemoryUsage(90)
-                replyByteArray = LZMA.decompress(compressedVfsMenu) # 解码目录VFS字节数组内容
+              checkMemoryUsage(90)
+              replyByteArray = LZMA.decompress(compressedVfsMenu) # 解码目录VFS字节数组内容
                 
-                checkMemoryUsage(95)
+              checkMemoryUsage(95)
 
-                victoriaFreshDataFile = extractVfsDataWithVersionExternalFile(wholeCbor, fileVersion) # 根据版本号，提取VFS数据内容
+              victoriaFreshDataFile = extractVfsDataWithVersionExternalFile(wholeCbor, fileVersion) # 根据版本号，提取VFS数据内容
                 
-                checkMemoryUsage(100)
-                $clipDownloader = VictoriaFresh.new # 创建下载器。
+              checkMemoryUsage(100)
+              $clipDownloader = VictoriaFresh.new # 创建下载器。
                 
-                $clipDownloader.releaseFilesExternalDataFile(replyByteArray, victoriaFreshDataFile) # 释放各个文件
+              $clipDownloader.releaseFilesExternalDataFile(replyByteArray, victoriaFreshDataFile) # 释放各个文件
                 
-                fileToRemove = File.new(victoriaFreshDataFile) # 要删除的文件
+              fileToRemove = File.new(victoriaFreshDataFile) # 要删除的文件
             end # if (fileVersion<14) #版本号过小
             
             result =true # 解压成功

data/lib/extremezip.zzaqsv.rb

@@ -8,6 +8,7 @@ require 'etc' # cpu amount
 require 'cod'
 require 'uuid'
 require 'get_process_mem'
+require 'pathname'
 
 def checkMemoryUsage(lineNumber)
     mem = GetProcessMem.new
@@ -22,6 +23,7 @@ class ExtremeZip
         @filePartCounter = 0 # 文件分块计数器
         @responsePipeList = [] # 任务回复管道列表
         @processIdList = [] # 子进程编号列表。
+        @processTimestamp = Time.new.to_i # 记录进程启动的时间戳。
 
         @maxSubProcessAmount = Etc.nprocessors # 获取最大的子进程个数
 
@@ -57,54 +59,138 @@ class ExtremeZip
         
         @wholeCbor['vfsDataListStart']=198910 # 压缩 VFS 数据列表起始位置。
     end # addBasicFileInformation # 加入基本文件信息
+    
+    def writeStamp(rootPath) # 更新时间戳文件
+      directoryPathName=Pathname.new(rootPath) #构造路径名字对象。
+      datastore=  "#{directoryPathName.expand_path}/.exzstamp"  # 配置文件路径
+      puts "writing stamp file: #{datastore}" # Debug
+      
+      #stamp = wholeCbor['timestamp'] # 获取时间戳
+      stampCbor={} # 时间戳对象。
+      stampCbor['timestamp']= @processTimestamp # 设置时间戳。
+      
+      compressed= stampCbor.to_cbor  
+      
+      extremeZipOutputFile = File.new(datastore, 'wb') # 创建文件
+      extremeZipOutputFile.syswrite(compressed) # 写入文件
+      extremeZipOutputFile.close # 关闭文件
+      
+    end # writeStamp # 更新时间戳文件
+    
+    def loadStamp(rootPath) # 读取时间戳阈值。
+      stamp=0 # 默认值。
+      fileExists=false # 文件是否存在
+      
+      directoryPathName=Pathname.new(rootPath) #构造路径名字对象。
+        
+      isFile=directoryPathName.file? #是否是文件。
+
+      unless isFile #是文件就跳过。 
+        #陈欣
+        
+        datastore=  "#{directoryPathName.expand_path}/.exzstamp"  # 配置文件路径
+        puts "reading stamp file: #{datastore}" # Debug
+        
+        begin # 尝试读取。
+          
+          #陈欣
+          
+          currentBlockFile = File.new(datastore, 'rb') # 打开文件
+          
+          fileExists=true # 文件存在
+
+          stampFileContent = currentBlockFile.read # 读取全部内容
+
+          currentBlockFile.close # 关闭文件
+          
+          options = {:tolerant => true}
+
+          wholeCbor = CBOR.decode(stampFileContent, options) # 解码
+          
+          puts wholeCbor # Debug
+          puts wholeCbor.inspect # Debug
+            
+          stamp ||= wholeCbor['timestamp'] # 获取时间戳
+          #stamp = wholeCbor.try(:[], 'timestamp') # 获取时间戳
+          
+          
+        rescue Errno::ENOENT, TypeError
+
+        end
+
+        
+      end #unless isFile #是文件就跳过。 
+      
+      return stamp, fileExists # 返回时间戳。
+    end #loadStamp(rootPath) # 读取时间戳阈值。
 
     # 压缩
     def exz(rootPath)
-        victoriaFresh, = @clipDownloader.checkOnce(rootPath) # 打包该目录树。
+      timestampTHreshold, fileExists=loadStamp(rootPath) # 读取时间戳阈值。
+      
+      #陈欣
+      
+      if (timestampTHreshold > 0) # 有效的时间戳
+        @clipDownloader.timestampThreshold=timestampTHreshold # 设置文件时间戳阈值。
+      end #if (timestampTHreshold > 0) # 有效的时间戳
+      
+      if fileExists # 存在文件，则表明将要发生增量压缩
+        @wholeCbor['incremental']=true # 是增量压缩。
+        
+      end # if fileExists # 存在文件，则表明用户要求增量压缩
 
-        @filePartAmount = @clipDownloader.currentDiskFlushSuffix # 获取文件个数
+      @wholeCbor['timestamp']=@processTimestamp # 记录进程启动的时间戳。
+      
+      victoriaFresh, = @clipDownloader.checkOnce(rootPath) # 打包该目录树。
 
-        compressVfsMenu(victoriaFresh) # 压缩目录数据。
+      @filePartAmount = @clipDownloader.currentDiskFlushSuffix # 获取文件个数
 
-        addBasicFileInformation # 加入基本文件信息
+      compressVfsMenu(victoriaFresh) # 压缩目录数据。
 
-        processIdList, responsePipeList = launchSubProcesses # 启动子进程。
+      addBasicFileInformation # 加入基本文件信息
 
-        receiveCompressedVfsDataList(processIdList, responsePipeList) # 接收压缩后的数据块列表
+      processIdList, responsePipeList = launchSubProcesses # 启动子进程。
 
-        checkMemoryUsage(155)
-        @wholeCbor['vfsDataList'] = @vfsDataList # 加入数据
+      receiveCompressedVfsDataList(processIdList, responsePipeList) # 接收压缩后的数据块列表
 
-        wholeFileContent = 'exz' + "\0" + @wholeCbor.to_cbor # 追加CBOR字节数组
+      checkMemoryUsage(155)
+      @wholeCbor['vfsDataList'] = @vfsDataList # 加入数据
+
+      wholeFileContent = 'exz' + "\0" + @wholeCbor.to_cbor # 追加CBOR字节数组
         
-        vfsDataListStart=wholeFileContent.length # 按照现在的序列化情况，计算出来的起始位置。
+      vfsDataListStart=wholeFileContent.length # 按照现在的序列化情况，计算出来的起始位置。
         
-        while (vfsDataListStart!=@wholeCbor['vfsDataListStart']) # 计算出的偏移不一致
-          @wholeCbor['vfsDataListStart']=vfsDataListStart # 使用新的值
-          wholeFileContent = 'exz' + "\0" + @wholeCbor.to_cbor # 追加CBOR字节数组
-          vfsDataListStart=wholeFileContent.length # 按照现在的序列化情况，计算出来的起始位置。          
-        end
+      while (vfsDataListStart!=@wholeCbor['vfsDataListStart']) # 计算出的偏移不一致
+        @wholeCbor['vfsDataListStart']=vfsDataListStart # 使用新的值
+        wholeFileContent = 'exz' + "\0" + @wholeCbor.to_cbor # 追加CBOR字节数组
+        vfsDataListStart=wholeFileContent.length # 按照现在的序列化情况，计算出来的起始位置。          
+      end
 
-        # 写入文件：
-        writeFile(wholeFileContent, victoriaFresh) # 写入文件内容
+      # 写入文件：
+      writeFile(wholeFileContent, victoriaFresh) # 写入文件内容
         
-        appendVfsDataList victoriaFresh # 追加压缩块列表数据。
+      appendVfsDataList victoriaFresh # 追加压缩块列表数据。
+      
+      if fileExists # 存在文件，则表明将要发生增量压缩
+        writeStamp (rootPath) # 更新时间戳文件
+      end # if fileExists # 存在文件，则表明用户要求增量压缩
+      
     end # def exz(rootPath)
     
     # 写入压缩块文件
     def writeCompressBlock(compressed, processCounter) 
-        extremeZipOutputFile = File.new("comressed.#{processCounter}.cex", 'wb') # 创建文件
-        extremeZipOutputFile.syswrite(compressed) # 写入文件
-        extremeZipOutputFile.close # 关闭文件
+      extremeZipOutputFile = File.new("comressed.#{processCounter}.cex", 'wb') # 创建文件
+      extremeZipOutputFile.syswrite(compressed) # 写入文件
+      extremeZipOutputFile.close # 关闭文件
     end
     
     # 追加压缩块列表数据。
     def appendVfsDataList (victoriaFresh)
-        extremeZipOutputFile = File.new("#{victoriaFresh['name']}.exz", 'ab') # 打开文件
+      extremeZipOutputFile = File.new("#{victoriaFresh['name']}.exz", 'ab') # 打开文件
         
-        processCounter=0 # 块计数器。
+      processCounter=0 # 块计数器。
         
-        @wholeCbor['vfsDataList'].each do
+      @wholeCbor['vfsDataList'].each do
         #extremeZipOutputFile = File.new("comressed.#{processCounter}.cex", 'wb') # 创建文件
 
         currentBlockFile = File.new("comressed.#{processCounter}.cex", 'rb') # 打开文件
@@ -112,17 +198,18 @@ class ExtremeZip
         wholeFileContent = currentBlockFile.read # 读取全部内容
 
         currentBlockFile.close # 关闭文件
+        File.delete(currentBlockFile) # 删除数据块文件
 
           #wholeFileContent=File.read("comressed.#{processCounter}.cex", 'rb') # 读取压缩块。
           
-          puts "wirte file contetn length: #{wholeFileContent.length}" # Debghu
+        puts "wirte file contetn length: #{wholeFileContent.length}" # Debghu
           
-          extremeZipOutputFile.syswrite(wholeFileContent) # 写入文件
+        extremeZipOutputFile.syswrite(wholeFileContent) # 写入文件
           
-          processCounter += 1 # 计数
-        end
+        processCounter += 1 # 计数
+      end
         
-        extremeZipOutputFile.close # 关闭文件
+      extremeZipOutputFile.close # 关闭文件
     end
 
     # 写入文件内容
@@ -168,7 +255,7 @@ class ExtremeZip
 
         currentBlockFile.close # 关闭文件
 
-        #File.delete(currentBlockFile) # 删除数据块文件
+        File.delete(currentBlockFile) # 删除数据块文件
 
         currentBlockData
     end
@@ -177,11 +264,8 @@ class ExtremeZip
     def schedule1Block(filePartCounter)
         currentBlockData = readBlockFile(filePartCounter) # 读取块文件内容
 
-        # currentTaskPipe = Cod.pipe # 任务分配管道
         currentResponsePipe = Cod.pipe # 任务回复管道
 
-        puts("forking sub process, file part counter: #{filePartCounter}") # Debug.
-
         p1 = fork do # 复制出子进程
             compressInSubProcess(currentBlockData, currentResponsePipe) # 在子进程中具体执行的压缩代码
         end # p1 = fork do #复制出子进程
@@ -202,11 +286,8 @@ class ExtremeZip
 
     # 启动子进程。
     def launchSubProcesses
-
-        #while ((@filePartCounter < @filePartAmount) && (true)) # 未处理完毕，并且未达到最大子进程个数
         while ((@filePartCounter < @filePartAmount) && (@filePartCounter<@maxSubProcessAmount)) # 未处理完毕，并且未达到最大子进程个数
             currentResponsePipe, p1 = schedule1Block(@filePartCounter) # 计划一个块的压缩计算
-
         end # while processDataLength < victoriaFreshData.byte_size do #未处理完毕
 
         [@processIdList, @responsePipeList]

metadata

@@ -1,14 +1,14 @@
 --- !ruby/object:Gem::Specification
 name: EXtremeZip
 version: !ruby/object:Gem::Version
-  version: 2022.2.5
+  version: 2022.2.21
 platform: ruby
 authors:
 - Hxcan Cai
 autorequire:
 bindir: bin
 cert_chain: []
-date: 2022-02-04 00:00:00.000000000 Z
+date: 2022-02-19 00:00:00.000000000 Z
 dependencies:
 - !ruby/object:Gem::Dependency
   name: cod
@@ -86,20 +86,20 @@ dependencies:
     requirements:
     - - "~>"
       - !ruby/object:Gem::Version
-        version: 2022.1.27
+        version: 2022.2.20
     - - ">="
       - !ruby/object:Gem::Version
-        version: 2022.1.27
+        version: 2022.2.20
   type: :runtime
   prerelease: false
   version_requirements: !ruby/object:Gem::Requirement
     requirements:
     - - "~>"
       - !ruby/object:Gem::Version
-        version: 2022.1.27
+        version: 2022.2.20
     - - ">="
       - !ruby/object:Gem::Version
-        version: 2022.1.27
+        version: 2022.2.20
 - !ruby/object:Gem::Dependency
   name: hx_cbor
   requirement: !ruby/object:Gem::Requirement