VictoriaFreSh 2021.7.30 → 2022.1.8

checksums.yaml

@@ -1,7 +1,7 @@
 ---
 SHA256:
-  metadata.gz: 68a7f71cfa42efd3573dd7298e0d579b45e4d6af7e46d8fbd7b15cae24c8c89b
-  data.tar.gz: 9128f0401e38595100de90f021d58958f531b37fea424db7df50a8b1bf9eb7f1
+  metadata.gz: 41105b47d70e0d767e72badf4280f170ca7654668f344255b2718ce6a46f827c
+  data.tar.gz: 218bdf0c648500f0c518cc1f4d84515528ebbb7512dd0e876c1957bbe26414d6
 SHA512:
-  metadata.gz: a8914a283371b1c65cfc4a5e50bb63e5a5193fe3e112b5ebbf34b0e76ab2462768cc794a6e25bde45ac612999f8e92ec0c1e7e328d6ed3c1c9531510dcf647bf
-  data.tar.gz: 2094cec3f9179bf6cfdf621f8550c30d568e01082bbfae680b6ddab7f0a0cdfb55c647af8722c64b602bf73343f869adfece058a263d6afdcbf7ce9bac6734e3
+  metadata.gz: bea4abcee34ca2430ba9756e2ded00872c373c8ba2eff827a4d163d31556a5ec5bb793a2eb51a2bd65a4a8cfc1297174ed631756958b07de4bad8ae166f76d6b
+  data.tar.gz: 5bc98b7f1f12f007c2f38cd90fdee5c7f123576f8bf9780908ea2335a06afc01099745e9b47ac67f72e66eb0ee2fe2a37b1cc72b74ed447943eba661f6b0e003

data/lib/victoriafresh.rb

@@ -4,6 +4,7 @@ require 'pathname'
 require 'fileutils'
 require 'cbor'
 require 'get_process_mem'
+require 'digest'
 
 # require File.dirname(__FILE__)+'/VictoriaFreSh/filemessage_pb.rb'
 
@@ -25,6 +26,20 @@ class VictoriaFresh
         @currentDiskFlushSuffix=0 #当前的磁盘文件后缀
         @bufferLength=0 #缓冲区总长度
         @externalDataFile={} #外部数据文件对象
+        @nextFileIdToUse=1 # 下一个要用的文件编号。
+        @md5FileIdMap={} # MD5 与文件编号之间的映射
+    end
+    
+    # 计算文件内容的MD5。
+    def calculateMd5(currentFileContent) 
+      Digest::MD5.hexdigest currentFileContent      #=> "90015098..."
+    end
+    
+    # 下一个可用的文件编号
+    def nextFileId
+      result=@nextFileIdToUse # 结果
+      
+      @nextFileIdToUse=@nextFileIdToUse+1
     end
     
     def checkMemoryUsage(lineNumber)
@@ -320,8 +335,6 @@ class VictoriaFresh
                         @diskWriteFileObject.syswrite(contentToWrite) #写入内容
                         
                         @diskWriteFileObject.close
-                        
-                        
                     else #单个磁盘文件
                         @diskWriteFileObject.syswrite(contentToWrite) #写入内容
                         
@@ -375,21 +388,31 @@ class VictoriaFresh
         rescue Errno::EACCES #权限受限
         end #begin #读取时间戳
         
-        if (isFile) #是文件，不用再列出其子文件了。
+        if isFile #是文件，不用再列出其子文件了。
             packagedFile['file_length']=directoryPathName.size #记录文件的内容长度。
+            packagedFile['id']= nextFileId # 设置下一个文件编号
             
             #读取文件内容：
             fileToReadContent=File.new(directoryPath,"rb") #创建文件。
             currentFileContent=fileToReadContent.read #全部读取
-            @contentPartArray <<  currentFileContent
-            @bufferLength=@bufferLength+ currentFileContent.length #记录缓冲区总长度
-            #       @contentString= @contentString +  fileToReadContent.read #全部读取。
+            
+            currentContentMd5=calculateMd5(currentFileContent) # 计算文件内容的MD5。
+            
+            sameFileId=@md5FileIdMap[currentContentMd5] # 尝试寻找对应的相同文件的编号。
+            
+            if sameFileId.nil? # 不存在相同的文件
+              @contentPartArray <<  currentFileContent
+              @bufferLength=@bufferLength+ currentFileContent.length #记录缓冲区总长度
+              @md5FileIdMap[currentContentMd5]=packagedFile['id'] # 尝试寻找对应的相同文件的编号。
+            else # 存在相同的文件
+              packagedFile['is_duplicate']=true # 是重复文件。
+              packagedFile['same_file_id']=sameFileId # 设置相同文件的编号。
+            end # if sameFileId.nil? # 不存在相同的文件
             
             assessDiskFlush(layer) #考虑是否要向磁盘先输出内容
         elsif (isSymLink) #是符号链接
             linkTarget=directoryPathName.readlink #获取链接目标
             
-            #         待续，设置内容长度。符号链接字符串的长度
             packagedFile['file_length']=linkTarget.to_s.bytesize #记录文件的内容长度。
             
             #读取文件内容：
@@ -397,31 +420,23 @@ class VictoriaFresh
             currentFileContent=StringIO.new(linkTarget.to_s).binmode.read #全部读取。
             @contentPartArray << currentFileContent #加入数组
             @bufferLength=@bufferLength + currentFileContent.length #记录缓冲区总长度
-            #       @contentString= @contentString + StringIO.new(linkTarget.to_s).binmode.read #全部读取。
             
             assessDiskFlush(layer) #考虑是否要向磁盘先输出内容
-            
         else #是目录。
-            #       contentString="" #容纳内容的字符串。
             subFileStartIndex=startIndex #子文件的起始位置，以此目录的起始位置为基准。
             
             packagedFile['file_length']=0 #本目录的内容长度。
-            
+
+            puts "Listing for #{directoryPathName}" # Debug
+
             directoryPathName.each_child do |subFile| #一个个文件地处理。
-                #           puts("sub file: #{subFile}, class: #{subFile.class}, symlink: #{subFile.symlink?}, expand_path: #{subFile.expand_path}, file?: #{subFile.file?}") #Debug.
-                #     checkMemoryUsage(221)
+                begin
                 realPath=subFile.expand_path #获取绝对路径。
                 
                 packagedSubFile,subFileContent=checkOnce(realPath,subFileStartIndex, layer+1) #打包这个子文件。
                 
                 packagedFile['sub_files'] << packagedSubFile #加入到子文件列表中。
                 
-                #         puts("sub file content: #{subFileContent}, nil?: #{subFileContent.nil?}" ) #Debug
-                
-                #             puts(" content: #{contentString}, nil?: #{contentString.nil? }") #Debug
-                
-                #         contentString = contentString + subFileContent #串接文件内容。
-                
                 assessDiskFlush(layer) #考虑是否要向磁盘先输出内容
                 
                 
@@ -430,6 +445,9 @@ class VictoriaFresh
                 #         puts("237, content string length: #{contentString.length}") #Debug
                 
                 packagedFile['file_length']+=packagedSubFile['file_length'] #随着子文件的打包而更新本目录的总长度。
+                rescue Errno::EMFILE # File not exist
+                    puts "Rescued by Errno::EMFILE statement. #{subFile}" #报告错误
+                end
             end #directoryPathName.each_child do |subFile| #一个个文件地处理。
         end #if (isFile) #是文件，不用再列出其子文件了。
         

metadata

@@ -1,35 +1,29 @@
 --- !ruby/object:Gem::Specification
 name: VictoriaFreSh
 version: !ruby/object:Gem::Version
-  version: 2021.7.30
+  version: 2022.1.8
 platform: ruby
 authors:
 - Hxcan Cai
-autorequire: 
+autorequire:
 bindir: bin
 cert_chain: []
-date: 2021-07-30 00:00:00.000000000 Z
+date: 2022-01-08 00:00:00.000000000 Z
 dependencies:
 - !ruby/object:Gem::Dependency
-  name: cbor
+  name: hx_cbor
   requirement: !ruby/object:Gem::Requirement
     requirements:
-    - - "~>"
-      - !ruby/object:Gem::Version
-        version: 0.5.9
     - - ">="
       - !ruby/object:Gem::Version
-        version: 0.5.9.6
+        version: 2021.8.20
   type: :runtime
   prerelease: false
   version_requirements: !ruby/object:Gem::Requirement
     requirements:
-    - - "~>"
-      - !ruby/object:Gem::Version
-        version: 0.5.9
     - - ">="
       - !ruby/object:Gem::Version
-        version: 0.5.9.6
+        version: 2021.8.20
 - !ruby/object:Gem::Dependency
   name: get_process_mem
   requirement: !ruby/object:Gem::Requirement
@@ -50,14 +44,13 @@ executables: []
 extensions: []
 extra_rdoc_files: []
 files:
-- lib/VictoriaFreSh/filemessage_pb.rb
 - lib/victoriafresh.rb
 - victoriafresh.example.rb
 homepage: http://rubygems.org/gems/VictoriaFreSh
 licenses:
 - MIT
 metadata: {}
-post_install_message: 
+post_install_message:
 rdoc_options: []
 require_paths:
 - lib
@@ -72,8 +65,8 @@ required_rubygems_version: !ruby/object:Gem::Requirement
     - !ruby/object:Gem::Version
       version: '0'
 requirements: []
-rubygems_version: 3.0.3
-signing_key: 
+rubygems_version: 3.1.6
+signing_key:
 specification_version: 4
 summary: VictoriaFreSh
 test_files: []

data/lib/VictoriaFreSh/filemessage_pb.rb

@@ -1,24 +0,0 @@
-# Generated by the protocol buffer compiler.  DO NOT EDIT!
-# source: filemessage.proto
-
-require 'google/protobuf'
-
-require 'google/protobuf/timestamp_pb'
-Google::Protobuf::DescriptorPool.generated_pool.build do
-  add_message "com.stupidbeauty.victoriafresh.FileMessage" do
-    optional :name, :string, 1
-    repeated :sub_files, :message, 2, "com.stupidbeauty.victoriafresh.FileMessage"
-    optional :is_file, :bool, 3
-    optional :file_start_index, :int32, 5
-    optional :file_length, :int32, 6
-    optional :timestamp, :message, 8, "google.protobuf.Timestamp"
-  end
-end
-
-module Com
-  module Stupidbeauty
-    module Victoriafresh
-      FileMessage = Google::Protobuf::DescriptorPool.generated_pool.lookup("com.stupidbeauty.victoriafresh.FileMessage").msgclass
-    end
-  end
-end