VictoriaFreSh 2020.8.31 → 2021.4.19

checksums.yaml

@@ -1,7 +1,7 @@
 ---
 SHA256:
-  metadata.gz: 99215cc9a7204a11d468653634860ed7222a8448550e4aa4daab5a39ddc6bde3
-  data.tar.gz: 1456293d1e0a810f7eaa71006b9ac5eedbfece62686b5aec36e5d18960c1e62b
+  metadata.gz: 1f8a1b21b33f86f42e6c3712cca0f5a7ec76e2c060493df051609e476b20a2df
+  data.tar.gz: 326eafeb9d1f68828348edde6c0b7f7fbb9876c5e4affe8e463fdd2e89662245
 SHA512:
-  metadata.gz: 5eb6776e38f7156f29fd1f494956e358079faddc20237b106a3391a30d81e5fa627b041500fc4c8cdcf516064974116ce005abf86250bcae8f853be70db3f5fc
-  data.tar.gz: 85de65cc4cab55bdf7abc1034efa844b04481d3add31bcb8b8979774e0fd7d3c641c749c55f348503748447dd022084190e42de34e6e27546a9de9bf907c6b8d
+  metadata.gz: d8e1eae45302abf8da5fd780fdedecc449f80668022b5310b7e77a2c6ebb4ea0e98f2395e16ceef3a975973f25a87b945d8840d541cf935d86ae1d58c74ce7a4
+  data.tar.gz: f75da9a9c352ba6511a0c35f3e21cd0f66e2c771b7c91f15f81795ddff1b5d6b69ba38b84ba2e4dfe8fb6952484c5c3c012827b46ebc69b2e8571a4a4c9cc1ec

data/lib/victoriafresh.rb

@@ -3,14 +3,41 @@
 require 'pathname'
 require 'fileutils'
 require 'cbor'
+require 'get_process_mem'
 
 # require File.dirname(__FILE__)+'/VictoriaFreSh/filemessage_pb.rb'
 
 class VictoriaFresh
+    attr_accessor :diskFlushSize #累积了这么多的数据就向磁盘写入，以减少内存占用
+    attr_accessor :diskFileName #向磁盘写入数据时的文件名或前缀
+    attr_accessor :diskMultiFile #向磁盘写入时，是否要写多个文件 
+    attr_accessor :diskFlush #要提前磁盘写入文件，以节省内存吗？
+    attr_accessor :currentDiskFlushSuffix #当前的文件后缀。也等价于已经写入的文件片段个数
+    
+    def initialize
+        @diskFlush=false #要向磁盘写入文件
+        @diskFlushSize=143212 #磁盘分块大小
+        @diskFileName='victoriafreshdata.v'  #磁盘文件名
+        @diskMultiFile=false #磁盘整个文件，不是多个文件
+        @diskWriteFileObject={} #向磁盘写入文件的对象
+        @contentString="" #内容字符串
+        @contentPartArray=[] #内容片段数组
+        @currentDiskFlushSuffix=0 #当前的磁盘文件后缀
+        @bufferLength=0 #缓冲区总长度
+    end
+    
+    def checkMemoryUsage(lineNumber)
+        mem= GetProcessMem.new
+        
+        puts("#{lineNumber} ,  Memory: #{mem.mb}"); #Debug
+        
+    end #def checkMemoryUsage
+    
+    
     def releaseFiles(victoriaFreshPackagedFileString, contentString) #释放目录树
-#         packagedFile=Com::Stupidbeauty::Victoriafresh::FileMessage.decode(victoriaFreshPackagedFileString) #解码文件消息对象。
+        #         packagedFile=Com::Stupidbeauty::Victoriafresh::FileMessage.decode(victoriaFreshPackagedFileString) #解码文件消息对象。
         packagedFile=CBOR.decode(victoriaFreshPackagedFileString) #解码
-
+        
         
         puts packagedFile #Debug
         
@@ -39,7 +66,7 @@ class VictoriaFresh
         elsif #带权限字段
             File.chmod(permissionNumber, pathToMake) #设置权限
         end #if (permissionNumber.nil?) #不带权限字段
-
+        
     end #writeFile(pathPrefix, packagedFile, contentString) #写入文件
     
     #创建符号链接
@@ -49,12 +76,12 @@ class VictoriaFresh
         
         pathToMake=pathPrefix + '/' + packagedFile['name'] #构造文件名
         
-#         victoriaFreshDataFile=File.new(pathToMake , "wb") #数据文件。
-#         victoriaFreshDataFile.syswrite(victoriaFreshData) #写入文件。
-#         victoriaFreshDataFile.close #关闭文件。
-#         
-#         FileUtils.touch pathToMake, :mtime => timeObject #设置修改时间
-
+        #         victoriaFreshDataFile=File.new(pathToMake , "wb") #数据文件。
+        #         victoriaFreshDataFile.syswrite(victoriaFreshData) #写入文件。
+        #         victoriaFreshDataFile.close #关闭文件。
+        #         
+        #         FileUtils.touch pathToMake, :mtime => timeObject #设置修改时间
+        
         puts("data: #{victoriaFreshData}, path: #{pathToMake}") #Debug
         
         FileUtils.symlink(victoriaFreshData, pathToMake, force: true) #创建符号链接
@@ -63,39 +90,41 @@ class VictoriaFresh
         
         if (permissionNumber.nil?) #不带权限字段
         elsif #带权限字段
-#             File.chmod(permissionNumber, pathToMake) #设置权限
-            File.lchmod(permissionNumber, pathToMake) #设置权限
+            #             File.chmod(permissionNumber, pathToMake) #设置权限
+            begin #尝试修改链接本身的权限
+                File.lchmod(permissionNumber, pathToMake) #设置权限
+            rescue NotImplementedError #未实现
+                puts 'File.lchmod not implemented' #Debug
+            end #begin #尝试修改链接本身的权限
         end #if (permissionNumber.nil?) #不带权限字段
     end #def makeSymlink(pathPrefix, packagedFile, contentString) #创建符号链接
     
     def getTimeObject(packagedFile) #构造时间戳对象
-#         seconds=packagedFile.timestamp.seconds #获取秒数
+        #         seconds=packagedFile.timestamp.seconds #获取秒数
         seconds=packagedFile['timestamp']['seconds'] #获取秒数
-
-#         microSeconds=packagedFile.timestamp.nanos/ 1000.0 #获取毫秒数
+        
+        #         microSeconds=packagedFile.timestamp.nanos/ 1000.0 #获取毫秒数
         microSeconds=packagedFile['timestamp']['nanos'] / 1000.0 #获取毫秒数
         
         timeObject=Time.at(seconds, microSeconds) #构造时间对象
-
+        
     end #getTimeObject(packagedFile) #构造时间戳对象
     
     def makeDirectory(pathPrefix, packagedFile) #创建目录
         timeObject=getTimeObject(packagedFile) #构造时间戳对象
-
         
-        puts 'mkdir' #Debug
         
-#         pathToMake=File.join(pathPrefix, packagedFile.name)
+        #         puts 'mkdir' #Debug
         pathToMake=File.join(pathPrefix, packagedFile['name'])
         
-        puts  pathToMake #Debug.
+        #         puts  pathToMake #Debug.
         
         if (Dir.exist?(pathToMake)) #目录已经存在
         else #目录 不存在
             Dir.mkdir(pathToMake) #=> 0
         end #if (Dir.exist?(pathToMake)) #目录已经存在
         
-
+        
         FileUtils.touch pathToMake, :mtime => timeObject #设置修改时间
         
         permissionNumber=packagedFile['permission'] #获取权限数字
@@ -107,25 +136,15 @@ class VictoriaFresh
     end #makeDirectory(pathPrefix, packagedFile) #创建目录
     
     def releaseFile( pathPrefix, packagedFile, contentString) #释放一个文件 
-#         puts packagedFile.name #Debug
-        puts packagedFile['name'] #Debug
-        puts("content stirng length: #{contentString.bytesize}") #Debug
-#         puts packagedFile.timestamp #Debug
-        puts packagedFile['timestamp'] #Debug
-        
-#         if packagedFile.is_file #是文件，则直接写入文件
         if packagedFile['is_file'] #是文件，则直接写入文件
             writeFile(pathPrefix, packagedFile, contentString) #写入文件
         elsif packagedFile['is_symlink'] #是符号链接，则创建符号链接
             makeSymlink(pathPrefix, packagedFile, contentString) #创建符号链接
-#             writeFile(pathPrefix, packagedFile, contentString) #写入文件
         else #是目录，则创建目录，并递归处理
             makeDirectory(pathPrefix, packagedFile) #创建目录
             
-#             direcotryPathPrefix=pathPrefix  + '/' + packagedFile.name #构造针对该目录的路径前缀
             direcotryPathPrefix=pathPrefix  + '/' + packagedFile['name'] #构造针对该目录的路径前缀
             
-#             subFiles=packagedFile.sub_files #获取子文件列表。
             subFiles=packagedFile['sub_files'] #获取子文件列表。
             
             subFiles.each do |currentSubFile| #一个个子文件地释放
@@ -135,88 +154,187 @@ class VictoriaFresh
         end #if packagedFile.is_file #是文件，则直接写入文件
     end #def releaseFile(packagedFile, contentString) #释放一个文件 
     
-  def checkOnce(directoryPath,startIndex=0) #打包一个目录树。
-    packagedFile={} #创建文件消息对象。
-
-    packagedFile['sub_files'] = [] #加入到子文件列表中。
-    
-    directoryPathName=Pathname.new(directoryPath) #构造路径名字对象。
-    
-    baseName=directoryPathName.basename.to_s #基本文件名。
-    
-    packagedFile['name']=baseName #设置文件名。
-    
-    isFile=directoryPathName.file? #是否是文件。
-    isSymLink=directoryPathName.symlink? #是否是符号链接
-
-    packagedFile['is_file']=isFile #设置属性，是否是文件。
-    packagedFile['file_start_index']=startIndex #记录文件内容的开始位置。
-    
-    packagedFile['is_symlink']=isSymLink #设置属性，是否是符号链接
-
-    puts directoryPath #Dbug.
-    
-    #记录时间戳：
-    begin #读取时间戳
-        mtimeStamp=File.mtime(directoryPath) #获取时间戳
+    #考虑是否要向磁盘先输出内容
+    def assessDiskFlush(layer, isFinalPart=false)
+        if (@diskFlush) #要做磁盘写入
+            if (@bufferLength>=@diskFlushSize) #缓冲区总长度已经超过需要的文件长度
+                @contentString = @contentPartArray.join #重组成整个字符串
+                
+                    @contentPartArray.clear #清空数组
+                    
+                    while (@contentString.length >= @diskFlushSize) #还有内容要写入
+                        contentToWrite=@contentString[0, @diskFlushSize] #取出开头的一段
+                        
+                        @contentString=@contentString[@diskFlushSize, @contentString.length-@diskFlushSize] #留下剩余的部分
+                        
+                            if (@diskMultiFile) #多个磁盘文件
+                                @diskWriteFileObject=File.new(@diskFileName+@currentDiskFlushSuffix.to_s, 'wb') #打开文件
+                                
+                                @currentDiskFlushSuffix=@currentDiskFlushSuffix+1 #增加计数
+                                
+                                @diskWriteFileObject.syswrite(contentToWrite) #写入内容
+                                
+                                @diskWriteFileObject.close
+                            else #单个磁盘文件
+                                
+                                @diskWriteFileObject.syswrite(contentToWrite) #写入内容
+                                
+                                @diskWriteFileObject.flush #写入磁盘
+                            end #@currentDiskFlushSuffix
+                    end #while (contentString.length >= @diskFlushSize) #还有内容要写入
+                    
+                    @contentPartArray << @contentString #剩余部分重新加入数组中
+                    @bufferLength=@contentString.length #重新记录缓冲区总长度
+            end #if (bufferLength>=@diskFlushSize) #缓冲区总长度已经超过需要的文件长度
+            
+            if (isFinalPart) #是最后一部分
+                                @contentString = @contentPartArray.join #重组成整个字符串
 
-        packagedFile['timestamp']={} #时间戳
-        packagedFile['timestamp']['seconds']=mtimeStamp.tv_sec #设置秒数
-        packagedFile['timestamp']['nanos']=mtimeStamp.tv_nsec #设置纳秒数
-        
-        packagedFile['permission']=(File.stat(directoryPath).mode & 07777 ) #设置权限信息
-    rescue Errno::ENOENT
-    rescue Errno::EACCES #权限受限
-    end #begin #读取时间戳
+                @contentPartArray.clear #清空字符串数组
+                @bufferLength=0 #缓冲区长度归零
+                
+                contentToWrite=@contentString #要写入的内容
+                
+                @contentString="" #字符串清空
+                
+                    if (@diskMultiFile) #多个磁盘文件
+                        @diskWriteFileObject=File.new(@diskFileName+@currentDiskFlushSuffix.to_s, 'wb') #打开文件
+                        
+                        @currentDiskFlushSuffix=@currentDiskFlushSuffix+1 #增加计数
+                        
+                        @diskWriteFileObject.syswrite(contentToWrite) #写入内容
+                        
+                        @diskWriteFileObject.close
+                        
+                        
+                    else #单个磁盘文件
+                        @diskWriteFileObject.syswrite(contentToWrite) #写入内容
+                        
+                        @diskWriteFileObject.close #关闭文件
+                        
+                    end #if (@diskMultiFile) #多个磁盘文件
+            end #if (isFinalPart) #是最后一部分
+        end #if (@diskFlush) #要做磁盘写入
+    end #contentString= assessDiskFlush(contentString) #考虑是否要向磁盘先输出内容
     
-    if (isFile) #是文件，不用再列出其子文件了。
-      packagedFile['file_length']=directoryPathName.size #记录文件的内容长度。
-      
-      #读取文件内容：
-      fileToReadContent=File.new(directoryPath,"rb") #创建文件。
-      contentString=fileToReadContent.read #全部读取。
-      
-#       puts("encoding: #{contentString.encoding}") #Debug.
-    elsif (isSymLink) #是符号链接
-#                   puts("sub file: #{directoryPathName}, class: #{directoryPathName.class}, symlink: #{directoryPathName.symlink?}, expand_path: #{directoryPathName.expand_path}, file?: #{directoryPathName.file?}, read link: #{directoryPathName.readlink}") #Debug.
-                  
-                  linkTarget=directoryPathName.readlink #获取链接目标
-
-#         待续，设置内容长度。符号链接字符串的长度
-      packagedFile['file_length']=linkTarget.to_s.bytesize #记录文件的内容长度。
-      
-      #读取文件内容：
-#       fileToReadContent=File.new(directoryPath,"rb") #创建文件。
-      contentString=StringIO.new(linkTarget.to_s).binmode.read #全部读取。
-#       contentString=linkTarget.to_s.encode('UTF-8') #全部读取。
-      puts("encoding: #{contentString.encoding}") #Debug.
-      puts("content string: #{contentString}") #Debug
-    else #是目录。
-      contentString="" #容纳内容的字符串。
-      subFileStartIndex=startIndex #子文件的起始位置，以此目录的起始位置为基准。
-
-#       packagedFile.file_length=0 #本目录的内容长度。
-      packagedFile['file_length']=0 #本目录的内容长度。
-
-      directoryPathName.each_child do |subFile| #一个个文件地处理。
-#           puts("sub file: #{subFile}, class: #{subFile.class}, symlink: #{subFile.symlink?}, expand_path: #{subFile.expand_path}, file?: #{subFile.file?}") #Debug.
-        realPath=subFile.expand_path #获取绝对路径。
+    def checkOnce(directoryPath, startIndex=0, layer=0) #打包一个目录树。
+        if (@diskFlush) #要向磁盘写入文件
+            if (layer==0) #最外层
+                if (@diskMultiFile) #要写多个文件 
+                else #不写多个文件
+                    @diskWriteFileObject=File.new(@diskFileName, 'wb') #打开文件
+                end #if (@diskMultiFile) #要写多个文件 
+            end #if (layer==0) #最外层
+        end #if (@diskFlush) #要向磁盘写入文件s
         
-        packagedSubFile,subFileContent=checkOnce(realPath,subFileStartIndex) #打包这个子文件。
+        packagedFile={} #创建文件消息对象。
         
-        packagedFile['sub_files'] << packagedSubFile #加入到子文件列表中。
+        packagedFile['sub_files'] = [] #加入到子文件列表中。
         
-#         puts("sub file content: #{subFileContent}") #Debug
+        directoryPathName=Pathname.new(directoryPath) #构造路径名字对象。
         
-        contentString = contentString + subFileContent #串接文件内容。
+        baseName=directoryPathName.basename.to_s #基本文件名。
         
-        subFileStartIndex+=packagedSubFile['file_length'] #记录打包的子文件的长度，更新下一个要打包的子文件的起始位置。
+        packagedFile['name']=baseName #设置文件名。
         
-        packagedFile['file_length']+=packagedSubFile['file_length'] #随着子文件的打包而更新本目录的总长度。
-      end #directoryPathName.each_child do |subFile| #一个个文件地处理。
-    end #if (isFile) #是文件，不用再列出其子文件了。
-    
-    return packagedFile,contentString #返回打包之后的对象。和文件内容字节数组。
-  end #def downloadOne #下载一个视频。
+        isFile=directoryPathName.file? #是否是文件。
+        isSymLink=directoryPathName.symlink? #是否是符号链接
+        
+        packagedFile['is_file']=isFile #设置属性，是否是文件。
+        packagedFile['file_start_index']=startIndex #记录文件内容的开始位置。
+        
+        packagedFile['is_symlink']=isSymLink #设置属性，是否是符号链接
+        
+        puts directoryPath #Dbug.
+        
+        #记录时间戳：
+        begin #读取时间戳
+            mtimeStamp=File.mtime(directoryPath) #获取时间戳
+            
+            packagedFile['timestamp']={} #时间戳
+            packagedFile['timestamp']['seconds']=mtimeStamp.tv_sec #设置秒数
+            packagedFile['timestamp']['nanos']=mtimeStamp.tv_nsec #设置纳秒数
+            
+            packagedFile['permission']=(File.stat(directoryPath).mode & 07777 ) #设置权限信息
+        rescue Errno::ENOENT
+        rescue Errno::EACCES #权限受限
+        end #begin #读取时间戳
+        
+        if (isFile) #是文件，不用再列出其子文件了。
+            packagedFile['file_length']=directoryPathName.size #记录文件的内容长度。
+            
+            #读取文件内容：
+            fileToReadContent=File.new(directoryPath,"rb") #创建文件。
+            currentFileContent=fileToReadContent.read #全部读取
+            @contentPartArray <<  currentFileContent
+            @bufferLength=@bufferLength+ currentFileContent.length #记录缓冲区总长度
+            #       @contentString= @contentString +  fileToReadContent.read #全部读取。
+            
+            assessDiskFlush(layer) #考虑是否要向磁盘先输出内容
+        elsif (isSymLink) #是符号链接
+            linkTarget=directoryPathName.readlink #获取链接目标
+            
+            #         待续，设置内容长度。符号链接字符串的长度
+            packagedFile['file_length']=linkTarget.to_s.bytesize #记录文件的内容长度。
+            
+            #读取文件内容：
+            #       fileToReadContent=File.new(directoryPath,"rb") #创建文件。
+            currentFileContent=StringIO.new(linkTarget.to_s).binmode.read #全部读取。
+            @contentPartArray << currentFileContent #加入数组
+            @bufferLength=@bufferLength + currentFileContent.length #记录缓冲区总长度
+            #       @contentString= @contentString + StringIO.new(linkTarget.to_s).binmode.read #全部读取。
+            
+            assessDiskFlush(layer) #考虑是否要向磁盘先输出内容
+            
+        else #是目录。
+            #       contentString="" #容纳内容的字符串。
+            subFileStartIndex=startIndex #子文件的起始位置，以此目录的起始位置为基准。
+            
+            packagedFile['file_length']=0 #本目录的内容长度。
+            
+            directoryPathName.each_child do |subFile| #一个个文件地处理。
+                #           puts("sub file: #{subFile}, class: #{subFile.class}, symlink: #{subFile.symlink?}, expand_path: #{subFile.expand_path}, file?: #{subFile.file?}") #Debug.
+                #     checkMemoryUsage(221)
+                realPath=subFile.expand_path #获取绝对路径。
+                
+                packagedSubFile,subFileContent=checkOnce(realPath,subFileStartIndex, layer+1) #打包这个子文件。
+                
+                packagedFile['sub_files'] << packagedSubFile #加入到子文件列表中。
+                
+                #         puts("sub file content: #{subFileContent}, nil?: #{subFileContent.nil?}" ) #Debug
+                
+                #             puts(" content: #{contentString}, nil?: #{contentString.nil? }") #Debug
+                
+                #         contentString = contentString + subFileContent #串接文件内容。
+                
+                assessDiskFlush(layer) #考虑是否要向磁盘先输出内容
+                
+                
+                subFileStartIndex+=packagedSubFile['file_length'] #记录打包的子文件的长度，更新下一个要打包的子文件的起始位置。
+                
+                #         puts("237, content string length: #{contentString.length}") #Debug
+                
+                packagedFile['file_length']+=packagedSubFile['file_length'] #随着子文件的打包而更新本目录的总长度。
+            end #directoryPathName.each_child do |subFile| #一个个文件地处理。
+        end #if (isFile) #是文件，不用再列出其子文件了。
+        
+        #                 puts("300, contentString: #{contentString}, nil?: #{contentString.nil?}, direcotry path: #{directoryPath}, layer: #{layer}") #Debug
+        
+        
+        #                 puts("302, contentString: #{contentString}, nil?: #{contentString.nil?}, direcotry path: #{directoryPath}, layer: #{layer}") #Debug
+        
+        contentToResult="" #要返回的内容
+        
+        if (layer==0) #是最外层
+            assessDiskFlush(layer, true) #考虑是否要向磁盘先输出内容
+            
+            if (@diskFlush) #要向磁盘写入缓存内容
+            else #不向磁盘写入缓存内容
+                contentToResult=@contentPartArray.join #重新合并成字符串
+                
+            end #if (@diskFlush) #要向磁盘写入缓存内容
+        end #if (layer==0) #是最外层
+        return packagedFile, contentToResult #返回打包之后的对象。和文件内容字节数组。
+    end #def downloadOne #下载一个视频。
 end
 

data/victoriafresh.example.rb

@@ -9,6 +9,11 @@ else #指定了命令行参数。
   
   $clipDownloader=VictoriaFresh.new #创建下载器。
 
+  $clipDownloader.diskFlush=false #不向磁盘写入缓存
+  $clipDownloader.diskMultiFile=true #写多个磁盘文件
+  $clipDownloader.diskFileName='victoriafreshdata.v.' #磁盘文件名前缀
+  $clipDownloader.diskFlushSize=32*1024*1024 #磁盘文件大小
+  
   victoriaFresh,victoriaFreshData=$clipDownloader.checkOnce($rootPath) #打包该目录树。
   
   #利用protobuf打包成字节数组：

metadata

@@ -1,14 +1,14 @@
 --- !ruby/object:Gem::Specification
 name: VictoriaFreSh
 version: !ruby/object:Gem::Version
-  version: 2020.8.31
+  version: 2021.4.19
 platform: ruby
 authors:
 - Hxcan Cai
 autorequire: 
 bindir: bin
 cert_chain: []
-date: 2020-08-31 00:00:00.000000000 Z
+date: 2021-04-17 00:00:00.000000000 Z
 dependencies:
 - !ruby/object:Gem::Dependency
   name: cbor