VictoriaFreSh 2021.4.17 → 2021.4.18

checksums.yaml

@@ -1,7 +1,7 @@
 ---
 SHA256:
-  metadata.gz: 2c90c85569d4f2c8396f17754e03eb87e35c272b015397983c2afa9af9492ccf
-  data.tar.gz: e88f1ac7afb0ab584ed2973fcceec8701f379c0e5e7f0a22e3be07569799c63c
+  metadata.gz: 82c0c58d9b1daeffc9217b052959a5b67bf8547a2c51e58cb1fcfa4632fa1839
+  data.tar.gz: 341d862e0b92956637f54c8bd482e93e6ac0ad907a07c6532605008a4a5dc66a
 SHA512:
-  metadata.gz: 130b068d432a0199bab6ab093619e4c0e56f31a5437115138a767e719f62083fe07c45abd6cbb5f90661a99122ffa3a8efea57e815c42ccf007ecf7bc5b64e9a
-  data.tar.gz: 3c25711cbca993d774d5581f507c7087951304fcb3ae5dfb971ce0cfc93f58b7364c28108e56be3976dffd884d9f7d68dbd9290967fe3293954f03e095bca05c
+  metadata.gz: 3dbc4bc708a277f8d2d4b5277aecd1ba9c5ecd5f3075dcf2d7ac68849bd526e0ef821e747b140fd82aa3f1b6f61860a30dc737dc57b75470eea635a49d412f41
+  data.tar.gz: 33db88a60ea8c9fd03562089312df3e6ddda6bfc41517d29177586a541278871e58075b4b9af057838935f8f089c3727373a682afc79a449a53de5b4377f34d8

data/lib/victoriafresh.rb

@@ -21,20 +21,22 @@ class VictoriaFresh
         @diskWriteFileObject={} #向磁盘写入文件的对象
         @contentString="" #内容字符串
         @contentPartArray=[] #内容片段数组
+        @currentDiskFlushSuffix=0 #当前的磁盘文件后缀
+        @bufferLength=0 #缓冲区总长度
     end
     
     def checkMemoryUsage(lineNumber)
-            mem= GetProcessMem.new
-    
+        mem= GetProcessMem.new
+        
         puts("#{lineNumber} ,  Memory: #{mem.mb}"); #Debug
-
+        
     end #def checkMemoryUsage
-
+    
     
     def releaseFiles(victoriaFreshPackagedFileString, contentString) #释放目录树
-#         packagedFile=Com::Stupidbeauty::Victoriafresh::FileMessage.decode(victoriaFreshPackagedFileString) #解码文件消息对象。
+        #         packagedFile=Com::Stupidbeauty::Victoriafresh::FileMessage.decode(victoriaFreshPackagedFileString) #解码文件消息对象。
         packagedFile=CBOR.decode(victoriaFreshPackagedFileString) #解码
-
+        
         
         puts packagedFile #Debug
         
@@ -63,7 +65,7 @@ class VictoriaFresh
         elsif #带权限字段
             File.chmod(permissionNumber, pathToMake) #设置权限
         end #if (permissionNumber.nil?) #不带权限字段
-
+        
     end #writeFile(pathPrefix, packagedFile, contentString) #写入文件
     
     #创建符号链接
@@ -73,12 +75,12 @@ class VictoriaFresh
         
         pathToMake=pathPrefix + '/' + packagedFile['name'] #构造文件名
         
-#         victoriaFreshDataFile=File.new(pathToMake , "wb") #数据文件。
-#         victoriaFreshDataFile.syswrite(victoriaFreshData) #写入文件。
-#         victoriaFreshDataFile.close #关闭文件。
-#         
-#         FileUtils.touch pathToMake, :mtime => timeObject #设置修改时间
-
+        #         victoriaFreshDataFile=File.new(pathToMake , "wb") #数据文件。
+        #         victoriaFreshDataFile.syswrite(victoriaFreshData) #写入文件。
+        #         victoriaFreshDataFile.close #关闭文件。
+        #         
+        #         FileUtils.touch pathToMake, :mtime => timeObject #设置修改时间
+        
         puts("data: #{victoriaFreshData}, path: #{pathToMake}") #Debug
         
         FileUtils.symlink(victoriaFreshData, pathToMake, force: true) #创建符号链接
@@ -87,7 +89,7 @@ class VictoriaFresh
         
         if (permissionNumber.nil?) #不带权限字段
         elsif #带权限字段
-#             File.chmod(permissionNumber, pathToMake) #设置权限
+            #             File.chmod(permissionNumber, pathToMake) #设置权限
             begin #尝试修改链接本身的权限
                 File.lchmod(permissionNumber, pathToMake) #设置权限
             rescue NotImplementedError #未实现
@@ -97,31 +99,31 @@ class VictoriaFresh
     end #def makeSymlink(pathPrefix, packagedFile, contentString) #创建符号链接
     
     def getTimeObject(packagedFile) #构造时间戳对象
-#         seconds=packagedFile.timestamp.seconds #获取秒数
+        #         seconds=packagedFile.timestamp.seconds #获取秒数
         seconds=packagedFile['timestamp']['seconds'] #获取秒数
-
-#         microSeconds=packagedFile.timestamp.nanos/ 1000.0 #获取毫秒数
+        
+        #         microSeconds=packagedFile.timestamp.nanos/ 1000.0 #获取毫秒数
         microSeconds=packagedFile['timestamp']['nanos'] / 1000.0 #获取毫秒数
         
         timeObject=Time.at(seconds, microSeconds) #构造时间对象
-
+        
     end #getTimeObject(packagedFile) #构造时间戳对象
     
     def makeDirectory(pathPrefix, packagedFile) #创建目录
         timeObject=getTimeObject(packagedFile) #构造时间戳对象
-
         
-#         puts 'mkdir' #Debug
+        
+        #         puts 'mkdir' #Debug
         pathToMake=File.join(pathPrefix, packagedFile['name'])
         
-#         puts  pathToMake #Debug.
+        #         puts  pathToMake #Debug.
         
         if (Dir.exist?(pathToMake)) #目录已经存在
         else #目录 不存在
             Dir.mkdir(pathToMake) #=> 0
         end #if (Dir.exist?(pathToMake)) #目录已经存在
         
-
+        
         FileUtils.touch pathToMake, :mtime => timeObject #设置修改时间
         
         permissionNumber=packagedFile['permission'] #获取权限数字
@@ -151,173 +153,187 @@ class VictoriaFresh
         end #if packagedFile.is_file #是文件，则直接写入文件
     end #def releaseFile(packagedFile, contentString) #释放一个文件 
     
-     #考虑是否要向磁盘先输出内容
+    #考虑是否要向磁盘先输出内容
     def assessDiskFlush(layer, isFinalPart=false)
-#         contentString=contentStringInput #要处理的内容字符串
-        
-#             if (layer==0) #是最外层
-        while (@contentString.length >= @diskFlushSize) #还有内容要写入
-            contentToWrite=@contentString[0, @diskFlushSize] #取出开头的一段
-            
-            
-            
-            @contentString=@contentString[@diskFlushSize, @contentString.length-@diskFlushSize] #留下剩余的部分
-            
-            if (@diskFlush) #要向磁盘写入内容
-                
-                @diskWriteFileObject.syswrite(contentToWrite) #写入内容
-                
-                @diskWriteFileObject.flush #写入磁盘
+        if (@diskFlush) #要做磁盘写入
+            if (@bufferLength>=@diskFlushSize) #缓冲区总长度已经超过需要的文件长度
+                @contentString = @contentPartArray.join #重组成整个字符串
                 
-            else #不向磁盘写入内容
-            @contentPartArray <<  contentToWrite #记录到数组中
-                
-            end #if (@diskFlush) #要向磁盘写入内容
-        end #while (contentString.length >= @diskFlushSize) #还有内容要写入
-        
-        if (isFinalPart) #是最后一部分
-            contentToWrite=@contentString #要写入的内容
-            
-#             @contentPartArray <<  contentToWrite #记录到数组中
-            
-            @contentString="" #字符串清空
+                    @contentPartArray.clear #清空数组
+                    
+                    while (@contentString.length >= @diskFlushSize) #还有内容要写入
+                        contentToWrite=@contentString[0, @diskFlushSize] #取出开头的一段
+                        
+                        @contentString=@contentString[@diskFlushSize, @contentString.length-@diskFlushSize] #留下剩余的部分
+                        
+                            if (@diskMultiFile) #多个磁盘文件
+                                @diskWriteFileObject=File.new(@diskFileName+@currentDiskFlushSuffix.to_s, 'wb') #打开文件
+                                
+                                @currentDiskFlushSuffix=@currentDiskFlushSuffix+1 #增加计数
+                                
+                                @diskWriteFileObject.syswrite(contentToWrite) #写入内容
+                                
+                                @diskWriteFileObject.close
+                            else #单个磁盘文件
+                                
+                                @diskWriteFileObject.syswrite(contentToWrite) #写入内容
+                                
+                                @diskWriteFileObject.flush #写入磁盘
+                            end #@currentDiskFlushSuffix
+                    end #while (contentString.length >= @diskFlushSize) #还有内容要写入
+                    
+                    @contentPartArray << @contentString #剩余部分重新加入数组中
+                    @bufferLength=@contentString.length #重新记录缓冲区总长度
+            end #if (bufferLength>=@diskFlushSize) #缓冲区总长度已经超过需要的文件长度
             
-            if (@diskFlush) #要向磁盘写入内容
+            if (isFinalPart) #是最后一部分
+                                @contentString = @contentPartArray.join #重组成整个字符串
+
+                @contentPartArray.clear #清空字符串数组
+                @bufferLength=0 #缓冲区长度归零
                 
-                @diskWriteFileObject.syswrite(contentToWrite) #写入内容
+                contentToWrite=@contentString #要写入的内容
                 
-                @diskWriteFileObject.close #关闭文件
-            else #不向磁盘写入内容
-            @contentPartArray <<  contentToWrite #记录到数组中
-
+                @contentString="" #字符串清空
                 
-            end #if (@diskFlush) #要向磁盘写入内容
-            
-        end #if (isFinalPart) #是最后一部分
-        #             end #if (layer==0) #是最外层
-
-#         end #if (@diskFlush) #要向磁盘写入内容
-        
-        return @contentString #返回内容
+                    if (@diskMultiFile) #多个磁盘文件
+                        @diskWriteFileObject=File.new(@diskFileName+@currentDiskFlushSuffix.to_s, 'wb') #打开文件
+                        
+                        @currentDiskFlushSuffix=@currentDiskFlushSuffix+1 #增加计数
+                        
+                        @diskWriteFileObject.syswrite(contentToWrite) #写入内容
+                        
+                        @diskWriteFileObject.close
+                        
+                        
+                    else #单个磁盘文件
+                        @diskWriteFileObject.syswrite(contentToWrite) #写入内容
+                        
+                        @diskWriteFileObject.close #关闭文件
+                        
+                    end #if (@diskMultiFile) #多个磁盘文件
+            end #if (isFinalPart) #是最后一部分
+        end #if (@diskFlush) #要做磁盘写入
     end #contentString= assessDiskFlush(contentString) #考虑是否要向磁盘先输出内容
     
-  def checkOnce(directoryPath, startIndex=0, layer=0) #打包一个目录树。
-      if (@diskFlush) #要向磁盘写入文件
-
-        if (layer==0) #最外层
-            if (@diskMultiFile) #要写多个文件 
-            else #不写多个文件
-                @diskWriteFileObject=File.new(@diskFileName, 'wb') #打开文件
-            end #if (@diskMultiFile) #要写多个文件 
-        end #if (layer==0) #最外层
-
-      end #if (@diskFlush) #要向磁盘写入文件s
-      
-    packagedFile={} #创建文件消息对象。
-
-    packagedFile['sub_files'] = [] #加入到子文件列表中。
-    
-    directoryPathName=Pathname.new(directoryPath) #构造路径名字对象。
-    
-    baseName=directoryPathName.basename.to_s #基本文件名。
-    
-    packagedFile['name']=baseName #设置文件名。
-    
-    isFile=directoryPathName.file? #是否是文件。
-    isSymLink=directoryPathName.symlink? #是否是符号链接
-
-    packagedFile['is_file']=isFile #设置属性，是否是文件。
-    packagedFile['file_start_index']=startIndex #记录文件内容的开始位置。
-    
-    packagedFile['is_symlink']=isSymLink #设置属性，是否是符号链接
-
-    puts directoryPath #Dbug.
-    
-    #记录时间戳：
-    begin #读取时间戳
-        mtimeStamp=File.mtime(directoryPath) #获取时间戳
-
-        packagedFile['timestamp']={} #时间戳
-        packagedFile['timestamp']['seconds']=mtimeStamp.tv_sec #设置秒数
-        packagedFile['timestamp']['nanos']=mtimeStamp.tv_nsec #设置纳秒数
-        
-        packagedFile['permission']=(File.stat(directoryPath).mode & 07777 ) #设置权限信息
-    rescue Errno::ENOENT
-    rescue Errno::EACCES #权限受限
-    end #begin #读取时间戳
-
-    if (isFile) #是文件，不用再列出其子文件了。
-      packagedFile['file_length']=directoryPathName.size #记录文件的内容长度。
-      
-      #读取文件内容：
-      fileToReadContent=File.new(directoryPath,"rb") #创建文件。
-      @contentString= @contentString +  fileToReadContent.read #全部读取。
-      
-      assessDiskFlush(layer) #考虑是否要向磁盘先输出内容
-    elsif (isSymLink) #是符号链接
-                  linkTarget=directoryPathName.readlink #获取链接目标
-
-#         待续，设置内容长度。符号链接字符串的长度
-      packagedFile['file_length']=linkTarget.to_s.bytesize #记录文件的内容长度。
-
-      #读取文件内容：
-#       fileToReadContent=File.new(directoryPath,"rb") #创建文件。
-      @contentString= @contentString + StringIO.new(linkTarget.to_s).binmode.read #全部读取。
-      
-            assessDiskFlush(layer) #考虑是否要向磁盘先输出内容
-
-    else #是目录。
-#       contentString="" #容纳内容的字符串。
-      subFileStartIndex=startIndex #子文件的起始位置，以此目录的起始位置为基准。
-
-      packagedFile['file_length']=0 #本目录的内容长度。
-
-      directoryPathName.each_child do |subFile| #一个个文件地处理。
-#           puts("sub file: #{subFile}, class: #{subFile.class}, symlink: #{subFile.symlink?}, expand_path: #{subFile.expand_path}, file?: #{subFile.file?}") #Debug.
-#     checkMemoryUsage(221)
-        realPath=subFile.expand_path #获取绝对路径。
+    def checkOnce(directoryPath, startIndex=0, layer=0) #打包一个目录树。
+        if (@diskFlush) #要向磁盘写入文件
+            if (layer==0) #最外层
+                if (@diskMultiFile) #要写多个文件 
+                else #不写多个文件
+                    @diskWriteFileObject=File.new(@diskFileName, 'wb') #打开文件
+                end #if (@diskMultiFile) #要写多个文件 
+            end #if (layer==0) #最外层
+        end #if (@diskFlush) #要向磁盘写入文件s
         
-        packagedSubFile,subFileContent=checkOnce(realPath,subFileStartIndex, layer+1) #打包这个子文件。
+        packagedFile={} #创建文件消息对象。
         
-        packagedFile['sub_files'] << packagedSubFile #加入到子文件列表中。
+        packagedFile['sub_files'] = [] #加入到子文件列表中。
         
-#         puts("sub file content: #{subFileContent}, nil?: #{subFileContent.nil?}" ) #Debug
+        directoryPathName=Pathname.new(directoryPath) #构造路径名字对象。
         
-#             puts(" content: #{contentString}, nil?: #{contentString.nil? }") #Debug
-
-#         contentString = contentString + subFileContent #串接文件内容。
+        baseName=directoryPathName.basename.to_s #基本文件名。
         
-                    assessDiskFlush(layer) #考虑是否要向磁盘先输出内容
-
+        packagedFile['name']=baseName #设置文件名。
         
-        subFileStartIndex+=packagedSubFile['file_length'] #记录打包的子文件的长度，更新下一个要打包的子文件的起始位置。
+        isFile=directoryPathName.file? #是否是文件。
+        isSymLink=directoryPathName.symlink? #是否是符号链接
         
-#         puts("237, content string length: #{contentString.length}") #Debug
+        packagedFile['is_file']=isFile #设置属性，是否是文件。
+        packagedFile['file_start_index']=startIndex #记录文件内容的开始位置。
         
-        packagedFile['file_length']+=packagedSubFile['file_length'] #随着子文件的打包而更新本目录的总长度。
-      end #directoryPathName.each_child do |subFile| #一个个文件地处理。
-    end #if (isFile) #是文件，不用再列出其子文件了。
-    
-#                 puts("300, contentString: #{contentString}, nil?: #{contentString.nil?}, direcotry path: #{directoryPath}, layer: #{layer}") #Debug
-    
+        packagedFile['is_symlink']=isSymLink #设置属性，是否是符号链接
+        
+        puts directoryPath #Dbug.
+        
+        #记录时间戳：
+        begin #读取时间戳
+            mtimeStamp=File.mtime(directoryPath) #获取时间戳
+            
+            packagedFile['timestamp']={} #时间戳
+            packagedFile['timestamp']['seconds']=mtimeStamp.tv_sec #设置秒数
+            packagedFile['timestamp']['nanos']=mtimeStamp.tv_nsec #设置纳秒数
+            
+            packagedFile['permission']=(File.stat(directoryPath).mode & 07777 ) #设置权限信息
+        rescue Errno::ENOENT
+        rescue Errno::EACCES #权限受限
+        end #begin #读取时间戳
+        
+        if (isFile) #是文件，不用再列出其子文件了。
+            packagedFile['file_length']=directoryPathName.size #记录文件的内容长度。
+            
+            #读取文件内容：
+            fileToReadContent=File.new(directoryPath,"rb") #创建文件。
+            currentFileContent=fileToReadContent.read #全部读取
+            @contentPartArray <<  currentFileContent
+            @bufferLength=@bufferLength+ currentFileContent.length #记录缓冲区总长度
+            #       @contentString= @contentString +  fileToReadContent.read #全部读取。
+            
+            assessDiskFlush(layer) #考虑是否要向磁盘先输出内容
+        elsif (isSymLink) #是符号链接
+            linkTarget=directoryPathName.readlink #获取链接目标
+            
+            #         待续，设置内容长度。符号链接字符串的长度
+            packagedFile['file_length']=linkTarget.to_s.bytesize #记录文件的内容长度。
+            
+            #读取文件内容：
+            #       fileToReadContent=File.new(directoryPath,"rb") #创建文件。
+            currentFileContent=StringIO.new(linkTarget.to_s).binmode.read #全部读取。
+            @contentPartArray << currentFileContent #加入数组
+            @bufferLength=@bufferLength + currentFileContent.length #记录缓冲区总长度
+            #       @contentString= @contentString + StringIO.new(linkTarget.to_s).binmode.read #全部读取。
+            
+            assessDiskFlush(layer) #考虑是否要向磁盘先输出内容
+            
+        else #是目录。
+            #       contentString="" #容纳内容的字符串。
+            subFileStartIndex=startIndex #子文件的起始位置，以此目录的起始位置为基准。
+            
+            packagedFile['file_length']=0 #本目录的内容长度。
+            
+            directoryPathName.each_child do |subFile| #一个个文件地处理。
+                #           puts("sub file: #{subFile}, class: #{subFile.class}, symlink: #{subFile.symlink?}, expand_path: #{subFile.expand_path}, file?: #{subFile.file?}") #Debug.
+                #     checkMemoryUsage(221)
+                realPath=subFile.expand_path #获取绝对路径。
                 
-#                 puts("302, contentString: #{contentString}, nil?: #{contentString.nil?}, direcotry path: #{directoryPath}, layer: #{layer}") #Debug
-    
-    contentToResult="" #要返回的内容
-
-                if (layer==0) #是最外层
-                                    assessDiskFlush(layer, true) #考虑是否要向磁盘先输出内容
-
-                                    if (@diskFlush) #要向磁盘写入缓存内容
-                                    else #不向磁盘写入缓存内容
-                                        contentToResult=@contentPartArray.join #重新合并成字符串
-                                        
-                                    end #if (@diskFlush) #要向磁盘写入缓存内容
-                    
-                end #if (layer==0) #是最外层
+                packagedSubFile,subFileContent=checkOnce(realPath,subFileStartIndex, layer+1) #打包这个子文件。
+                
+                packagedFile['sub_files'] << packagedSubFile #加入到子文件列表中。
+                
+                #         puts("sub file content: #{subFileContent}, nil?: #{subFileContent.nil?}" ) #Debug
+                
+                #             puts(" content: #{contentString}, nil?: #{contentString.nil? }") #Debug
                 
+                #         contentString = contentString + subFileContent #串接文件内容。
+                
+                assessDiskFlush(layer) #考虑是否要向磁盘先输出内容
+                
+                
+                subFileStartIndex+=packagedSubFile['file_length'] #记录打包的子文件的长度，更新下一个要打包的子文件的起始位置。
+                
+                #         puts("237, content string length: #{contentString.length}") #Debug
+                
+                packagedFile['file_length']+=packagedSubFile['file_length'] #随着子文件的打包而更新本目录的总长度。
+            end #directoryPathName.each_child do |subFile| #一个个文件地处理。
+        end #if (isFile) #是文件，不用再列出其子文件了。
+        
+        #                 puts("300, contentString: #{contentString}, nil?: #{contentString.nil?}, direcotry path: #{directoryPath}, layer: #{layer}") #Debug
+        
+        
+        #                 puts("302, contentString: #{contentString}, nil?: #{contentString.nil?}, direcotry path: #{directoryPath}, layer: #{layer}") #Debug
+        
+        contentToResult="" #要返回的内容
+        
+        if (layer==0) #是最外层
+            assessDiskFlush(layer, true) #考虑是否要向磁盘先输出内容
+            
+            if (@diskFlush) #要向磁盘写入缓存内容
+            else #不向磁盘写入缓存内容
+                contentToResult=@contentPartArray.join #重新合并成字符串
                 
-    return packagedFile, contentToResult #返回打包之后的对象。和文件内容字节数组。
-  end #def downloadOne #下载一个视频。
+            end #if (@diskFlush) #要向磁盘写入缓存内容
+        end #if (layer==0) #是最外层
+        return packagedFile, contentToResult #返回打包之后的对象。和文件内容字节数组。
+    end #def downloadOne #下载一个视频。
 end
 

data/victoriafresh.example.rb

@@ -9,7 +9,10 @@ else #指定了命令行参数。
   
   $clipDownloader=VictoriaFresh.new #创建下载器。
 
-  $clipDownloader.diskFlush=false #不向磁盘写入缓存
+  $clipDownloader.diskFlush=true #向磁盘写入缓存
+  $clipDownloader.diskMultiFile=true #写多个磁盘文件
+  $clipDownloader.diskFileName='victoriafreshdata.v.' #磁盘文件名前缀
+  $clipDownloader.diskFlushSize=32*1024*1024 #磁盘文件大小
   
   victoriaFresh,victoriaFreshData=$clipDownloader.checkOnce($rootPath) #打包该目录树。
   
@@ -24,7 +27,7 @@ else #指定了命令行参数。
   
   victoriaFreshFile.close #关闭文件。
   
-  victoriaFreshDataFile=File.new("victoriafreshdata.v","wb") #数据文件。
-  victoriaFreshDataFile.syswrite(victoriaFreshData) #写入文件。
-  victoriaFreshDataFile.close #关闭文件。
+#   victoriaFreshDataFile=File.new("victoriafreshdata.v","wb") #数据文件。
+#   victoriaFreshDataFile.syswrite(victoriaFreshData) #写入文件。
+#   victoriaFreshDataFile.close #关闭文件。
 end

metadata

@@ -1,7 +1,7 @@
 --- !ruby/object:Gem::Specification
 name: VictoriaFreSh
 version: !ruby/object:Gem::Version
-  version: 2021.4.17
+  version: 2021.4.18
 platform: ruby
 authors:
 - Hxcan Cai