ruby-dnn 0.6.6 → 0.6.7

checksums.yaml

@@ -1,7 +1,7 @@
 ---
 SHA256:
-  metadata.gz: fd29475dde45d895faa78adb3d12f9a0aa912a21aac2afa7162805034ab4f7fc
-  data.tar.gz: 42fe11e0925f32998f2c41d53551244b6d94168a71f86c7cd720cab30cf34f57
+  metadata.gz: 5aeb8ad44e4e4bd11c91c64f2a019234f0f0c346c1efca4d7a0439674aeec9c1
+  data.tar.gz: 197d78045cebfc7e3b4eb3d24e7fce633a6b9e2d6fbe7de2611fc893ea24ac61
 SHA512:
-  metadata.gz: 1675da8efd00501705f3b45d7dedf66de6a6c5e52660c3a5a3f4487fd93c9fc50ab4951fe436e4e8988ead134dffd59d03d82ebfc7d96b301e259eb63024fdb5
-  data.tar.gz: 75690da41a5d79d1c15474832fc36785b8d94eb759d752767a4cf1f840293cef19ef4f525c66cbcf829742f71f0b513fba2756503a669aaf0cb5e3e280270471
+  metadata.gz: a76966c0a8872049b181ab762cd3c3cd8ab1ab4cc804bf5fe9c6c4fe34c346f01c7b8d340d2a509674eda96804993b9291136f5fda902691cc6b18d0b008b575
+  data.tar.gz: '08370ee3035f15947a527255336de5671c0ebe03a76d2e458c692ed149e2318a6475d714c078dabc8ea28d20d8411b651150598c72cbe81e8aa48b01a7469a9a'

data/API-Reference.ja.md

@@ -2,7 +2,7 @@
 ruby-dnnのAPIリファレンスです。このリファレンスでは、APIを利用するうえで必要となるクラスとメソッドしか記載していません。
 そのため、プログラムの詳細が必要な場合は、ソースコードを参照してください。
 
-最終更新バージョン:0.6.4
+最終更新バージョン:0.6.7
 
 # module DNN
 ruby-dnnの名前空間をなすモジュールです。
@@ -23,8 +23,6 @@ ruby-dnnのバージョン。
 ## attr_accessor :trainable
 falseを設定すると、パラメータの学習を禁止します。
 
-## attr_reader :optimize
-モデルのオプティマイザーを取得します。
 
 ## 【Singleton methods】
 
@@ -85,14 +83,23 @@ String
 学習パラメータを変換して生成したjson文字列。
 
 ## def <<(layer)
-モデルにレイヤーを追加します。
+モデルにレイヤーまたはモデルを追加します。
 ### arguments
-* Layer layer  
-追加するレイヤー。
+* Layer | Model layer  
+追加するレイヤーまたはモデル。
 ### return
 Model  
 自身のモデルのインスタンス。
 
+## def optimizer
+モデルのオプティマイザーを取得します。
+モデルにオプティマイザーが存在しない場合は、上位のモデルのオプティマイザーを取得します。
+### arguments
+なし。
+### return
+Optimizer  
+モデルのオプティマイザー。
+
 ## def compile(optimizer)
 モデルをコンパイルします。
 ### arguments
@@ -116,7 +123,7 @@ bool
 トレーニング用入力データ。
 * Numo::SFloat y  
 トレーニング用出力データ。
-* epochs  
+* Integer epochs  
 学習回数。
 * Integer batch_size: 1  
 学習に使用するミニバッチの数。
@@ -233,7 +240,7 @@ Array
 レイヤーの形状。Layerクラスのshapeメソッドでは、前レイヤーの形状を返却します。
 
 ## abstruct def to_hash
-レイヤーをハッシュに変換します。このメソッドは、モデルをjsonに変換するために使用されます。このメソッドが返すハッシュの要素には、{name: self.class.name}が含まれていなければなりません。
+レイヤーをハッシュに変換します。このメソッドは、モデルをjsonに変換するために使用されます。このメソッドが返すハッシュの要素には、{name: `self.class.name`}が含まれていなければなりません。
 ### arguments
 なし。
 ### return
@@ -248,6 +255,7 @@ Hash
 
 ## private abstruct def init_params
 更新可能なパラメータを初期化します。HasParamLayerクラスを継承するクラスは、このメソッドを実装する必要があります。
+このメソッドは、レイヤーが初回ビルドされたときのみ実行されます。
 ### arguments
 なし。
 ### return

data/lib/dnn/core/layers.rb

@@ -9,8 +9,8 @@ module DNN
 
       # Build the layer.
       def build(model)
-        @built = true
         @model = model
+        @built = true
       end
       
       # Does the layer have already been built?
@@ -38,7 +38,7 @@ module DNN
     
       # Get the previous layer.
       def prev_layer
-        @model.layers[@model.layers.index(self) - 1]
+        @model.get_prev_layer(self)
       end
     end
     
@@ -57,8 +57,11 @@ module DNN
       end
     
       def build(model)
-        super
-        init_params
+        @model = model
+        unless @built
+          @built = true
+          init_params
+        end
       end
     
       # Update the parameters.

data/lib/dnn/core/model.rb

@@ -5,7 +5,6 @@ module DNN
   class Model
     attr_accessor :layers    # All layers possessed by the model
     attr_accessor :trainable # Setting false prevents learning of parameters.
-    attr_reader :optimizer   # Optimizer possessed by the model
 
     def self.load(file_name)
       Marshal.load(File.binread(file_name))
@@ -66,8 +65,8 @@ module DNN
     end
   
     def <<(layer)
-      unless layer.is_a?(Layers::Layer)
-        raise TypeError.new("layer is not an instance of the DNN::Layers::Layer class.")
+      if !layer.is_a?(Layers::Layer) && !layer.is_a?(Model)
+        raise TypeError.new("layer is not an instance of the DNN::Layers::Layer class or DNN::Model class.")
       end
       @layers << layer
       self
@@ -80,10 +79,19 @@ module DNN
       @compiled = true
       layers_check
       @optimizer = optimizer
+      build
+      layers_shape_check
+    end
+
+    def build(super_model = nil)
+      @super_model = super_model
       @layers.each do |layer|
         layer.build(self)
       end
-      layers_shape_check
+    end
+
+    def optimizer
+      @optimizer ? @optimizer : @super_model.optimizer
     end
 
     def compiled?
@@ -140,10 +148,10 @@ module DNN
     def train_on_batch(x, y, &batch_proc)
       x, y = batch_proc.call(x, y) if batch_proc
       forward(x, true)
-      loss = @layers[-1].loss(y)
+      loss_value = loss(y)
       backward(y)
-      @layers.each { |layer| layer.update if @trainable && layer.is_a?(HasParamLayer) }
-      loss
+      update
+      loss_value
     end
   
     def accurate(x, y, batch_size = 1, &batch_proc)
@@ -178,26 +186,55 @@ module DNN
     def predict1(x)
       predict(Xumo::SFloat.cast([x]))[0, false]
     end
+
+    def copy
+      Marshal.load(Marshal.dump(self))
+    end
   
     def forward(x, training)
-      unless compiled?
-        raise DNN_Error.new("The model is not compiled.")
-      end
       @training = training
       @layers.each do |layer|
-        x = layer.forward(x)
+        x = if layer.is_a?(Layers::Layer)
+          layer.forward(x)
+        elsif layer.is_a?(Model)
+          layer.forward(x, training)
+        end
       end
       x
     end
+
+    def loss(y)
+      @layers[-1].loss(y)
+    end
   
     def backward(y)
       dout = y
-      @layers[0..-1].reverse.each do |layer|
+      @layers.reverse.each do |layer|
         dout = layer.backward(dout)
       end
       dout
     end
 
+    def update
+      @layers.each do |layer|
+        layer.update if @trainable && (layer.is_a?(Layers::HasParamLayer) || layer.is_a?(Model))
+      end
+    end
+
+    def get_prev_layer(layer)
+      layer_index = @layers.index(layer)
+      prev_layer = if layer_index == 0
+        @super_model.layers[@super_model.layers.index(self) - 1]
+      else
+        @layers[layer_index - 1]
+      end
+      if prev_layer.is_a?(Layers::Layer)
+        prev_layer
+      elsif prev_layer.is_a?(Model)
+        prev_layer.layers[-1]
+      end
+    end
+
     private
 
     def layers_check

data/lib/dnn/version.rb

@@ -1,3 +1,3 @@
 module DNN
-  VERSION = "0.6.6"
+  VERSION = "0.6.7"
 end

metadata

@@ -1,14 +1,14 @@
 --- !ruby/object:Gem::Specification
 name: ruby-dnn
 version: !ruby/object:Gem::Version
-  version: 0.6.6
+  version: 0.6.7
 platform: ruby
 authors:
 - unagiootoro
 autorequire: 
 bindir: exe
 cert_chain: []
-date: 2018-08-22 00:00:00.000000000 Z
+date: 2018-08-25 00:00:00.000000000 Z
 dependencies:
 - !ruby/object:Gem::Dependency
   name: numo-narray