callback

callback

neural_network内で実行する関数群。 実行するか否かの基準は統一されていないが、基本的にneural_networkのconfig引数かmodel内で指定できる。

propagation

neural_networkのconfig引数で指定できる。 forward/backward 順伝播(予測)か逆伝播(学習)かを指定する。各callbackで分けるのはだるかったので、関数タグを別にしてある。 美しくないので後に仕様変えるかも

各関数解説

affine

affineレイヤ。

引数

modelのnode.affine

• weight(fixed) 重みを指定
• bias(fixed) バイアスを指定

forward

順伝播時に必ず実行される。各レイヤーやノードの引数/戻り値を管理する

誤差関数

modelのmodule[-1].error_function{id:string}で指定できる モデルの最後で実行することを想定しており、1レイヤー分以上のデータを保持できない

cross_entropy_error

交差エントロピー誤差関数 未実装

sum_squadred_error

二乗和誤差 (微分しやすいように1/2)

戻り値

順伝播: scoreholder #sum_squadred_error ckenja.ai_raru 逆伝播: storage ckenja.ai_raru.temp:sum_squadred_error diff

活性化関数

modelのmodule[-1].activation{id:string}で指定できる

• relu
• leaky_relu

model_reverse

並びを逆にしたモデルを作成する 引数は neural_networkのconfig{model_reverse:true}