前回の続き。OpenAI gymの「CartPole-v0」（倒立振り子）を試してみる。ソースコード（keras-rl） keras-rl/dqn_cartpole.py at master · keras-rl/keras-rl · GitHubまずは、どのようなゲームなのかの確認。 ゲームオーバの条件は2つ。 「棒の角度」または…

「Style Transfer」を試していて、結果がイメージどおりにならかったのでメモしておく。Input画像 / Style画像 うまく変換できていると思われる出力結果 GitHub - gsurma/style_transfer: CNN image style transfer . Iteration: 10 最初に試したときの出力…

optimizerに関するメモ。これまでに見たサンプルでは、Neural Style Transferで準ニュートン法（L-BFGS-B）が出てくる以外は、「Adam」または「AdamWarmup」が多かった。Keras公式 Optimizers - Keras DocumentationRに出てくるようなoptimizerは出てこない…

前回の続き。probe parametersを生成する「run_experiment.py」の動きを追ってみる。 今回、パラメータは「Depth」を指定する。 python structural-probes/run_experiment.py example/config/pad_en_ewt-ud-sample.yaml pad_en_ewt-ud-sample.yaml(Depth) pr…

『A Structural Probe for Finding Syntax in Word Representations』を試してみる。ソースコード。 https://github.com/john-hewitt/structural-probesまずは、pre-trained structural probesを使ったデモを動かしてみる。 printf "The chef that went to t…

PyTorch版BERTを使ってみる。 pytorch-pretrained-bert · PyPI モデルの要約を表示する方法を探したところ、「torchsummary」パッケージが公開されている模様。 torchsummary · PyPIinputのサイズを指定する必要があり、今回はtokenの長さが「13」であるもの…