前回の続き。PositionalEmbeddingレイヤを見てみる。 keras_xlnet/xlnet.py def build_xlnet(...): ... pos_embed = PositionalEmbedding( output_dim=units, clamp_len=clamp_len, directional=attention_type == 'uni', name='Embed-Pos', )([token_embed,…

前回の続き。AttentionレイヤがBERTとどう変わるのか見てみる。 work-in-progress.hatenablog.com前々回のmodel.summaryの抜粋 model.summary Layer (type) Output Shape Param # Connected to ======================= ===================== ======== ====…

前回のつづき。Memoryレイヤについて確認してみる。このレイヤが生まれた背景となる問題点と、その利点については、Transformer-XLの論文で以下のとおり述べられている。問題点。 事前定義された長さを超えるコンテキストを扱えない。 As a consequence of t…

XLNetのKeras実装を試してみる。keras-xlnet · PyPIload_trained_model_from_checkpoint関数でpre-trainedモデルをロードする。 BaseとLargeの両方のモデルに対応。 cased_L-12_H-768_A-12 cased_L-24_H-1024_A-16 モデルの構成は、"in_train_phase"パラメー…

前回の続き。scoreやmessageを表示する「HUD」sceneを追加する（意味は"heads-up display"とのこと） 「CanvasLayer」ノードを作成して、LabelやButtonを子として追加する。 [node name="HUD" type="CanvasLayer"]「Start」ボタンが押されると、「pressed()…

『Pythonによる深層強化学習入門』で書かれている"機械学習の種類（一例）"を参考にして作成。どの系統に属するものなのか、まとめておく。 分類 概要 手法 例 教師あり学習 入力データと、それに対する答え（教師データ）がセットになったデータを学習する …

前回の続き。step by stepの説明に従って、新たなscene「Mob」と「Main」を追加する。 「Mob」は個々のEnemy（敵）に該当し、「Main」でインスタンス化される。 mobs will spawn randomly at the edges of the screen and move in a random direction in a s…

オープンソースのゲームエンジン「Godot」を試してみる。バージョンは「3.1.1」（2019年4月27日リリース、64bit LinuxのStandard版）を使用。 Godot Engine - Download | Linux実行バイナリは60MBほど。step by stepにある「Dodge the Creeps!」から始めてみ…

前回の続き。DQN（Deep Q Learning）の中身について見ていく。AgentとしてDQNAgentを使う場合、指定しなければデフォルトで「Double DQN」が有効になる。 rl/agents/dqn.py class DQNAgent(AbstractDQNAgent): def __init__(self, model, policy=None, test_…