ichou1のブログ

主に音声認識、時々、データ分析のことを書く

2019-09-01から1ヶ月間の記事一覧

BERTメモ(BertViz)その2

前回の続き。sentence-pair (sentence A / B)での出力を見てみる。2つ目の文に、接続詞と指示代名詞が含まれている文を指定。 sentence_a = '栄養バランスの良い食事は健康づくりの基本です。' sentence_b = 'しかしながら、それを実践することはなかなか困…

BERTメモ(BertViz)その1

BERTのattentionを可視化する「BertViz」を試してみる。GitHub - jessevig/bertviz: Tool for visualizing attention in the Transformer model (BERT, GPT-2, XLNet, and RoBERTa)論文「A Multiscale Visualization of Attention in the Transformer Model…

「つなぎことば」(接続詞)に関するメモ

「接続詞」(Wikipediaより) 接続詞(せつぞくし)とは、大雑把に言えば文と文、節と節、句と句、語と語など文の構成要素同士の関係を示す役割を担う品詞のひとつである。 大和言葉においてはかつて「つなぎことば」と呼ばれていた。 『国語教育のための文章…