ブログではないです

ブログでなくはないです

2021-01-01から1年間の記事一覧

StoryDB: Broad Multi-language Narrative Dataset (Tikhonov+, Eval4NLP'21)

https://aclanthology.org/2021.eval4nlp-1.4.pdf データセット論文。 既存の物語系データセットが割と人工的で日常的なテーマのごく短い話、物語というよりCommonsenseに基づいた行動の羅列と感じるものが多いのに対して、この研究では実際に出版されている…

Gradual Fine-Tuning for Low-Resource Domain Adaptation (Xu+, Adapt-NLP'21)

https://aclanthology.org/2021.adaptnlp-1.22.pdf ドメイン適応についてのワークショップ論文.自分が将来引用することになった時向けのこういうのがあった,という簡単なメモ. 主な内容としてはfine-tuning時にout-domainのデータを混ぜて学習するマルチ…

THE CURIOUS CASE OF NEURAL TEXT DeGENERATION (Ari+, ICLR'20)

https://arxiv.org/pdf/1904.09751.pdf 概要 ニューラルテキスト生成モデルのdecodingに関する論文. ニューラルテキスト生成では単語ごとに生成確率を推定して,そのargmaxを取っていく形 (いわゆるgreedy decoding) や beam searchによる生成が一般的なア…