- 深層学習モデルを使って、新聞記事から見出しを自動で生成するモデルが提案されている。
- 朝日新聞が自動要約生成APIの提供を始めました。
追記
- 2022時点ならT5を使ってファインチューニングを試す方が簡単な気がする。
モデル概要
- 朝日新聞が研究に協力して取り組んでおり、transformerを基礎にして、文字数制約を組み込んだモデルが論文で提案されています。
- さすが朝日新聞というべきか、莫大な教師データを使ってモデルの学習を行っています。
- また文字数制約についても、位置エンコーディングを工夫することによって、指定した文字数を生成するようになったようです。
- この辺り、フリーの言語リソースが日本語に少ないことには歯がゆさを感じます。
## ニュースタイトルの自動生成モデルの作成
[Read More]