Skip to content

🌱かどで日記に最適化された言語モデルを作るための検証リポジトリ

License

Notifications You must be signed in to change notification settings

KadodeProject/kadode_fine_tuning

Repository files navigation

kadode_fine_tuning

かどで日記に最適化されたモデルを作るための検証リポジトリ.

GPT2によりpre trainingにrinna/japanese-gpt2-medium, fine tuningにusuyukiの日記を用いて独自モデルを作成して検証した結果, usuyuki個人の日記のみでは独自モデルによるかどで日記の機能価値向上は難しいという結論に至った。

学習結果

学習結果

環境選定結果

環境選定結果

ローカル環境で頑張ったときのメモ

※結果として Google Colab を利用したため, このリポジトリは GPT 用のテキストファイル生成の役割のみ

About

🌱かどで日記に最適化された言語モデルを作るための検証リポジトリ

Topics

Resources

License

Stars

Watchers

Forks

Languages