Apple SiliconでLLMをファインチューニング！MLX + LoRAで日本語読解モデルを自作する方法
LiquidAI の LFM2.5-1.2B-JP モデルを Apple Silicon の MLX フレームワークで LoRA ファインチューニングするパイプラインを構築しました。JsQuAD（日本語読解）データセットで学習し、カスタム Chunked Loss と早期停止も実装しています。
[Read More]
機械学習実験が管理できず再現性がない問題をMLflowで体系的に解決する方法
機械学習実験で直面する再現性の課題
機械学習の実験を繰り返していると、以下のような問題に直面することがありませんか？
- 良い結果が出たモデルのパラメータを忘れてしまう
- 過去の実験結果を比較できず、改善が進まない
- チームメンバーと実験結果を共有できない
- 同じ実験を再実行しても結果が再現できない
これらの問題は、機械学習の実践が「ある種の黒魔術」となってしまう原因でもあります。
[Read More]AI(深層学習) を用いて観賞魚の品種識別
AI を用いて観賞魚の品種識別のまとめ
-
AI はもはや普通の人間を超える性能を発揮している
-
深層学習系の手法がメジャー
-
デバイスは2 万円〜から利用が可能
前振り
仕事がらAIについて調べております。調べると言ってもプレスリリースを漁るといったものではなく、主に公開されている論文やソースコードを読みこなして自力でAIを構築できるように取り組んでいます。
[Read More]MLops 実験開発環境の整備の必要性
MLops
レベル1だけでもやっとけばええんちゃうか
やること
- データの前処理と保存
- 特徴量の抽出と保存
- 分類器の学習と保存
- それぞれのパラメータの保存
利点
実験する部分や追加したい機能の切り分けがしやすくなる。
[Read More]