地平線まで行ってくる。

記録あるいは忘備録。時には検討事項。

2024-11-19から1日間の記事一覧

grapevine-AI/Athene-V2-Chat-GGUFをollamaとcolabでためす。

grapevine-AI/Athene-V2-ChatをColab L4環境でお試しします。試す前から無謀なのは覚悟です。コーヒーを用意してチャレンジです。ollamaを利用すると、それでもなんとか動くのは凄いです。もちろん、実用レベルの生成速度は得られません。やはり、生成の質は…