Colabでollamaとmesopをためす。 - 地平線まで行ってくる。

Googleが公開しているPythonベースのフレームワークMesop。Colabとも相性がよさそう。ollama+oyamaと組み合わせると、ローカルLLMのテストも簡単なのかも、と思ってためしました。

Tokenの数のチェックもなしなし、エラー処理はなしで、簡単なチャットプログラムを作ってみる。簡単に出来上がる・・・。Mesopは例は幾つかあるものの、ドキュメント少なめ。簡単に実装できて便利。

一応、答える様になる。

Colab上だとデバグがやりにくい。皆さんどうするんだろう。