地平線まで行ってくる。

記録あるいは忘備録。時には検討事項。

2024-11-10から1日間の記事一覧

ローカルLLMでタスクに応じたtool選択をJSON出力にしてみる。

我がPCでも動作できる軽量なLLMを使って遊んでいると、質問ごとにタスク選定の機能が欲しくなります。簡単なタスク分解が軽量モデルでできると(体感)応答速度の向上も期待できるかもしれません。もちろん、それなりのLLMモデルとLangchainを使うと簡単に実…