地平線まで行ってくる。

記録あるいは忘備録。時には検討事項。

smolagentsのguickdemoをollamaとcolabでためしてみる。

HuggingFaceから発表されたAgentを作成するツールであるSmolagents。1000行くらいのcodeで機能を提供しているとのこと。Colabで試せないかなと思ったらLiteLLMModelを利用できるとあるので、試してみました。

 

huggingface.co

github.com

 

ColabのL4環境でモデルはollamaから`hhao/qwen2.5-coder-tools:32b`を用います。32Bで軽くてtools対応だから比較的成功しやすいだろうだろうという目論見です。Qwen2.5-coder:7Bだとエラーを解消できなかったこともあって、無難な32bモデルを選定しました。

 

quick-demoでは以下の質問をCodeAgentをDuckDuckGoSearchTool()を使って答えを求めます。

How many seconds would it take for a leopard at full speed to run through Pont des Arts?

(ヒョウがポンデザール橋を全速力で駆け抜けるには何秒かかるでしょうか?)に対して・・・。   
Out - Final answer: 7.53750272322679

となりました。デモの動画では、違った答えになっています。しかし、動画では最小値で計算していて、この答えは平均値(最小と最大の中央の値の方が正しいのかな?)を求めて計算しています。どっちかといえば、この値の方が正しいかも。

 

次の日本語で次の質問をしてみます。

まどか☆マギカの映画でもっとも興行収益があったのは、一番少ないものに対して何倍でしたか?

Out - Final answer: 1.2846697737089012

途中計算を見ると、興行収益サイトまでは迫っていたけれども、そこから正しいデータを収得するときにエラーをスルーしたため不正確な値を拾ってしまっていました。残念。答えを知らかったので、検証に手間取りましたが、途中経過が表示されるので検証は楽です。DuckDuckGoSearchTool()だけでなく、スクレイピングのツールも組み合わせると正しい結果に行きつけるかも・・・。

 

今回使ったColabノートです。

 

gist.github.com