HuggingFaceから発表されたAgentを作成するツールであるSmolagents。1000行くらいのcodeで機能を提供しているとのこと。Colabで試せないかなと思ったらLiteLLMModelを利用できるとあるので、試してみました。
ColabのL4環境でモデルはollamaから`hhao/qwen2.5-coder-tools:32b`を用います。32Bで軽くてtools対応だから比較的成功しやすいだろうだろうという目論見です。Qwen2.5-coder:7Bだとエラーを解消できなかったこともあって、無難な32bモデルを選定しました。
quick-demoでは以下の質問をCodeAgentをDuckDuckGoSearchTool()を使って答えを求めます。
How many seconds would it take for a leopard at full speed to run through Pont des Arts?
(ヒョウがポンデザール橋を全速力で駆け抜けるには何秒かかるでしょうか?)に対して・・・。
Out - Final answer: 7.53750272322679
となりました。デモの動画では、違った答えになっています。しかし、動画では最小値で計算していて、この答えは平均値(最小と最大の中央の値の方が正しいのかな?)を求めて計算しています。どっちかといえば、この値の方が正しいかも。
次の日本語で次の質問をしてみます。
まどか☆マギカの映画でもっとも興行収益があったのは、一番少ないものに対して何倍でしたか?
Out - Final answer: 1.2846697737089012
途中計算を見ると、興行収益サイトまでは迫っていたけれども、そこから正しいデータを収得するときにエラーをスルーしたため不正確な値を拾ってしまっていました。残念。答えを知らかったので、検証に手間取りましたが、途中経過が表示されるので検証は楽です。DuckDuckGoSearchTool()だけでなく、スクレイピングのツールも組み合わせると正しい結果に行きつけるかも・・・。
今回使ったColabノートです。