地平線まで行ってくる。

記録あるいは忘備録。時には検討事項。

Qwen2.5-7B-Instruct-GGUFをColabでためしてみる。

Qwen2.5が発表されていました。Qwen2もよかったので順調に進化しているのでしょう。

huggingface.co

 

すでに多くの方がためしていらっしゃるようですが、自分でやります。7bモデルをColabのT4環境でためします。楽しみです。GGUFモデルは、今現在ollamaでは推測が終わらない状況でしたので、今回はollamaを使わずためします。

huggingface.co

 

まどか☆マギカで一番かわいいのは?
まどか☆マギカ」の中で最もかわいいキャラクターは個人の好みによって異なりますが、一般的にはまどかまつりが支持されています。彼女は純粋で優しく、また魔法少女としての姿もとても魅力的です。ただし、他のキャラクターもそれぞれ魅力的で、見事なデザインと個性的な性格を持っているため、誰が一番かわいいかを一概に断定することは難しいです。

まどかまつりさんという方が一般的人気らしいです。日本語は問題なさそうです。

 

日本で二番目に高い山は何という山ですか?
日本で二番目に高い山は富士山(標高3,776m)の次に高尾山(標高1,632m)ですが、これは誤りです。正確には、日本で二番目に高い山は北海道にある「層雲峯」(標高2,291mです。ただし、通常の「日本の山」という定義では本州の山々が対象となりますので、本州で二番目に高い山は「立山」(標高3,193mです。ただし、依然として富士山の後ろにあります。

いろいろと考察をしていますが、なんでそうなるの?という流れでした。

 

次の文章を簡単にまとめてください。

###
ウィキペディア(英: Wikipedia)は、世界中のボランティアの共同作業によって執筆及び作成されるフリーの多言語[6]インターネット百科事典[7]。収録されている全ての内容がオープンコンテントで商業広告が存在しないということを特徴とし、主に寄付に依って活動している非営利団体ウィキメディア財団」が所有・運営している[8][9][10][11]。「ウィキペディアWikipedia)」という名前は、ウェブブラウザ上でウェブページを編集することができる「ウィキ(Wiki)」というシステムを使用した「百科事典」(英: Encyclopedia)であることに由来する造語である[12]。設立者の1人であるラリー・サンガーにより命名された[13][14]。
ウィキペディアは、ボランティアによる共同作業で作成され、オープンコンテントで商業広告がない無料の多言語インターネット百科事典です。このプロジェクトは非営利団体であるウィキメディア財団が運営しており、「ウィキ」というウェブページ編集システムを利用した「百科事典」から名付けられました。

※文章はWikipediaより

まとめは問題なし。要約タスクは問題なさそうですね。

 

1+1*2+3/2+2^10を計算してください。
この計算問題では、四則演算の優先順位に従って計算を行います。具体的には、乗法と除法が足し算と引き算より優先されます。また、指数の計算も最初に行います。

1. まず、指数部分を計算します: \(2^{10} = 1024\)
2. 次に、乗法と除法を計算します: \(1 + (1 \times 2) + (3 / 2) + 1024\)
   - これは、\(1 + 2 + 1.5 + 1024\) となります。
3. 最後に、足し算を実行します: \(1 + 2 + 1.5 + 1024 = 1028.5\)

したがって、式 \(1 + 1 \times 2 + 3 / 2 + 2^{10}\) の答えは \(1028.5\) です。

いい感じです。しっかりできています。関心です。Qwenは数学モデルもあるので、データセットのバランスがよいのでしょうか。


味見レベルで触ってみました。日本語特化モデルでもないのに7Bレベルでこの日本語の性能は高いといえるのではないでしょうか。量子化モデルもollamaでさくっと動くようになると思います。

今回用いたColabです。

gist.github.com