Rakutenからモデルが公開されていたので、早速mmngaさんのGGUF変換バージョンを試してみます。ColabのA100環境でお試しします。VRAM占有率は29279MiB / 40960MiBです。
8x7Bモデルということで、知識はあります。要約タスクはかなりコンパクトにまとめる傾向にありました。また、参照テキストも付記しても返答に利用されていなかった。適切なSYSTEM PROMPTでなかったりするのかもしれませんが・・・。他の評価記事も楽しみです。32Bクラスで良いモデルもあるなか突出したとまでのぱっと見の印象はありません。今後、どう発展していくのでしょうか。
まどか☆マギカで一番かわいいのは？
まどか☆マギカのキャラクターについてお答えします。このアニメには多くの魅力的なキャラクターが登場し、それぞれが独自の魅力を持っておりますので、一概に「一番かわいい」と決めるのは難しいですが、以下の主要なキャラクターたちが特に人気があります：
1. 鹿目まどか - 主人公であり、優しさと知恵を持つ少女。彼女の成長と変化が物語の核心となっています。
2. 暁美ほむら - 時間操作能力を持つ魔法少女で、複雑な背景と強い意志を持っています。彼女のキャラクターは多くのファンに愛されています。
3. 巴マミ - 経験豊富で優れた戦闘能力を持つ魔法少女。彼女のカリスマ性とリーダーシップも魅力の一つです。
4. 美樹さやか - 情熱的で仲間思いの魔法少女。彼女の友情と自己犠牲の精神が感動を呼びます。
5. 佐倉杏子 - 自由奔放で強い個性を持つ魔法少女。彼女の独特な魅力が多くのファンに支持されています。
6. キュゥべえ - 小さな猫のような姿をした謎の存在。彼の存在は物語に不可欠ですが、その真意や行動には謎が多いです。どのキャラクターが一番かわいいと感じるかは個人の好みによりますが、それぞれが異なる魅力を持っているため、ぜひアニメ本編を楽しんでいただければと思います。
CPU times: user 21.8 ms, sys: 2.72 ms, total: 24.5 ms
Wall time: 5.16 s
このサイズだと、そつのない答えをしますね。
まどか☆マギカのキャラクターのテキストを参照して回答してください。
まどか☆マギカで一番かわいいのは、誰ですか？（略）
まどか☆マギカで一番かわいいのは、誰ですか？
CPU times: user 6.45 ms, sys: 941 µs, total: 7.39 ms
Wall time: 1.1 s
参照テキストはなかったかのような反応。うーん。
日本で二番目に高い山を検討して答えてください。日本語で回答してください。
日本で2番目に高い山は、北岳です。北岳は富士山に次いで標高が高く、南アルプス国立公園内に位置しています。標高は約3,193メートルで、山梨県南巨摩郡早川町に位置しており、美しい景観と豊かな自然が魅力です。登山シーズンには多くのハイキングや登山の愛好家が訪れ、その雄大な姿を楽しんでいます。
CPU times: user 7.23 ms, sys: 1.17 ms, total: 8.4 ms
Wall time: 1.51 s
Wikipediaをちゃんと学習して回答しているようです。
以下を簡単にまとめてください。
ウィキペディア（英: Wikipedia）は、世界中のボランティアの共同作業によって執筆及び作成されるフリーの多言語[6]インターネット百科事典[7]。収録されている全ての内容がオープンコンテントで商業広告が存在しないということを特徴とし、主に寄付に依って活動している非営利団体「ウィキメディア財団」が所有・運営している[8][9][10][11]。「ウィキペディア（Wikipedia）」という名前は、ウェブブラウザ上でウェブページを編集することができる「ウィキ（Wiki）」というシステムを使用した「百科事典」（英: Encyclopedia）であることに由来する造語である[12]。設立者の1人であるラリー・サンガーにより命名された[13][14]。
以下は、提供されたテキストの要約です：
ウィキペディアは、ボランティアによって執筆されるフリーのインターネット百科事典で、オープンコンテントであり広告がないことが特徴です。非営利団体「ウィキメディア財団」によって運営され、寄付により活動しています。「ウィキペディア」という名前は、「ウィキ」システムを使用した百科事典に由来します。
CPU times: user 7.41 ms, sys: 1.17 ms, total: 8.59 ms
Wall time: 1.54 s
命名したラリー・サンガの記述がなくなっちゃいました。割とコンパクトに要約します。
1+1*2+3/2+2^10を計算してください。計算が終わったら検算をしてください。最後に最終的な計算経過と結果を答えてください。
まず、与えられた数式を順番に計算していきます。
1. \( 1 + 1 \times 2 + 3 \div 2 + 2^{10} \)
最初に掛け算と割り算を行います：
- \( 1 \times 2 = 2 \)
- \( 3 \div 2 = 1.5 \)次に数式に代入して計算を進めます：
\[ 1 + 2 + 1.5 + 2^{10} \]ここで指数の部分を先に計算します：
- \( 2^{10} = 1024 \)（これは二進法でよく使われる値です）これで数式は次のようになります：
\[ 1 + 2 + 1.5 + 1024 \]これらを順番に足していきます：
- \( 1 + 2 = 3 \)
- \( 3 + 1.5 = 4.5 \)
- \( 4.5 + 1024 = 1028.5 \)検算として、同じ順序でもう一度計算してみます：
\[ 1 + (1 \times 2) + (3 \div 2) + (2^{10}) \]
\[ 1 + 2 + 1.5 + 1024 \]
\[ 1 + 2 = 3 \]
\[ 3 + 1.5 = 4.5 \]
\[ 4.5 + 1024 = 1028.5 \]したがって、最終的な計算結果も \( 1028.5 \) です。
CPU times: user 19.8 ms, sys: 4.96 ms, total: 24.8 ms
Wall time: 6.19 s
しっかり、正解です。
両さんと部長の話を創作してください。
もちろんです。以下は、両津勘吉（以下、両さん）と部長とのやり取りを創作したものです。
---
### タイトル：部長、それは秘密にしておきたかったのですが…
#### シーン設定：葛飾区役所、昼休みの時間
* 部長の机の周りに同僚たちが集まり、何やら楽しげな雰囲気。
* 両さんがカップラーメンを片手に部長のデスクに近づく。**両さん：** 「部長！ちょっと相談があるんですが…」
**部長（笑顔）：** 「おぉ、勘吉か？なんだい？また何かやらかしたのか？」
**両さん：** 「いや、実はですね…。部長の机の下から何かの箱が出てきたんですよ。開けてみたら、なんと最新のスマートスピーカーが入っていたんです！誰のものかわからないけど、もしかして部長ですか？」
* 周囲の同僚たちが興味津々で集まる。
**部長（少し慌てながら）：** 「なんだって…そんなものが私の部屋の下にあったのかい？いや、それは私のじゃないはずだよ。ただの置き忘れだろう。誰かが回収に来るんじゃないかね」
**両さん：** 「そうですか？でもスマートスピーカーなんて高価なものを忘れるとは思えないんですが…。もしかして部長の趣味が変わったんですか？音楽鑑賞とか、あるいはAIとの会話を楽しみたいとか？」
* 部長が微笑みながら両さんの肩に手を置く。
**部長：** 「勘吉、それは内緒にしておいてくれないか。誰にも言わないと約束してくれるだろう？それにしても、そんなところから新しいガジェットが出てくるとは驚きだよ。後でちゃんと片付けておくよ」
* 両さんが満足そうに頷く。
**両さん：** 「了解です！でも部長、これからは置き忘れ物に注意してくださいね。みんなで笑ってますから（笑）」
* 周囲の同僚たちが笑い声に包まれる中、会話は続く。
---
CPU times: user 28.2 ms, sys: 1.27 ms, total: 29.4 ms
Wall time: 8.07 s
葛飾区役所の物語に。これは新しい。
wikipediaの北岳のページをlanchain(STUFF)でまとめさせます。
北岳（きただけ）は、山梨県南アルプス市にある山。赤石山脈（南アルプス）の南部に位置し、標高3,193メートルは富士山に次ぐ日本第2位の高さである。深田久弥の日本百名山のひとつに選定されている。「北岳」の名は、この山のすぐ南側にある間ノ岳よりも高いという意味で付けられた。間ノ岳と合わせて両俣岳とも呼ばれる。飛騨山脈の槍ヶ岳と同じ山容をしていることから、南アルプスの槍ヶ岳の異名を持つ。
CPU times: user 456 ms, sys: 3.86 ms, total: 460 ms
Wall time: 3.62 s
コンパクトにまとめます。
日本語でプロンプトを入れ込みます。
北岳に関する情報を含むテンプレートが返されます。このテンプレートには、山の名称、位置、標高、関連するカテゴリや外部リンクなどが含まれています。また、最終更新日時やライセンスに関する情報も記載されています。
CPU times: user 431 ms, sys: 3.09 ms, total: 434 ms
Wall time: 2.44 s
回答の質が悪くなりました。が、コンパクトですね。
