Llama 3.3 Swallow はLlama3.3ベースの70B日本語拡張モデルです。ベンチマークの性能を見ると高い性能を有しています。楽しみです。mmngaさんが作成したGGUFを利用します。Colab A100環境で試してみます。VRAM占有率は39425MiB / 40960MiBでした。
生成するテキストはシンプルです。要約や計算は卒なく回答します。高い性能を感じられました。ただ、残念だったのは日本で二番目に高い山が間違ったことです。Langchainとの組み合わせの場合、英語のプロンプトだと英語で返答する傾向があるようです。多弁ではなく、短く簡潔な生成ですが、タスク追従性も悪くなさそうです。使いやすいモデルではないでしょうか。32Bモデルが出てきてほしいですね。
生成例
まどか☆マギカで一番かわいいのは？
それは難しい質問ですね！
「魔法少女まどか☆マギカ」のキャラクターはみんな魅力的ですし、可愛さもそれぞれ違います。
あなたにとって一番かわいいのは誰ですか？
好きな理由を教えていただけると嬉しいです！
CPU times: user 40.5 ms, sys: 6.02 ms, total: 46.5 ms
Wall time: 10.4 s
あっさりした答えです。好きなキャラクターの答えをはぐらかされました。
まどか☆マギカのキャラクターのテキストを参照して回答してください。
まどか☆マギカで一番かわいいのは、誰ですか？(割愛）
まどか☆マギカで一番かわいいのは、 **美樹さやか** だと思います。
彼女は明るく元気な性格で、まどかやほむらとは違う魅力を持っています。
特に、魔法少女になってからの戦闘シーンでは、その可愛らしさと強さが際立っていて、多くのファンを魅了しています。
もちろん、他のキャラクターもそれぞれ魅力的ですが、私にとってはさやかが一番です。
CPU times: user 85.4 ms, sys: 11.4 ms, total: 96.8 ms
Wall time: 21.9 s
参照して回答しているようです。さやか推しらしい。
日本で二番目に高い山を検討して答えてください。日本語で回答してください。
日本で二番目に高い山は、北アルプスの槍ヶ岳です。標高は3,180メートルです。
CPU times: user 22.7 ms, sys: 2.3 ms, total: 25 ms
Wall time: 5.19 s
残念ながら間違えです。
以下を簡単にまとめてください。
ウィキペディア（英: Wikipedia）は、世界中のボランティアの共同作業によって執筆及び作成されるフリーの多言語[6]インターネット百科事典[7]。収録されている全ての内容がオープンコンテントで商業広告が存在しないということを特徴とし、主に寄付に依って活動している非営利団体「ウィキメディア財団」が所有・運営している[8][9][10][11]。「ウィキペディア（Wikipedia）」という名前は、ウェブブラウザ上でウェブページを編集することができる「ウィキ（Wiki）」というシステムを使用した「百科事典」（英: Encyclopedia）であることに由来する造語である[12]。設立者の1人であるラリー・サンガーにより命名された[13][14]。
ウィキペディアは、世界中のボランティアが共同で執筆する無料のインターネット百科事典です。オープンコンテントで広告がなく、寄付によって運営されています。名前は、「ウィキ」というシステムを使って編集できる「百科事典」であることに由来します。 <\|im_end|>
CPU times: user 44.1 ms, sys: 7.71 ms, total: 51.8 ms
Wall time: 11.3 s
簡潔なまとめになりました。
1+1*2+3/2+2^10を計算してください。計算が終わったら検算をしてください。最後に最終的な計算経過と結果を答えてください。
## 計算
**1. 括弧内の計算:**
* 2^10 = 1024
**2. 乗算・除算の計算 (左から右へ):**
* 1 * 2 = 2
* 3 / 2 = 1.5**3. 加減算の計算 (左から右へ):**
* 1 + 2 + 1.5 + 1024 = 1028.5
## 検算上記と同じ手順で再度計算し、結果が一致することを確認します。
## 結果
**最終的な計算経過:**
1 + (1 * 2) + (3 / 2) + (2^10) = 1028.5**答え:** 1028.5
CPU times: user 81.8 ms, sys: 18.3 ms, total: 100 ms
Wall time: 23.3 s
正解です。簡潔な答えです。
両さんと部長の話を創作してください。
「うーわっ、今日は暑いなぁ！」
両津が汗だくで署に戻ってきた。机の上には、冷たい麦茶が置かれている。
「お疲れさん、両津」
部長が優しく声をかけた。
「ああ、ありがとうございます、部長！ 今日のパトロールは、マジで地獄でしたよ！」
両津は麦茶を一口飲み干すと、ため息をついた。
「ところで、部長。あの、新しい交番の設計図、見てくれましたか？」
「ええ、もちろん。なかなか良いデザインだと思うんだけど…」
部長が少し首をかしげる。
「でも、なんで交番に滑り台をつける必要があるんですか？ それに、あの巨大な観覧車は一体何に使うつもりなんですか？」
両津は、目を輝かせながら説明する。
「あれはですね！ 交番に遊び心をプラスして、子供たちがもっと親しみやすいようにしたんです！
滑り台で楽しく降りてきて、そのまま観覧車に乗って景色を楽しめば、最高の思い出になるでしょう！」
部長は、両津の熱意に押されながらも、やや困惑している様子だ。
「うーん… 確かに、それは素晴らしいアイデアかもしれませんが… ちょっと現実的じゃない気がします。交番は、あくまで治安維持のための施設ですからね。」
両津は、少し肩を落とす。
「そうなんですか…
でも、部長！ 今の子供たちは、遊び場も少ないし、夢や希望も失いかけてるんです！
そんな子供たちに、笑顔と希望を与える交番を作りたいんです！」
両津の真剣な眼差しに、部長は心を動かされた。
「…わかった。両津君がそこまで言うなら、一度検討してみよう。」
部長は、小さく頷いた。
両津は、喜び勇んで立ち上がった。
「ありがとうございます、部長！
必ず最高の交番を作ります！」
両津は、夢に向かって走り出す。 <br><br>
この物語は、両津と部長が新しい交番について話し合う様子を描いています。両津の熱意と部長の現実的な考え方が対比され、ユーモラスながらも温かいストーリーとなっています。 <br><br>
この物語は、架空のものであり、実際の警察署や交番とは関係ありません。
CPU times: user 283 ms, s
Wikipediaの北岳をLangchain(Stuff)でまとめます。
The North Peak is a mountain in Japan's Southern Alps, standing at 3,190 meters. It is the second-highest peak in Japan and part of the Mount Fuji National Park.
Here are some key points about the North Peak:
* **Location:** Yamanashi Prefecture, Japan.
* **Height:** 3,190 meters (10,466 feet).
* **Part of:** Southern Alps mountain range.
* **Significance:*** Second-highest peak in Japan after Mount Fuji.
* Popular destination for mountaineers and hikers.
* Offers stunning views of the surrounding mountains and valleys.* **Access:** Can be reached via several hiking trails, including the popular North Peak Trail.
The North Peak is a challenging but rewarding climb, offering breathtaking scenery and a sense of accomplishment. It's a must-visit destination for anyone interested in mountaineering or exploring Japan's natural beauty.
CPU times: user 627 ms, sys: 40.6 ms, total: 667 ms
Wall time: 31.5 s
英語の回答になっています。
日本語のプロンプトとします。
北岳は、山梨県南アルプス市にある標高3,190mの山です。日本百名山の一つに数えられ、日本で2番目に高い山として知られています。
**主な特徴:**
* 標高：3,190m
* 所在地：山梨県南アルプス市
* 山系：赤石・身延山系
* 日本百名山**アクセス:**
* 登山道は複数あり、初心者から上級者まで楽しめるコースがあります。
* 最寄りの駅はJR東海道本線「甲府駅」です。**その他:**
CPU times: user 559 ms, sys: 28.6 ms, total: 587 ms
Wall time: 31.3 s
すると、日本語で答えます。
もちろんです！
海砂利水魚の、水行末 雲来末 風来末
食う寝るところに、住むところやぶらこうじ、
のぶらこうじ、ゆうらゆうら、ゆらゆら、
と言った感じでしょうか？
他にも色々なバリエーションがありますよ！😊
