rinnaさんより、qwen2.5-bakeneko-32b-instructが発表されました。Qwen2.5は基本性能も高く、他のチューニングモデルも高い性能を有しています。皆さん早速試されていて評判も高いようです。楽しみです。自分でやってみます。mmngaさんによるggufモデルを試します。Colab L4環境でためしてみます。VRAM占有率は21589MiB / 23034MiBでした。
生成結果は、今回は文字化けはありましたが、親しみやすい漢字・かなのバランスの回答のように感じました。計算がバカになったりすることもありません。会話でも使いやすそうな印象です。参照文章も拾ってくれているようで、LoRAで語調を変えて、参照文章で情報をあたえて・・・とやると、ロールプレイのようなこともできそうです。
量子モデルながら32Bクラスでこの性能が出せるようになったと思うと、LLMの小型化と、ハードウエアとコストのバランスがよくなるのももうすぐかも。
まどか☆マギカで一番かわいいのは？
「魔法少女まどか☆マギカ」には魅力的なキャラクターが多く、それぞれに個性的な魅力があります。どのキャラクターが一番かわいいかは、人によって意見が分かれるところでしょう。
以下のようなキャラクターが特に人気を集めています：
1. 峰守まどか
2. 巴マミ
3. 見滝原千尋（キュゥべえ）
4. 香苗さくら
5. 松尾ほむら最終的には好みの問題ですが、多くのファンはまどかやほむらを特に可愛らしいと感じるようです。
あなた自身のお気に入りのキャラクターは誰ですか？
CPU times: user 45.4 ms, sys: 6.25 ms, total: 51.6 ms
Wall time: 13.7 s
おっと、人物関係は間違ってますね。
まどか☆マギカのキャラクターのテキストを参照して回答してください。
まどか☆マギカで一番かわいいのは、誰ですか？（割愛）
まどか☆マギカのキャラクターの中で誰が一番かわいいかは、個人の好みによって異なるため一概には言えません。それぞれの魔法少女たちは特徴的な魅力を持っており、以下に簡単にまとめます。
- 鹿目 まどか（かなめ まどか）：純粋で優しい性格が魅力的。
- 暁美 ほむら（あけみ ほむら）：強い意志と知性を持つ姿がかわいらしいと感じる人も多いです。
- 美樹 さやか（みき さやか）：元気いっぱいのキャラクターで、その活発な性格が魅力的。
- 巴 マミ（ともえ マミ）：落ち着いた雰囲気が魅力的なベテラン魔法少女です。これらのキャラクターはそれぞれ異なる魅力を持っていますので、誰を一番かわいいと思うかはあなた次第と言えるでしょう。またキュゥべえもその独特な外見と性格から人気があります。
CPU times: user 78.9 ms, sys: 11.9 ms, total: 90.7 ms
Wall time: 24.8 s
参照文章を入れると、いい感じの答えをしてくれます。
日本で二番目に高い山を検討して答えてください。日本語で回答してください。
日本で二番目に高い山は、群馬県、長野県、静岡県の境に位置する「白根山(はくねさん)」ではなく、「荒島岳（あらしまたけ）」でもなく、「妙高主峰（たけしなしゅüp）」でもありません。
実は日本で二番目に高い山は「北岳（きただけ）」です。富士山に次いで標高が高く、静岡県と長野県の県境に位置しています。その標高は3,193メートルです。アルプス山脈の南アルプスに属し、南アルプスの最高峰でもあります。
ただし、北岳は厳密な意味での独立峰ではなく、複数のピークを持つ巨大なマントル型の山である「赤石山塊」（あかいわさんかい）の中にある一つの頂点です。この点を考慮に入れるかどうかで、「日本第二位の山」とされる対象は変わるかもしれません。
ただし一般的には北岳が二番目に高いと認識されています。
CPU times: user 67.7 ms, sys: 13.2 ms, total: 80.9 ms
Wall time: 21.7 s
ちょっと化けていますが、答えは正解です。いろんな情報も加えて答えていますけれども真偽は検証していません。
以下を簡単にまとめてください。
ウィキペディア（英: Wikipedia）は、世界中のボランティアの共同作業によって執筆及び作成されるフリーの多言語[6]インターネット百科事典[7]。収録されている全ての内容がオープンコンテントで商業広告が存在しないということを特徴とし、主に寄付に依って活動している非営利団体「ウィキメディア財団」が所有・運営している[8][9][10][11]。「ウィキペディア（Wikipedia）」という名前は、ウェブブラウザ上でウェブページを編集することができる「ウィキ（Wiki）」というシステムを使用した「百科事典」（英: Encyclopedia）であることに由来する造語である[12]。設立者の1人であるラリー・サンガーにより命名された[13][14]。
ウィキペディアは、世界中のボランティアが共同で執筆するフリーの多言語インターネット百科事典です。全てのコンテンツがオープンコンテントであり、商業広告はありません。運営は非営利団体「ウィキメディア財団」が行い、主に寄付によって資金を得ています。名前はウェブページを編集できる「ウィキ」と「百科事典」から来ており、ラリー・サンガーによって命名されました。
CPU times: user 39.2 ms, sys: 1.9 ms, total: 41.1 ms
Wall time: 10.3 s
そつなく、網羅的にまとめています。
1+1*2+3/2+2^10を計算してください。計算が終わったら検算をしてください。最後に最終的な計算経過と結果を答えてください。
もちろんです、ステップバイステップで計算していきましょう。
まず、計算の優先順位は指数→乗除→加減となります。
式は以下です：
1 + 1 * 2 + 3 / 2 + 2 ^ 10最初に指数を計算します。
2^10 = 1024次に、乗法と除法を行います。
1 * 2 = 2
3 / 2 = 1.5したがって、式は以下のようになります：
1 + 2 + 1.5 + 1024最後に加算をします。
1 + 2 + 1.5 + 1024 = 1028.5計算の検算を行います。元の式に戻って、同じ手順で確認してみます。
1 + (1 * 2) + (3 / 2) + (2 ^ 10)
= 1 + 2 + 1.5 + 1024
= 1028.5よって最終的な計算経過と結果は以下の通りです：
1 + 1 * 2 + 3 / 2 + 2^10 = 1 + 2 + 1.5 + 1024 = 1028.5答え：1028.5
CPU times: user 88.7 ms, sys: 13.9 ms, total: 103 ms
Wall time: 27.5 s
問題なくこなします。
両さんと部長の話を創作してください。
ここでは、架空の会社で働く「両さん」と「部長」の会話シーンを創作します。
---
両さんは朝から慌ただしくデスクに座り、資料を見ながら考え込んでいました。すると突然ドアが開き、部長が入ってきました。「おはようございます、両さん。今日は何か進捗ありますか？」
「おはようございます、部長。はい、新規プロジェクトの提案書を作成しているところなんですが...」と両さんが答える。
「なるほど、具体的にどんな内容ですか？」と興味深そうに聞く部長。「まずは市場調査から始めていますが、競合他社の動向も把握する必要があると思います」と応じる両さん。
「その通りですね。でも焦らず一つずつ丁寧に進めて行きましょう。あなたの力を信じていますよ」部長は優しくエールを送ると、他の用件で出て行きました。
このやり取りを見ていた周りのスタッフたちは、「両さんと部長って、とても信頼関係ができているな」と感じていました。
---
以上のような会話になります。ただし、これは架空の設定ですので、実際のご自身のお仕事や関係性とは異なる可能性があります。
CPU times: user 83.8 ms, sys: 10.3 ms, total: 94.1 ms
Wall time: 25 s
短めですが、バランスのよい会話ではないでしょうか。
Wikipediaの北岳のページをlangchain(stuff)でまとめます。
北岳は、山梨県と長野県にまたがる南アルプスの最高峰で、標高3,193メートルの山です。日本百名山の一つであり、その美しい景観と登山の魅力から多くの登山者に親しまれています。北岳は仙丈ヶ岳とともに双耳峰を形成しており、南アルプス国立公園内に位置しています。また、山梨県の山梨百名山にも選ばれており、日本の代表的な山岳地帯の一つとして知られています。
CPU times: user 490 ms, sys: 16.4 ms, total: 506 ms
Wall time: 15.9 s
割とすっきりですね。
日本語のプロンプトにしています。
あなたが提供したテキストは、北岳に関するウィキペディアの記事の一部を含んでいます。以下にその内容を整理してまとめます。
### 北岳について
- **位置**: 南アルプスの山で、山梨県南アルプス市と静岡県富士宮市の境界にある。
- **高度**: 3,193メートル
- **特徴**:
- 日本百名山の一つ
- 山梨百名山の一つ
- 南アルプスの最高峰### 参考文献や情報源
- 外部リンクとして、VIAF（Virtual International Authority File）とNDL（National Diet Library）の識別子が指定されている。
### ウィキペディア記事の注意点
- 一部の外部リンクはリンク切れになっている可能性がある。
- 記事自体は「書きかけ」であるため、情報が完全でない部分もあるかもしれません。この要約は提供されたテキストに基づいています。詳細な情報を得るには、直接ウィキペディアの北岳に関する記事を参照することをお勧めします。
CPU times: user 547 ms, sys: 22.8 ms, total: 570 ms
Wall time: 28.6 s
少し硬い感じになりましたが、網羅的に搔い摘んでいるようです。
