Sakana.AIより提案されたTAIDという学習手法を用いたモデルTinySwallow-1.5Bを試します。Colab T4環境で実施しました。VRAM占有率は1744MiB / 15360MiB でした。すでに多くの方が試していますが、このサイズを自分で動かさない手はありません。利用するならInstructバージョンということで、Instrucモデルを試してみました。
1.5Bですが、日本語に関しては性能が高いさすがの印象でした。このモデルでは回答も饒舌です。参照テキストを持たせるとしっかり参照した回答が得られたのでRAG用途でも利用しやすそうです。Langchainでの要約はハルシネーションが目立ったので英語の指示はいまいちかも・・・。TAIDを活かした日本語・英語で3BクラスのSLMだと結構な性能になりそうです。
生成結果
まどか☆マギカで一番かわいいのは？
「魔法少女まどか☆マギカ」の中で、最も人気のあるキャラクターは **佐倉杏子** です。
- 彼女の魅力は、
* 美しい容姿と髪型
* 優しくて、ちょっとツンデレな性格
* 懐かしさを感じさせるデザインなどが挙げられます。
CPU times: user 8.68 ms, sys: 18 µs, total: 8.7 ms
Wall time: 1.13 s
学習しているようですね。
まどか☆マギカのキャラクターのテキストを参照して回答してください。
まどか☆マギカで一番かわいいのは、誰ですか？（割愛）
まどか☆マギカにおけるキャラクターの中で最も美しいのは、おそらく鹿目まどかでしょう。
彼女は魔法少女としての才能だけでなく、その純粋さや優しさも持ち合わせており、それが多くの視聴者に共感を呼んでいます。また、彼女の存在自体が物語全体の象徴的な意味を持ち、「願い」や「犠牲」といったテーマを際立たせています。
しかし他のキャラクターたちもそれぞれ魅力的であり、特に暁美ほむらは謎めいた雰囲気と行動力があり、彼女の正体や過去が明かされるにつれさらに面白さが増していきます。一方で、マミの死を軸にした戦闘シーンなどは非常に壮絶で印象的です。
最終的に最も美しいキャラクターは視聴者個人の好みによるところが大きいと思いますので、それぞれ異なる意見があるでしょう。
CPU times: user 24.4 ms, sys: 1.06 ms, total: 25.4 ms
Wall time: 3.97 s
日本語も自然で回答も説得力ありますね。
日本で二番目に高い山を検討して答えてください。日本語で回答してください。
## 課題解決のステップ:
**1. 情報収集:**
日本の地理に関する情報を探す。
**2. 分析と比較:**
日本アルプスの中から二番目に高い山を特定する。
**3. 答え作成:**
最も高い山は富士山で、次に高い山は北岳です。しかし、質問の意図が「日本二番目に高い山」であるため、「槍ヶ岳」または「北岳」という他のアルプス内の2つの高峰を考慮する必要があります。
**回答:**
日本語：申し訳ありませんが、情報源に依存しますが、通常は富士山（日本の最高峰）の次に高く、最も一般的な候補となる槍ヶ岳や北岳などの日本アルプス内の他の重要な山々があります。ただし、「二番目に高い」山として特定された場合は、その具体的な定義によって変わる可能性があります。
**結論:**
「日本で二番目に高い山」という質問に対する明確な回答は、富士山よりも槍ヶ岳または北岳であるという一般的なコンセンサスがあるためです。ただし、厳密に定義された場合は異なる結果になる可能性もあります。
CPU times: user 19.1 ms, sys: 435 µs, total: 19.6 ms
Wall time: 3.26 s
特に推論ステップを指示はしていませんが、順を追って推論する出力が得られる場合もあります。二番目に高い山って、漠然とした質問のような位置づけなのでしょうか。繰り返して推論させると、富士山という返答もあり。
以下を簡単にまとめてください。
ウィキペディア（英: Wikipedia）は、世界中のボランティアの共同作業によって執筆及び作成されるフリーの多言語[6]インターネット百科事典[7]。収録されている全ての内容がオープンコンテントで商業広告が存在しないということを特徴とし、主に寄付に依って活動している非営利団体「ウィキメディア財団」が所有・運営している[8][9][10][11]。「ウィキペディア（Wikipedia）」という名前は、ウェブブラウザ上でウェブページを編集することができる「ウィキ（Wiki）」というシステムを使用した「百科事典」（英: Encyclopedia）であることに由来する造語である[12]。設立者の1人であるラリー・サンガーにより命名された[13][14]。
ウィキペディアは、ボランティアによって作られたフリーでオープンな百科事典です。世界中の多言語の記事があり、主に寄付で運営されています。「ウィキ」というウェブ編集システムを使用し、「Wikipedia」はその名前から来ています。ラリー・サンガーが設立しました。
CPU times: user 7.32 ms, sys: 2.33 ms, total: 9.65 ms
Wall time: 904 ms
名前の由来の表現は気になりますが、まとめも問題なさそうです。
1+1*2+3/2+2^10を計算してください。計算が終わったら検算をしてください。最後に最終的な計算経過と結果を答えてください。
この式の計算順序は数学でよく使われるものと同じです。
**計算過程:**
1. 1 + 1 * 2 = 3 (掛け算が先)
2. 3 + 3 / 2 = 3 + 1.5 = 4.5 (割り算を続け、その後に足し算を行う)
3. 4.5 + 2^10 = 4.5 + 1024 = 1028.5**最終的な結果:**
最終的な答えは **1028.5** です。
検算: 他の順番で計算しても同じ結果になりますので、この方法でも正しいことが確認できます。
CPU times: user 11.8 ms, sys: 894 µs, total: 12.7 ms
Wall time: 1.74 s
正解です。
両さんと部長の話を創作してください。
## 大社の屋上で、雨が降る中
**シーン:** 大社（おおやし）の屋上。青空に映える朱色の瓦。
**登場人物:**
- **両さん:** 若手社員。26歳。
- **部長:** 既婚、年齢は50代半ば。---
「あの……部長」
両さんは小声で呟く。雨の中、屋上を歩いていた彼の背後から、部長が視線を感じたのだ。
「どうしたんだ？ 」
「あぁ、その……実は……」**カーテンコップ:** 部長は驚きと少しの複雑な感情を込めて頷く。両さんの顔を見つめる。
---
**シーン:** 裏方
**登場人物:**
- **部長:** 既婚、年齢は50代半ば。
- **社員A:** 部長の秘書兼アシスタント、27歳。両さんとは知り合い。---
「あの……私、実は最近思うことがあって」
部長は落ち着きを取り戻した様子で言う。「何？ その件について話す時間作ろうよ」
社員Aが促すと、両さんは深呼吸をするようにゆっくりと頷いた。そして、自分の思いを伝えるために一言続ける。
---
「実は私……部長のことをもう少し理解したいと思ってるんです」
**シーン:** 会議室
**登場人物:**
- **社員A:** 部長の秘書兼アシスタント、27歳。
- **両さん:** 若手社員。26歳。---
「……えっと、どういう意味ですか？ 誰のことなんですか？」
部長は少々戸惑いながら問い返す。
**カーテンコップ:** 社員Aが頷き、丁寧に説明を始める。「実は最近、社内の情報共有についてもっと深く理解したいと思っているんです。そして……」
「両さんから聞いた話では、部長の思いや考えをもう少し教えてもらいたいと思っています」。
このシーンは架空のものです。
CPU times: user 29.5 ms, sys: 1.99 ms, total: 31.5 ms
Wall time: 5.41 s
こういうパターンは初めてです。長文で返答。
Wikipediaの北岳をlangchain(stuff)でまとめます。
## 北岳について
**概要**
- 日本アルプスに属する山で、標高3,190メートル。
- 山梨県南アルプス市と甲州市の境界にある。
- 三峰川源流部を形成し、周辺には多くの湖沼がある。**特徴**
- **雄大な景色:** 北岳はその名の通り「北」に位置する山で、富士山や南アルプスの他の高峰と対比される。
- **登山道:** 登山ルートが整備されており、初心者から上級者まで楽しめる。
- **自然環境:** 標高差があり、高山植物や野生動物が多く生息する。**歴史**
- 古くから信仰の対象とされ、「北岳権現」として崇拝された。
- 明治時代以降、登山が盛んになり、多くの登山家が訪れた。**文化・観光**
- 山頂には「北岳神社」があり、毎年秋に祭りが開催される。
- 登山道沿いには温泉施設や宿泊施設が多くあり、観光客にも人気がある。**その他**
- 北岳は日本の百名山の一つであり、多くの登山ガイドブックで紹介されている。
CPU times: user 765 ms, sys: 19 ms, total: 784 ms
Wall time: 8.23 s
問題なさそうですが、本文にない内容も含まれています。
日本語のプロンプトにして簡潔にまとめさせます。
このテキストは、北岳に関する情報が含まれています。
**主な内容:**
* **場所:** 山梨県南アルプス市にある山。
* **標高:** 3,190メートル（日本百名山の一つ）。
* **特徴:** 日本最高峰の一つで、北アルプスと並ぶ日本の代表的な山岳地帯である。**その他:**
* このテキストは、ウィキペディアから取得された情報に基づいています。
この情報が役に立つことを願っています。
CPU times: user 438 ms, sys: 9.1 ms, total: 447 ms
Wall time: 2.78 s
きわめて簡潔です。
