地平線まで行ってくる。

記録あるいは忘備録。時には検討事項。

command-r7bをollamaとColabで試す。

Cohere、command-r7b。試してみます。7Bでどこまでできるんだろうという興味本位です。ColabのT4環境です。と、なんとなく、ollama公式のモデルを実行してみると、意外と実力あります。ollama公式のGGUFファイルなので日本語の調整は入ってないでしょう。そこで、mmngaさんの日本語調整ありのGGUFファイルに切り替えて試しました。VRAM占有率は6611MiB / 15360MiBでした。

 

公式と比較して日本語以外の言語が混じるところは減りました。ですが、日本で二番目の高さの山を間違うようになりました。割と淡泊な回答をします。計算力もありますし、添えた文章を参照した回答や要約も問題なし。簡単なRAGやタスクには使えそう。ライセンスがCC-BY-NC 4.0なので、いまいち盛り上がらないのかな・・・。

 

docs.cohere.com

 

huggingface.co

 

まどか☆マギカで一番かわいいのは?

まどか☆マギカは、多くの魅力的なキャラクターが登場しますが、「かわいさ」という点で特に際立っているキャラクターは複数います。

例えば、鹿目まどかは主人公であり、純粋で好奇心旺盛な性格が特徴です。彼女の無垢な姿と、時に見せる優しさや勇気は多くの心を掴んでいます。また、巴マミは強靭な精神力を持つ熟女で、厳格な態度ながら内側には柔らかい感情を抱えている姿が印象的です。彼女の成長もまた、物語の重要な要素となっています。

それだけでなく、美樹さやか佐倉杏子などのキャラクターもそれぞれ個性的で愛嬌のある行動や魅力的なビジュアルでファンを魅了しています。

したがって、「かわいさ」という観点から1人を選ぶのは難しいですが、上述したような多様なキャラクターの魅力を楽しむことがこの作品の魅力の一つと言えるでしょう。<|END_RESPONSE|>
CPU times: user 33.2 ms, sys: 4.57 ms, total: 37.8 ms
Wall time: 6.86 s

それなりに情報はもっているようですけど、熟女が存在する!?

 

まどか☆マギカのキャラクターのテキストを参照して回答してください。
まどか☆マギカで一番かわいいのは、誰ですか?

# まどか☆マギカのキャラクター

(略)

まどか☆マギカのキャラクターの中で一番かわいいと感じるのは、鹿目まどかだと言えるでしょう。

主人公であるまどかは、中学2年生の平凡な少女ですが、魔法少女としての素質を持ち、キュゥべえから契約を迫られるようになります。彼女は最初、魔法少女に夢を見ていたようですが、徐々に魔法少女の実態を知るにつれ、その認識を改めていきます。この過程で、彼女の純粋さや好奇心、そして勇気などが描かれ、それが彼女のかわいらしさをより引き立たせていると言えるでしょう。

また、まどかのキャラクター設定には、年齢や性格、夢など、具体的な背景が丁寧に作られています。その中で、彼女は自身の真の願いを見出し、魔法少女の悲劇を終わらせるためにキュゥべえとの契約を決意するという、強くて美しい行動を示します。このような彼女の強さとかわいらしさのバランスが、多くのファンから愛される要素になっていると言えるでしょう。<|END_RESPONSE|>
CPU times: user 47.1 ms, sys: 7.28 ms, total: 54.4 ms
Wall time: 9.3 s

参考文献をしっかり参照しているようです。結構いい感じの回答です。

 

日本で二番目に高い山を検討して答えてください。日本語で回答してください。

日本第二の高峰は、富士山の3775メートルの約1.4倍、5269メートルある北アルプスの「剱岳」です。<|END_RESPONSE|>
CPU times: user 274 ms, sys: 18.1 ms, total: 292 ms
Wall time: 1.68 s

5269mとな・・・。

 

ollama公式のモデルでじゃ以下です。

日本二番目に高い山は、**北岳**です。北アルプスの中心部に位置し、標高3,190.2メートルあります。その鋭い姿から「 알프스의 왕관」とも呼ばれています。
CPU times: user 9.14 ms, sys: 2.33 ms, total: 11.5 ms
Wall time: 1.65 s

韓国語まじりですが、悪くない答えです。

 

以下を簡単にまとめてください。

ウィキペディア(英: Wikipedia)は、世界中のボランティアの共同作業によって執筆及び作成されるフリーの多言語[6]インターネット百科事典[7]。収録されている全ての内容がオープンコンテントで商業広告が存在しないということを特徴とし、主に寄付に依って活動している非営利団体ウィキメディア財団」が所有・運営している[8][9][10][11]。「ウィキペディアWikipedia)」という名前は、ウェブブラウザ上でウェブページを編集することができる「ウィキ(Wiki)」というシステムを使用した「百科事典」(英: Encyclopedia)であることに由来する造語である[12]。設立者の1人であるラリー・サンガーにより命名された[13][14]。

もちろんです!簡単にまとめました。

ウィキペディアは、世界中のボランティアが執筆する無料の多言語インターネット百科事典です。オープンコンテンツで広告なしを特徴とし、ウィキメディア財団が所有・運営しています。名前は「ウィキ」システムを用いた「百科事典」から、設立者のラリー・サンガーが名付けました。<|END_RESPONSE|>
CPU times: user 17.6 ms, sys: 1.75 ms, total: 19.4 ms
Wall time: 2.83 s

文章はWikipediaより。まずまずな要約です。

 

1+1*2+3/2+2^10を計算してください。計算が終わったら検算をしてください。最後に最終的な計算経過と結果を答えてください。

計算の結果は「**171」**です。検算も完了しました。計算経過は以下の通りです。

1. 1 + 1*2 = 3
2. 3 + 3/2 = 4.5
3. 4.5 + 2^10 = 4.5 + 1024 = 1028.5

したがって、最終的な結果は **1028.5** です。<|END_RESPONSE|>
CPU times: user 20.7 ms, sys: 2.27 ms, total: 22.9 ms
Wall time: 3.42 s

冒頭の171がなんだかはわかりませんが、最終的にな結果は正解です。

 

両さんと部長の話を創作してください。

「今度の新しいプロジェクト、任せるよ。チームリーダーとして、皆をまとめてくれ」

「はい! 力になります!」

「それじゃあ、まずは基本的な計画を立てるんだ。君の得意分野を生かして、アイデアを出してみて」

「わかりました! チームのみんなとも相談しながら、素晴らしい計画を立てたいと思います」

「そうだな、このプロジェクトは重要なものになるはずだ。私たちも全力を尽くすからな」

「ありがとうございます!全力で取り組みます!」<|END_RESPONSE|>
CPU times: user 24.5 ms, sys: 1.12 ms, total: 25.6 ms
Wall time: 4.2 s

短めの文章です。

 

北岳 - Wikipedia をlangchain(stuff)でまとめます。

北岳は、日本にある山で、標高2,961mです。山梨県と長野県にまたがっています。北岳は、日本百名山の一つであり、日本アルプスの主要な山々の一つとして知られています。その美しさと自然の豊かさから、多くの登山者や観光客が訪れています。

主な特徴:
- 標高2,961m
- 山域: 山梨県と長野県
- 登山ルート: 様々なルートがありますが、最も人気のあるのは南麓からのルートです。
- 季節: 春から秋にかけての期間に最適です。
- 見どころ: 頂上からの眺めは素晴らしく、富士山や八ヶ岳などの山々を一望できます。
- 自然: 森林帯から山頂まで続く多様な植物帯があり、自然観察にも適しています。

北岳は、その自然の美しさと冒険心を刺激する環境から、登山家や自然愛好家にとって人気の高い場所となっています。<|END_RESPONSE|>
CPU times: user 918 ms, sys: 17.2 ms, total: 935 ms
Wall time: 12 s

高さ間違ってます・・・。残念です。

 

日本語のプロンプトでやりなおし。

北岳は、日本にある山の一つで、山梨県と長野県にまたがる。標高3,193mで、日本百名山のひとつである。北岳は、その美しい景観と難易度の高い登山ルートで知られており、多くの登山家や自然愛好家が訪れる。

主な特徴:
- 標高3,193m
- 山域:山梨県、長野県
- 登山ルート:困難なルートが多数存在
- 季節:春から秋にかけての期間に人気
- 見どころ:山頂からの眺め、自然景観

北岳は、その険しい山容と美しい自然環境で知られており、登山家や自然愛好家の間で人気の高い場所である。<|END_RESPONSE|>
CPU times: user 776 ms, sys: 15.1 ms, total: 791 ms
Wall time: 9.05 s

コンパクトにまとめています。