地平線まで行ってくる。

記録あるいは忘備録。時には検討事項。

tokyotech-llm-Llama-3.1-Swallow-8B-Instruct-v0.3-ggufをollamaとColabでためしてみる。

tokyotech-llm-Llama-3.1-Swallow-8B-Instruct-v0.3-ggufを試してみます。GGUFは、mmngaさんが作成されたものを利用しました。楽しみです。ColabのL4環境です。VRAM占有率は 6357MiB / 23034MiBでした。

 

結果;日本語は自然です。知識量は8B相応だな、という印象です。それは仕方ないところです。要約もいい感じです。計算能力も意外といいのかなとおもいましたが、謎な検算をしていました。

 

小さな日本語モデルは、langchain用のファインチューニングセットとか、ライブラリとセットになると面白くなりそうな気がしてきました。

 

 

huggingface.co

 

huggingface.co

 

 6357MiB / 23034MiB

 

'まどか☆マギカで一番かわいいのは?

まどか☆マギカのキャラクターはみんな可愛いので、誰が一番かわいいかは人それぞれ好みです!

でも、

* **キュートな見た目と天然な性格**で人気なのは「 **さやか** 」でしょう。
* **クールビューティーでミステリアスな雰囲気**の「 **マミ** 」も魅力的です。
* **小悪魔的な魅力**を持つ「 **杏子** 」は、ファンを魅了する要素満載です。

他にも、それぞれのキャラクターに個性があり、可愛さもそれぞれ違います。

あなたにとって一番かわいいのは誰ですか?
CPU times: user 17.7 ms, sys: 5.26 ms, total: 23 ms
Wall time: 4.2 s

推しはいるようです。フレンドリーですね。

 

まどか☆マギカで一番かわいいのは?ストーリーを参照してください。

# まどか☆マギカのストーリー
魔法少女まどか☆マギカに登場するキャラクター

(略)

このテキストに基づいて、まどか☆マギカのキャラクターの中で一番かわいいのは誰でしょうか?という質問に対する回答を提示します。

**答え:**

このテキストからは、特定のキャラクターが「一番かわいい」と断言できるような情報は得られません。 

テキストでは、それぞれのキャラクターの容姿や性格、物語における役割について説明されています。しかし、「かわいい」かどうかは主観的な判断であり、このテキストから客観的に判断することはできません。

どのキャラクターが「一番かわいい」と感じるかは、読者の個人の好みによって異なります。 

**追加情報:**

* まどか☆マギカのキャラクターデザインは、可愛らしさと残酷さを両立させている点で評価が高いです。
* ファンの中には、それぞれのキャラクターのかわいさに魅力を感じる人も多いでしょう。

最終的には、あなた自身がどのキャラクターを一番かわいいと思うかは、あなたの判断に委ねられます。
CPU times: user 30.4 ms, sys: 3.07 ms, total: 33.5 ms
Wall time: 7.6 s

追加情報・・・。

 

日本で二番目に高い山を検討して答えてください。日本語で回答してください。

日本で2番目に高い山は、北海道にある **大雪山** です。 
標高は2,291メートルです。 
CPU times: user 6.63 ms, sys: 208 µs, total: 6.84 ms
Wall time: 966 ms

大雪山は初めてのパターンかも。

 

以下を簡単にまとめてください。

ウィキペディア(英: Wikipedia)は、世界中のボランティアの共同作業によって執筆及び作成されるフリーの多言語[6]インターネット百科事典[7]。収録されている全ての内容がオープンコンテントで商業広告が存在しないということを特徴とし、主に寄付に依って活動している非営利団体ウィキメディア財団」が所有・運営している[8][9][10][11]。「ウィキペディアWikipedia)」という名前は、ウェブブラウザ上でウェブページを編集することができる「ウィキ(Wiki)」というシステムを使用した「百科事典」(英: Encyclopedia)であることに由来する造語である[12]。設立者の1人であるラリー・サンガーにより命名された[13][14]。
ウィキペディアは、世界中のボランティアが共同で執筆する無料の多言語百科事典です。誰でも編集できるオープンソースで、広告はなく、寄付によって運営されています。「ウィキ」と「百科事典」を組み合わせた造語で、「Wikipedia」と名付けられました。 

設立者の1人であるラリー・サンガーが命名しました。 
CPU times: user 14.9 ms, sys: 1.94 ms, total: 16.8 ms
Wall time: 2.64 s

要約はよくできていますね。

 

1+1*2+3/2+2^10を計算してください。計算が終わったら検算をしてください。最後に最終的な計算経過と結果を答えてください。
計算手順は以下の通りです。

1. **指数演算:** 2^10 = 1024

2. **乗算:** 1 * 2 = 2

3. **除算:** 3 / 2 = 1.5

4. **加算と減算(左から右へ):**
   - 1 + 2 = 3
   - 3 + 1.5 = 4.5
   - 4.5 + 1024 = 1028.5


**検算:**

計算結果の各ステップを逆順に確認します。

- 1028.5 + 4.5 = 1033
- 1033 - 1 = 1032
- 1032 / 2 = 516
- 516 + 3 = 519
- 519 * 2 = 1038

計算結果が正しいことが確認できました。

**最終的な計算経過と結果:**

1+1*2+3/2+2^10 = **1028.5** 
CPU times: user 28.6 ms, sys: 2.25 ms, total: 30.8 ms
Wall time: 5.78 s

計算は正解ですが、検算の方法が謎です。どうどうとやられると、こういうやり方があるのか、と一瞬考えました。

 

両さんと部長の話を創作してください。
## 両さんと部長

「やあ、両さん!今日もいい天気だね!」

部長が笑顔で声をかけてきた。両さんは、いつものように机に向かってコーヒーを一口飲み込みながら返事をした。

「そうだな。太陽が気持ちいい。」

二人は、同じ会社の営業部で働く同僚だ。しかし、二人の関係は「上司と部下」にとどまらない。共通の趣味や話題を持つ、親しい友人でもある。

「ところで、昨日のサッカー観戦、どうだった?」

部長が興味津々に尋ねる。両さんは、週末に地元チームの試合を観に行ったばかりだ。

「ああ、あれは面白かった!あのゴールシーンは鳥肌立ったよ。」

両さんが熱く語り出すと、部長も目を輝かせて聞き入っていた。

「俺も見てたんだけど、本当にすごい試合だったよね。あれだけの迫力だと、心臓が飛び出しそうになるわ。」

二人は、サッカー談義に花を咲かせ、お互いの感想を交換し合った。仕事の話は一切なく、あくまで趣味の時間。

「ところで、両さん。あの新しいプロジェクト、どう思う?」

部長が少しだけ真剣な表情を見せる。両さんは、このプロジェクトのリーダーに抜擢されたばかりだ。

「ああ、それは確かにチャレンジングだな。今までにない規模の案件だから、慎重に進めていかないといけない。」

両さんは、少し考え込むように眉をひそめた。

「でも、面白そうじゃないか?新しい技術を取り入れて、新たな可能性を切り開けるチャンスだと思うよ。」

部長は、両さんの言葉に賛成するような笑顔を見せた。

「そうだな。期待しているよ、両さん。」

二人は、お互いの目を見て頷き合った。それぞれの立場は違えど、同じ目標に向かって進んでいく同士であることを実感した瞬間だった。

「じゃあ、今日も頑張ろう!」

部長が明るく言った。両さんも、それに応えるように笑顔を見せた。

二人の関係は、仕事とプライベートの境界線が曖昧なほど、深い絆で結ばれている。それは、お互いを尊重し、理解し合っているからこそ成り立つ、かけがえのない友情だった。 
CPU times: user 46.5 ms, sys: 8.94 ms, total: 55.5 ms
Wall time: 14.1 s

プロジェクトを成功させたというような、話が多い中、日常系の話を織り交ぜたストーリーが生成されました。

 

北岳 - Wikipedia をlangchainでまとめます。

This text appears to be a Japanese Wikipedia article about Mount Hokue, a mountain in the Southern Alps of Japan. 

Here's a breakdown:

* **Title:** 北岳 (Hokue), which translates to "Northern Peak"
* **Content:** The article provides information about the location, elevation, characteristics, and historical significance of Mount Hokue.
* **Categories:**

    * 山岳名目録 (Mountain Name List)
    * 山梨県の山 (Mountains of Yamanashi Prefecture)
    * 南アルプスの山 (Mountains of the Southern Alps)
    * 日本百名山 (Japan's 100 Famous Mountains)
    * 南アルプス市の地理 (Geography of Minamialps City)

* **Other Notes:**

    * The article mentions that Mount Hokue is one of Japan's 100 famous mountains.
    * It also states that the mountain is located in Yamanashi Prefecture and Minamialps City.

**Overall, this text provides a concise overview of Mount Hokue in Japanese.**

 

CPU times: user 887 ms, sys: 14.6 ms, total: 901 ms
Wall time: 7.99 s

英語(交じり)で生成されました。英語のプロンプトでは英語で答えるのでしょうか。

 

プロンプトを日本語で書いてみます。

prompt_template = """以下のテキストの簡潔な要約をします。:
"{text}"
要約:"""

北岳は、山梨県にある標高3,190mの山です。南アルプス国立公園内に位置し、日本百名山の一つに数えられています。

**特徴:**

* **雄大な景観:** 北岳は、その険しい岩峰と深い谷が織りなす雄大な景観で知られています。
* **登山ルートの多様性:** 初心者から上級者まで、様々なレベルの登山ルートがあります。
* **高山植物の宝庫:** 夏には、高山植物が咲き乱れる美しい風景を楽しむことができます。

**アクセス:**

* 車:中央自動車道「韮崎IC」から約2時間
* 電車:JR中央本線甲府駅」からバスで約3時間

**登山情報:**

* 登山シーズン:7月~9月
* 難易度:★★★(上級者向け)
* 標高差:1,500m以上
* 装備:登山靴、レインウェア、防寒着など

**注意点:**

* 天候の変化が激しいため、十分な準備と装備が必要です。
* 高山病に注意しましょう。

北岳は、登山愛好家にとって憧れの山の一つです。雄大な自然を満喫したい方におすすめです。 
CPU times: user 800 ms, sys: 19.5 ms, total: 819 ms
Wall time: 10.4 s

難易度を☆でまとめてています。細かいところまではチェックしていませんが、分かりやすいまとめになっています。

 

弥二さんと喜多さんの話を創作してください。

弥二さんと喜多さんの話
春の陽光が、古びたアパートの一室に差し込んでいた。窓辺には、茶色い毛並みの猫、弥二が昼寝をしていた。弥二は、この部屋で一人暮らしの老婦人、喜多さんと住んでいた。

喜多さんはかつて有名な歌手だったが、今は病に伏しベッドの上から外の世界を見ることしかできなかった。彼女の唯一の楽しみは、窓から見える景色と、弥二との触れ合いだった。

ある日、喜多さんの部屋に、若い女性が訪ねてきた。彼女は、喜多さんの昔からの友人で、近所に住んでいた。喜多さんは、久しぶりに会った友人に、弥二を紹介した。

「これが、私の相棒の弥二よ。この子のおかげで、私は毎日元気に過ごせるんだ」

若い女性は、弥二に優しく話しかけた。弥二は、眠そうに目を開き、ゆっくりと立ち上がった。喜多さんの言葉を聞いて、彼女が自分にとって大切な存在であることを改めて認識したようだった。

その日から、若い女性も、時々喜多さんの部屋を訪れるようになった。彼女は、弥二に餌を与えたり、一緒に遊んだりすることで、喜多さんと弥二の生活に溶け込んでいった。

ある夜、喜多さんは眠っている間に呼吸が止まってしまった。慌てた若い女性は、すぐに病院へ連れて行った。しかし、喜多さんの容態は回復せず、やがて息を引き取った。

弥二は、喜多さんの死を察知したかのように、悲しげな鳴き声を上げ続けた。若い女性は、弥二の悲しみに寄り添いながら、静かに歌を口ずさんだ。それは、かつて喜多さんが歌っていた懐かしいメロディーだった。

弥二と若い女性は、これからも喜多さんの思い出を分かち合いながら、静かに暮らしていくことだろう。弥二は、喜多さんの温もりをいつまでも胸に抱きしめ、彼女の歌声が聞こえるように、静かに耳を澄ませている。

面白ストーリーを期待したのですが、しんみりとした話になっています。

 


おまけ
70Bでのトライアルもやってみました。Colab L4環境でコーヒー飲みながら返答を待ちました。GGUFファイルはこちらのものを利用しました。

huggingface.co

 

まどか☆マギカで一番かわいいのは?

まどか☆マギカ」、おそらくは人気アニメ「魔法少女まどか☆マギカ」のことだと思います。この作品には魅力的なキャラクターが多数登場しますが、「一番かわいい」という評価は主観によって大きく変わります。以下に主要な魔法少女キャラクターを紹介し、それぞれの特徴を述べますので、ご自身で「一番かわいい」と思うキャラクターを見つけてみてください。

1. **鹿目まどか**:
   - 特徴:優しくて、他人を思いやる心が強い。見た目も可愛らしいと人気。
   - かわいいポイント:その無垢な笑顔、優しさ溢れる性格。

2. **暁美ほむら**:
   - 特徴:最初はクールで突き放した態度だが、実はまどかへの強い想いを持つ。
   - かわいいポイント:徐々に露になる乙女心、健気さ。

3. **美樹さやか**:
   - 特徴:スポーツが得意な活発系魔法少女。恋愛にも真っ直ぐ。
   - かわいいポイント:明るく元気な性格、純粋な恋心。

4. **佐倉杏子**:
   - 特徴:当初は利己的な面が目立つが、後に仲間想いの気持ちを示す。
   - かわいいポイント:強がりながらも見せる弱さや情の深さ。

5. **巴マミ**:
   - 特徴:経験豊富で自信家だが、内面には脆さを抱える。
   - かわいいポイント:プロの魔法少女としての自信と、時折見える繊細な部分。

これらのキャラクターすべてに、それぞれの「かわいい」が存在します。アニメを視聴し、それぞれのストーリーやキャラクター開発を通して、あなたが「一番かわいい」と思う魔法少女を見つけ出すのがおすすめです。もしすでに作品を知っているなら、どのキャラクターに共感や好意を抱いているかを考えてみると、自分の好みが明確になるかもしれません。
CPU times: user 1.73 s, sys: 301 ms, total: 2.04 s
Wall time: 6min 42s

 

おわり