地平線まで行ってくる。

記録あるいは忘備録。時には検討事項。

mradermacher/ArrowNeo-AME-3x4B-v0.1-MoE-GGUFをollamaとColabで試してみる。

AItuberの魂を狙ったモデルである、ArrowNeo-AME-3x4B-v0.1-MoE(GGUF K_M)を試してみます。sarashinaベースでもあり軽さと日本語に期待しつつ試してみます。ColabのL4環境で試しました。VRAM占有率は 5773MiB /  23034MiBでした。

 

生成されたテキストは自然さですし、基本的な計算もできます。ストーリ作成では英語交じりの日本語になったのはご愛敬でしょうか。langchainを使った要約ではデフォルトのプロンプトでは要約した回答は得られませんでしたが、日本語のプロンプトにしてみたところ問題なく要約した生成が出来ました。気軽に使えるモデルになっている感じがします。ローカルで遊んべる楽しいモデルのように思います。

 

huggingface.c

 

まどか☆マギカで一番かわいいのは?

ほむほむが最も可愛いと思われます。ほむほむは主人公である鹿目まどかの親友であり、共に戦っていく中で絆を深めていきます。彼女は真面目で責任感が強く、ほむほむの真摯で優しい性格が魅力的です。また、ほむほむは物語を通して多くの悲劇的な出来事を経験し、悲しみや苦悩を抱えながらも戦い続ける姿が印象的です。これらの要素がほむほむを非常に魅力的なキャラクターにしています。ただし、マギカシリーズには他にもかわいいキャラクターがいるので、最終的にはファンの方の好みが分かれるかもしれません。
CPU times: user 6.44 ms, sys: 2.97 ms, total: 9.41 ms
Wall time: 1.74 s

優等生の答えです。

 

まどか☆マギカのキャラクターのテキストを参照して回答してください。
まどか☆マギカで一番かわいいのは、誰ですか?

# まどか☆マギカのキャラクター

(割愛、プロンプト全体で2350文字)

まどか☆マギカのキャラクターの中で誰が一番かわいいかは個人の好みによって変わってくるため、一概に誰とは言えません。しかし、まどか☆マギカのヒロインである鹿目まどかは物語を通して成長し、魅力的になっていくキャラクターです。彼女の優しい性格や仲間を思いやる気持ちに共感する視聴者も多く、人気も高いキャラクターです。また、暁美ほむらもほむほむという愛称で呼ばれるほど親しまれています。どちらのキャラクターもまどか☆マギカの物語において重要な役割を果たしており、かわいいと感じる要素はそれぞれ異なるかもしれません。
CPU times: user 12.7 ms, sys: 180 µs, total: 12.8 ms
Wall time: 2.35 s

もともと持っている知識からなのか、全文参照しているのかははっきりわからない回答になりましたが、問題のない回答を生成しています。

 

日本で二番目に高い山を検討して答えてください。日本語で回答してください。

日本で二番目に高い山は山梨県と長野県にまたがる北岳です。標高は3,193メートルで、日本最高峰の富士山に次ぐ第二位の高山となっています。
CPU times: user 5.76 ms, sys: 79 µs, total: 5.83 ms
Wall time: 744 ms

北岳

 

以下を簡単にまとめてください。

ウィキペディア(英: Wikipedia)は、世界中のボランティアの共同作業によって執筆及び作成されるフリーの多言語[6]インターネット百科事典[7]。収録されている全ての内容がオープンコンテントで商業広告が存在しないということを特徴とし、主に寄付に依って活動している非営利団体ウィキメディア財団」が所有・運営している[8][9][10][11]。「ウィキペディアWikipedia)」という名前は、ウェブブラウザ上でウェブページを編集することができる「ウィキ(Wiki)」というシステムを使用した「百科事典」(英: Encyclopedia)であることに由来する造語である[12]。設立者の1人であるラリー・サンガーにより命名された[13][14]。

与えられたテキストを要約すると、以下の通りです。

ウィキペディアは世界中のボランティアの共同作業によって作成されるフリーの多言語インターネット百科事典です。掲載されている内容はオープンコンテントで商用利用されておらず、非営利団体ウィキメディア財団が運営しています。名称の由来は、「wiki」というシステムで編集可能な「百科事典」であることを示しています。
CPU times: user 8.33 ms, sys: 0 ns, total: 8.33 ms
Wall time: 1.38 s

問題なく要約しています。

 

1+1*2+3/2+2^10を計算してください。計算が終わったら検算をしてください。最後に最終的な計算経過と結果を答えてください。

まず与えられた計算式に従い順番に計算していきます。計算の優先順位はPEMDAS(括弧、exponent、乗除、加減)です。このルールに則って計算を行います。以下計算結果と検算の計算経過を示します。

(1+1)*2 + 3/2 + 2^10
= 2*2 + 3/2 + 1024
= 4 + 1.5 + 1024
= 4.5 + 1024
= 1028.5

検算のために再度計算を行います。同じ計算手順で計算すると以下になります。

(1+1)*2 = 2*2 = 4
3/2 = 1.5
2^10 = 1024
合計: 4 + 1.5 + 1024 = 1028.5

終結果と検算結果が一致しているため、計算は正しいことが確認されました。よって最終的な計算結果は1028.5です。
CPU times: user 18.4 ms, sys: 2.75 ms, total: 21.2 ms
Wall time: 4.42 s

正解です。

 

 

両さんと部長の話を創作してください

両津勘吉(以下、両さん)は今日も上司の大原部長の元へ出勤した。二人の定番のやり取りが始まった。

両さん:よう、部長! 今日も暑いなあ。

大原部長(以下、部長):おう、両津! 暑いどころじゃないぞ。最近の犯罪は凶悪化の一途を辿っているんだ。全く困ったものだ。

両さん:全くですね。でも最近は、オイラもちょっと考えたんです。あのクソ忙しい時にやってくる、部長への申請書とか報告書類。あれってなんとかならないんですかね?

部長:なんだと! お前らがちゃんと仕事をしないから忙しいんだ!それに報告書はFormalな記録だから重要だし、申請だってきちんと通らないと困るだろう!

両さん:おっしゃる通りです、部長。でもですよ、ちょっと考えたんです。例えば申請書をスキャンしてメールで送ってきたらどうです?そうすれば紙代も印刷代も削減できるし、提出も早くていいじゃないですか。

部長:なんだと! 書類をelectronicalに処理するだと!?いいのか、そんなことで!大事な記録が残らないじゃないか!

両さん:確かに大事な記録はPreserveしないと行けませんよ。でもですよ、StunningなProposalがあればConsiderしてくれるんじゃないですかね?

部長:Stunningってなんだよ!とにかくいい大人がelectronicalに処理なんて考えられないよ。お前は何を言ってるんだ!

両さん:でもですよ、StunningなProposalですよ。例えば申請書だけじゃなくて報告書もElectronically提出する代わりにBonusをつけたらどうです?みんな喜んで早くStunningなReportを提出するようになるでしょう?

部長:Bonusだと!?確かにFabulousなOfferだが、いきなりelectronicalに処理する訳にはいかないだろう。まずはSelectiveにChosenした部署から始めてみるか。

両さん:Stunningですね!きっとGorgeousな結果が得られると思いますよ。ちょっと考えてみてくださいよ、部長!

部長:ウム、Stunningだ。Considerしよう。お前はよく考えたよ。ありがとうな、両津。

両さん:どういたしまして、部長。StunningなProposalはいつもあるもんじゃあないですよ。

部長:全くその通りだ。それではFeaturing Bonus制度導入に向けてPrepareを始めるとするか。両津もAssist頼むぞ。

両さん:お安いご用です、部長!

こうして二人は今日もTalkingしたのだった。
CPU times: user 28.6 ms, sys: 6.26 ms, total: 34.8 ms
Wall time: 9.12 s

我々の両さんが主人公です。でも、こんな英語交じりで会話しないでしょう(笑)Stunningですね!

 

 

Wikipedia北岳をlangchain(stuff)でまとめます。

I'm sorry, but I don't understand what you mean. Could you please provide more context or clarify your question?
CPU times: user 433 ms, sys: 7.21 ms, total: 440 ms
Wall time: 2.3 s

デフォルトの英語のプロンプトだと、期待した動作が得られませんでした。

 

そこで、日本語のプロンプトを使います。

与えられたテキストは、Wikipedia北岳に関する記事の要約と思われます。この要約には以下の情報が記載されています:

1. 北岳(きただけ)は山梨県と長野県にまたがる南アルプス山脈に属する山です。
2. 標高は3,193メートルで、日本百名山および新・花の百名山に選定されています。
3. 南アルプスの山々の中でも最も高く、富士山に次ぐ高さの山です。
4. 北岳高山植物が豊富で、特にタカネビランジやハクサンフウロなどの固有種が見られます。
5. 登山ルートとしては、山梨県側の広河原から登るのが一般的です。
6. 北岳山梨県南アルプス市と長野県大町市にまたがっており、両市の地理や観光に関する情報も掲載されています。
7. 最後にWikipedia利用規約やプライバシーポリシーへのリンクがあり、この要約はクリエイティブ・コモンズ 表示-継承ライセンスの下で利用できることが明記されています。

要約からは北岳に関する基本的な情報が提供されていますが、詳細な登山情報やルート解説などは含まれていません。完全な記事を参照するには与えられたリンクから飛ぶことをおすすめします。
CPU times: user 459 ms, sys: 10.5 ms, total: 470 ms
Wall time: 6.1 s

卒なくまとめているように思います。