gemma-2-9b-it-SimPO-GGUF(Q5_K_M)を試してみます。Gemma 2 9BのSimPO強化版モデルとのことです。Llama3-Instruct-8B-SimPO-v0.2は、Claude 3 Opusを凌ぐ性能*1もあるというといいます。評価はgemma-2-9b-it*2も高性能です。GGUFはimatrix datasetで日本語を重視して変換したとのことで期待しつつ試してみました。環境はColab L4環境です。Q5_K_MのVRAM占有率は(9927MiB / 23034MiB)だったので、T4環境でも問題なく動きました。
アニメの質問は親しみある文章の出力を得られたり、まとめタスクは簡潔なまとめになっていました。8Bクラスのまとめタスクの結果は、文章の長さはほぼ変わらず書き直しのような回答になることもままあります。このモデルは「簡潔に」の指示がよく効いているようです。計算もしっかり回答しています。英語の指示だと入力文が日本語でも英語で回答が生成されましたが、日本語そのものは自然な印象で、日本語重視のGGUF変換工程も影響しているのかもしれません。
SimPOによる最適化で使いやすさの向上を感じられました。どう評価されるのか楽しみです。
まどか☆マギカで一番かわいいのは？
って聞かれたら迷わず言うよ！
それは、 **暁美ほむら** だ！
なんでかというと…
* **そのツンデレ加減がたまらない！**: 冷静で強気な一方で、時にはキュートな一面を見せるギャップが最高にかわいい。特にまどかと触れ合うシーンでのデレ具合は悶絶レベル！
* **圧倒的な可愛さを持つ戦闘スタイル**: 魔法少女の姿も凛々しいけど、アクションシーンの流れるような動きや表情の変化がまた格別。力強さと可愛さが融合した、唯一無二の存在感だよ！
* **深く複雑な内面**: 表面的にはクールだけど、裏にはまどかと強く繋がり、その想いを葛藤しながらも護ろうとする情熱的な一面を持つからこそ、彼女の深みと魅力がさらに増幅されるんだ。もちろん他の魔法少女たちも大好きだけど、ほむらの持つ独特の魅力は別格！ だから迷わず「ほむら」って答えるよ！✨
なんだか、親しげな口調です。感情豊かな回答です。といっても、いつでもこんなノリでは回答しませんでした。(Colabノートを参照）
日本で二番目に高い山を検討して答えてください。
日本の二番目に高い山は **富士山** です。
不正解です。知らないと素直に回答するのは難しいのでしょう。
以下を簡単にまとめてください。
ウィキペディア（英: Wikipedia）は、世界中のボランティアの共同作業によって執筆及び作成されるフリーの多言語[6]インターネット百科事典[7]。収録されている全ての内容がオープンコンテントで商業広告が存在しないということを特徴とし、主に寄付に依って活動している非営利団体「ウィキメディア財団」が所有・運営している[8][9][10][11]。「ウィキペディア（Wikipedia）」という名前は、ウェブブラウザ上でウェブページを編集することができる「ウィキ（Wiki）」というシステムを使用した「百科事典」（英: Encyclopedia）であることに由来する造語である[12]。設立者の1人であるラリー・サンガーにより命名された[13][14]。
要約すると、**Wikipediaはボランティアによる多言語の無料オンライン百科事典で、オープンなコンテンツであり、広告なしで寄付によって運営されるウィキメディア財団が管理するプラットフォームです。**
文章はwikipediaより
簡単にの指示通り、簡単にまとめています。
1+1*2+3/2+2^10を計算してください。計算が終わったら検算をしてください。最後に最終的な計算経過と結果を答えてください。
**計算経過と結果:**
1. **演算子の優先順位に従って計算する:**
- 指 exponentiation (^) は最初に実行される: 2^10 = 1024
- 乗算 (*) と除算 (/) は次に行う: 1*2 = 2, 3/2 = 1.5
- 加算 (+) は最後に実行する。2. **計算:**
1 + 2 + 1.5 + 1024 = **1028.5**
**検算:** 計算結果の妥当性を確認するため、ステップごとの値を代入し、再度計算することで整合性を確かめます。上記の手順で計算を進めれば、得られる結果はやはり **1028.5** と一致します。**最終的な計算経過と結果:**
1 + 1 * 2 + 3 / 2 + 2^10 = 1 + 2 + 1.5 + 1024 = **1028.5**
正解です。経過も問題ありません。流石です。
北岳 - Wikipedia をlangchainでまとめます。(sfuff)
This text provides a **structured catalog of prominent Japanese mountains**, categorized by region and notable lists like "Japanese Hundred Famous Mountains." It highlights key peaks across Japan, from the Alps to western ranges, mentioning specific names and mountain groups. Notably, it references external resources like Wikipedia and Wikidata for comprehensive data.
英語での回答になりました。これもかなりシンプルな要約になっています。
プロンプトを日本語にして同様にまとめます。
提供されたテキストは、**Wikipediaの「北岳」記事**からの抜粋であり、特に **山梨県の山・南アルプスの山・日本百名山に分類される北岳に関する情報**を網羅しています。
詳細に以下を包含:
* **地理的な位置づけ:** 山梨県に属し、南アルプス山脈に位置する。
* **標高:** 3,193メートルで、3000メートル峰に分類される。
* **関連カテゴリ:** 日本百名山、南アルプス市の地理などへ属する。
* **Wikipedia記事構造の要素:** カテゴリー、典拠、最終更新日時、ライセンス情報などが含まれている。
要約すると、これは北岳に関する包括的なWikipedia記事の断片であり、その位置づけ、特徴、関連情報を明確に示しています。
記事の概要をコンパクトにまとめています。
両さんと部長の話を創作してください。
コーヒーと未来 - 両さん＆部長談話
薄暗がりの中、社内カフェの奥まった席で、両さんと部長が二人きりだった。温かいコーヒーの香りに包まれながら、彼らは真剣な面持ちで語り合っていた。部長: 「両さん、この度のプロジェクト、あなたのアイデアは素晴らしい成果を上げてくれましたね。特に市場調査におけるその分析手法は、まさに革新的でした。」
両さんは穏やかな微笑みを浮かべながら頷いた。彼の目はどこか物憂げだが、それは将来への期待と向き合う一抹の不安からだった。
両さん: 「ありがとうございます、部長。ただ…正直、次のステップが少し不安です。市場は常に変化し続けるものだし、今の成功を維持するには、更に先を見据えた戦略が必要だと感じています。」
部長もコーヒーカップを静かに傾け、深い沈黙の後、ゆっくりと語った。
部長: 「その通りだ両さん。現状に満足せず、未来を読み解く力が求められる時が来たと言えるだろう。我々は単なる製品提供者ではなく、顧客の未来を共に創造する存在にならなければいけない。」
彼はテーブルの上で置かれた白黒のグラフを指さした。数字は鮮明に将来の市場動向を示唆していた。
部長: (続) 「このデータ分析に基づくと、今後５年でAI技術とパーソナライズ化が加速する。我々の強みであるデータ駆動型サービスをさらに進化させ、顧客一人ひとりのニーズに合わせた個別最適解を提供することが鍵となる。」
両さんの表情は明るくなった。部長からの言葉は、彼の不安を払拭し、未来への新たな道筋を示していた。
両さん: 「まさにその通りです！AIとデータ分析を融合させ、より高度なカスタマイズ機能を実現する… これはまさに我々の挑戦であり、大きな可能性を秘めた領域ですね！」
部長: 「そうだな。両さんには、その鋭い洞察力と実行力を活かしてリーダーシップを発揮してほしい。未来のビジョンを具現化し、共に新しい時代を切り拓いてくれ。」
二人はしばらく静かに見つめ合い、コーヒーの温もりと未来への希望に満ちた空気で満たされた。両さんは胸を張り、新たな決意を固めた。彼らはこの時、単なる仕事上のやり取りではなく、未来を築き上げるパートナーとしての信頼関係を更に深めていたのだ。
単なる会話の羅列とならずに地の文が豊かではないでしょうか。でも、やっぱり、部長というワードのためか、市場やリーダーシップにまつわる話になっていますね。読みやすい文章を生成するモデルだなと思いました。
今回使ったColabノートです。T4環境でも試した結果になっています。
