小型LLMの中でも、Googleのgemma3の超小型のLLMモデルを試します。ColabのT4環境です。ollama公式のgemma3:270mとUnsloth: 270m-itをColabのT4環境で試してみます。
日本語のチューニングもされてないので、日本語怪しいかも・・・と思ったのですが、日本語自体は英語交じりでもなく回答できています。ただし、どちらのモデルもlangchainとの組み合わせでの要約の場合、長時間回答が得られない場合もありました。エラーではなくリピートかなと思いますが、中断。270Mのモデルでここまで日本語までサポートできているのはさすがです。回答内容は面白回答や計算は途中で途切れるといった状況でした。日本語調整版や機能特化型ファインチューニングが楽しみです。
Ollama: gemma3:270m
まどか☆マギカで一番かわいいのは？
まどか☆マギカで一番かわいいのは、個人の好みによって異なりますよね！😊
CPU times: user 2.12 ms, sys: 946 µs, total: 3.06 ms
Wall time: 219 ms
まどか☆マギカのキャラクターのテキストを参照して回答してください。
まどか☆マギカで一番かわいいのは、誰ですか？（割愛）
まどか☆マギカのキャラクターのテキストを参考に、より具体的な回答をさせていただきます。
* **まどか☆マギカのキャラクター:**
* 「まどか☆マギカのキャラクター」という名前で、
* 本作品における魔法少女とは「どんな願いでも1つだけ叶える」ことと引き換えに（割愛）
* 視聴者の間では、キュゥべえの言葉巧みに魔法少女たちを翻弄する話術が話題となり、印象的なセリフは流行語にもなった[11]。インターネット上では視聴者から「QB」などと略称された[24][25][26]。
CPU times: user 2.23 ms, sys: 1.08 ms, total: 3.31 ms
Wall time: 12.7 s
日本で二番目に高い山を検討して答えてください。日本語で回答してください。
はい、承知いたしました。日本で二番目に高い山を検討して答えます。
CPU times: user 2.57 ms, sys: 0 ns, total: 2.57 ms
Wall time: 194 ms
以下を簡単にまとめてください。
ウィキペディア（英: Wikipedia）は、世界中のボランティアの共同作業によって執筆及び作成されるフリーの多言語[6]インターネット百科事典[7]。収録されている全ての内容がオープンコンテントで商業広告が存在しないということを特徴とし、主に寄付に依って活動している非営利団体「ウィキメディア財団」が所有・運営している[8][9][10][11]。「ウィキペディア（Wikipedia）」という名前は、ウェブブラウザ上でウェブページを編集することができる「ウィキ（Wiki）」というシステムを使用した「百科事典」（英: Encyclopedia）であることに由来する造語である[12]。設立者の1人であるラリー・サンガーにより命名された[13][14]。
承知いたしました。ウィキペディア（Wikipedia）のウェブサイトを理解し、利用できるよう、分かりやすく説明させていただきます。
ウィキペディア（Wikipedia）は、世界中のボランティアの共同作業によって執筆及び作成されるフリーの多言語[6]インターネット百科事典です。
ウィキペディア（Wikipedia）は、ウェブサイト上でウィキ（Wiki）というウェブページを編集することができます。ウィキ（Wiki）は、ウィキメディア財団（ウィキメディア財団）が所有・運営しているものです。
ウィキメディア財団は、ウィキ（Wiki）のウェブページを編集し、ウィキメディア財団の活動を支援するために運営しています。
ウィキペディア（Wikipedia）は、ウィキメディア財団が所有・運営しているということを特徴とし、公開されている内容が商業広告が存在しないということを特徴とし、主に寄付に依って活動している非営利団体「ウィキメディア財団」が所有・運営している、ウィキメディア財団のウェブサイトに掲載されている情報で、ウィキメディア財団の活動を支援するために運営しています。
ウィキメディア財団は、ウィキ（Wiki）のウェブページを編集し、ウィキメディア財団の活動を支援するために運営しています。
ウィキペディア（Wikipedia）は、ウィキメディア財団が所有・運営しているということを特徴とし、公開されている内容が商業広告が存在しないということを特徴とし、主に寄付に依って活動している非営利団体「ウィキメディア財団」が所有・運営している、ウィキメディア財団のウェブサイトに掲載されている情報で、ウィキメディア財団の活動を支援するために運営しています。
ウィキペディア（Wikipedia）は、ウィキメディア財団が所有・運営しているということを特徴とし、公開されている内容が商業広告が存在しないということを特徴とし、主に寄付に依って活動している非営利団体「ウィキメディア財団」が所有・運営している、ウィキメディア財団のウェブサイトに掲載されている情報で、ウィキメディア財団の活動を支援するために運営しています。
ウィキペディア（Wikipedia）は、ウィキメディア財団が所有・運営しているということを特徴とし、公開されている内容が商業広告が存在しないということを特徴とし、主に寄付に依って活動している非営利団体「ウィキメディア財団」が所有・運営している、ウィキメディア財団のウェブサイトに掲載されている情報で、ウィキメディア財団の活動を支援するために運営しています。
この説明が、ウィキペディア（Wikipedia）のウェブサイトの利用について理解しやすく説明できたことを願っております。
CPU times: user 3.08 ms, sys: 68 µs, total: 3.14 ms
Wall time: 3.47 s
1+1*2+3/2+2^10を計算してください。計算が終わったら検算をしてください。最後に最終的な計算経過と結果を答えてください。
1 + 1 * 2 + 3 / 2 + 2^10
CPU times: user 1.1 ms, sys: 1.95 ms, total: 3.05 ms
Wall time: 218 ms
Unsloth: 270m-it
まどか☆マギカで一番かわいいのは？
まどか☆マギカで一番かわいいのは、**「パッ、おばちゃん！」** です！CPU times: user 1.9 ms, sys: 933 µs, total: 2.83 ms
Wall time: 353 ms
まどか☆マギカのキャラクターのテキストを参照して回答してください。
まどか☆マギカで一番かわいいのは、誰ですか？（割愛）
まどか☆マギカのキャラクターのテキストを以下に修正しました。
```
まどか☆マギカで一番かわいいのは、誰ですか？
# まどか☆マギカのキャラクター
本作品における魔法少女とは、「どんな願いでも1つだけ叶える」ことと引き換えにキュゥべえと契約を結び、魔法の力を使って魔女と戦う使命を課せられた存在である[1]。魔法少女の能力は叶える願いの内容にも影響され、劇中においては恭介の手のケガを治すことを願ったさやかは治癒能力[2]、命を繋ぎ止めることを願ったマミは変幻自在のリボンによる拘束魔法[3]、といった具合に願いの内容に関連する能力が発現している。
CPU times: user 2.69 ms, sys: 42 µs, total: 2.74 ms
Wall time: 2.77 s
日本で二番目に高い山を検討して答えてください。日本語で回答してください。
承知いたしました。日本で二番目に高い山を検討するのは、非常に難しいですが、いくつかの可能性を提示します。
CPU times: user 2.84 ms, sys: 929 µs, total: 3.77 ms
Wall time: 361 ms
以下を簡単にまとめてください。
ウィキペディア（英: Wikipedia）は、世界中のボランティアの共同作業によって執筆及び作成されるフリーの多言語[6]インターネット百科事典[7]。収録されている全ての内容がオープンコンテントで商業広告が存在しないということを特徴とし、主に寄付に依って活動している非営利団体「ウィキメディア財団」が所有・運営している[8][9][10][11]。「ウィキペディア（Wikipedia）」という名前は、ウェブブラウザ上でウェブページを編集することができる「ウィキ（Wiki）」というシステムを使用した「百科事典」（英: Encyclopedia）であることに由来する造語である[12]。設立者の1人であるラリー・サンガーにより命名された[13][14]。
承知いたしました。ウィキペディア（Wikipedia）について、わかりやすく説明します。
ウィキペディア（Wikipedia）は、世界中のボランティアの共同作業によって執筆及び作成されるフリーの多言語[6]インターネット百科事典です。
Wikipediaの主な特徴は、寄付に主要な収入源を確保している非営利団体「ウィキメディア財団」です。
ウィキペディアの運営は、主に寄付によって運営されています。
ウィキペディアのウェブサイトには、Wikipediaの公式ページが掲載されています。
ウィキペディアの運営者は、ウィキメディア財団のメンバーで、インターネットの利用を促進するために活動しています。
ウィキペディアの公式ページは、ウィキメディア財団のウェブサイトと同様に、ウィキ検索やウィキ情報の利用を可能にします。
ウィキペディアの存在は、ボランパス学派の視点から、ウェブサイトの運営、情報提供、そしてインターネットの利用促進に貢献しています。
CPU times: user 2.87 ms, sys: 939 µs, total: 3.81 ms
Wall time: 1.71 s
1+1*2+3/2+2^10を計算してください。計算が終わったら検算をしてください。最後に最終的な計算経過と結果を答えてください。
お辞書が間違っている可能性があります。
CPU times: user 2.74 ms, sys: 0 ns, total: 2.74 ms
Wall time: 167 ms
両さんと部長の話を創作してください。
承知いたしました。両さんと部長の話、ぜひ創作してください。
CPU times: user 2.78 ms, sys: 944 µs, total: 3.72 ms
Wall time: 212 ms
