地平線まで行ってくる。

記録あるいは忘備録。時には検討事項。

RWKV-x060-Jpn-7BもColabで試してみる。

RWKV-6-Worldを試していたら、日本語版あるよ、とレスポンスいただいたので早速ためしてみます。

 

 

モデルはこちらです。

huggingface.co

 

オプションは"cuda fp16i8"実施しました。

 

User : まどかマギカ☆で一番かわいいのは?
Assistant: まどか☆マギカで一番かわいいキャラクターは、個人の好みによって異なるため、一概には言えません。しかし、一般的に言われているのは、以下のキャラクターです。
1. 暁美ほむら
2. 魔法少女まどか☆マギカ
3. 鹿目まどか
4. 美樹さやか
5. 巴マミ
これらのキャラクターは、それぞれ個性的で魅力的なキャラクターであり、ファンの間でも人気が高いです。ただし、これらのキャラクターが一番かわいいということはありません。好みは人それぞれですので、自分が一番かわいいと思うキャラクターを見つけることが大切です。

手始めに・・・。優等生の答えが返ってきます。

 

User : 日本で二番目に高い山を検討して答えてください。
Assistant: 日本で二番目に高い山は、富士山です。標高は3,776メートルです。

不正解です。worldモデルでは北海道に富士山がありました。日本の情報は増えているようです。不正解のモデルも多いので、使っているデータセットの問題でしょうか。

 

User : 以下を簡単に日本語でまとめてください。

ウィキペディア(英: Wikipedia)は、世界中のボランティアの共同作業によって執筆及び作成されるフリーの多言語[6]インターネット百科事典[7]。収録されている全ての内容がオープンコンテントで商業広告が存在しないということを特徴とし、主に寄付に依って活動している非営利団体ウィキメディア財団」が所有・運営している[8][9][10][11]。「ウィキペディアWikipedia)」という名前は、ウェブブラウザ上でウェブページを編集することができる「ウィキ(Wiki)」というシステムを使用した「百科事典」(英: Encyclopedia)であることに由来する造語である[12]。設立者の1人であるラリー・サンガーにより命名された[13][14]。

Assistant: ウィキペディアWikipedia)は、世界中のボランティアの共同作業によって執筆及び作成されるフリーの多言語インターネット百科事典です。収録されている全ての内容がオープンコンテントで商業広告が存在しないということを特徴とし、主に寄付に依って活動している非営利団体ウィキメディア財団」が所有・運営しています。ウィキペディアは、ウェブブラウザ上でウェブページを編集することができる「ウィキ(Wiki)」というシステムを使用した「百科事典」(英: Encyclopedia)であることに由来する造語です。設立者の1人であるラリー・サンガーにより命名されました。

Wikipediaより

語尾や引用記号を取り除き、整えた文章になりました。「まとめる」点はほぼありませんでした。指示の仕方にまだコツがあるのでしょう。

 

User : 
1+1*2+3/2+2^10を計算してください。計算が終わったら検算をしてください。最後に最終的な計算経過と結果を答えてください。

Assistant:
1+1*2+3/2+2^10 = 1 + 2 + 3/2 + 1024 = 13.5 + 1024 = 1037.5
最終的な計算経過は以下の通りです。
1+1*2+3/2+2^10 = 1 + 2 + 3/2 + 1024 = 13.5 + 1024 = 1037.5

1 + 2 + 3/2の計算ができないようです。もうひとこえです。

 

生成に思ったより時間がかかります。ColabのT4環境とは言え、もう少し頑張ってほしいです。今後、改善されていくでしょうから、今後の展開も時々試します。楽しみです。

 

gist.github.com