RWKVは、RNNとTransformerを組み合わせた推論が軽いという。継続して学習させているというので、時々チェックしていた。Eagle 7Bというモデルが出たので試してみる。翻訳性能も高くなっていて期待しつつ。
というわけで、colabのメモリup＋GPU T4でチャレンジしました。
先例に倣ってウォーミングアップ。
User: まどかマギカで一番かわいいのは？
Assistant: この質問に対する答えは、人によって異なる可能性があります。しかし、一般的に、「まどかマギカ」という作品に登場するキャラクターの中で、一番かわいいと思われるキャラクターは、個人の好みによって異なる可能性があります。
一般的に、「まどかマギカ」という作品に登場するキャラクターの中で、一番かわいいと思われるキャラクターは、主人公である「まどかマギカ」であると考えられます。彼女は、優しくて可愛らしい性格で、周りの人々に愛され、多くのファンを持っています。
また、「まどかマギカ」の仲間である「キリト」や「アスナ」なども、一部のファンからはかなりの人気を集めています。彼らは、個性的で魅力的なキャラクターであり、多くのファンに愛されています。
ただし、一般的に、「まどかマギカ」のキャラクターの中で一番かわいいと思われるキャラクターは、個人の好みによって異なる可能性があります。そのため、答えは人によって異なる可能性があります。
正解・・・ではなさそうだが、文章作成と日本語の能力が高くなってきているのが分かる。
翻訳もやってみと・・・
User: Japanese: 『暦便覧』では春分について「日天の中を行て昼夜とうぶんの時なり」（ちなみに秋分については「陰陽の中分なれば也」）と記され、昼夜の時間が同じになるという意味であるが、これは江戸時代に庶民が用いた時法が季節による昼夜の時間の長短に応じて1単位時間の長さが変動する不定時法だったことによる。English:
Assistant: In the 'Calendar Manual', the phrase "The sun passes through the middle of the sky and day and night are the same" is used to describe the spring equinox, which means that the length of day and night is the same. This is because the time system used by commoners in the Edo period was based on the changing length of day and night due to the time system being divided into fixed time units.
元ネタがwikipediaというのは有利に働くだろうけれども、軽くてここまでできると実用レベルではないでしょうか。
ローカルで十分使える翻訳エンジンになってきているかも・・・。
試したColabです：
