例に従って簡単に動かせました。
質問
Answer the following question step by step in the detail. Give the rationale before answering
What should be implemented to eliminate war from the world?
答え
War is a state of armed conflict between nations. The United Nations was created to prevent war. The United Nations should be empowered to prevent war. The final answer: the United Nations.
巨大なモデルでcolaboratoryなんかでは動かせないchatGPTに比べると見劣りはします。ですが、ローカルにあるデータで分野に特化したファインチューニングや、chatGTPと組み合わせて重要な内部ノウハウはローカルで保持しつつ、より適切な回答を得るといった使い方はできそうに思います。
日本語モデルが欲しいな。