地平線まで行ってくる。

記録あるいは忘備録。時には検討事項。

youri-7b-instruction-gptqを試して見る

rinna.co.jp

 

なんだか、凄そうな予感しかしないので、試して見ました。工夫することももなく、さくっと動作しました・・・。

 

github.com

 

とりあえず、さくっと試して見ましたが・・・。7Bでこの性能まで来たのか・・・。

 

### 入力:
まどマギで一番かわいいのは?
### 応答:
ほむらちゃん</s>

 

### 入力:

世界で一番高い山はなんですか?それは東京ドームより高いですか?

### 応答:

世界で一番高い山はエベレスト山です。東京ドームは150mですが、エベレスト山は8,848mです。</s>

 

### 入力:
関羽を知っていますか?

### 応答:
関羽は、孔明と同様に、三国志の歴史で最も優れた将軍のひとりであると考えられています。</s>