地平線まで行ってくる。

記録あるいは忘備録。時には検討事項。

2024-12-07から1日間の記事一覧

Llama-3.3-70B-Instruct-ggufをollamaとColabでためしてみる

OpenAIの発表が続く中、Llama-3.3-70Bが公開されていました。さっそく、mmngaさんがGGUFを作成されていましたので、Colabで試します。Colab L4環境です。 70Bモデルもすっかり高い性能になってきましたが、Llama-3.3-70Bもその高さを感じさせます。ただし、l…