Code Llama 7B Pythonを試す。

CodeLlamaを試して見たくて、Colabで7BのPythonモデルを動かしてみる。プロンプトは、プログラムの時にコメントを書く要領で良いようなので、以下のように与えてみた。

プロンプト

import openai

# Function that response user inputed text.

結果

import openai

# Function that response user inputed text.
def response(text):
    openai.api_key = "YOUR_API_KEY"
    response = openai.Completion.create(
        engine="davinci",
        prompt=text,
        temperature=0.9,
        max_tokens=150,
        top_p=1,
        frequency_penalty=0.0,
        presence_penalty=0.6,
        stop=["\n"]
    )
    return response

# Main function.
def main():
    # Get user input.
    text = input("> ")
    # Get response.
    response = response(text)
    # Print response.
    print(response["choices"][0]["text"])

# Call main function.
if __name__ == "__main__":
    main()

まずますですね。たまに、OpenAIのKeyを（明らかに間違ったキーを）生成することもありました。

他にも試して見た。精度が上がったとしても、コード書きながら測コードを示すくらいの使い方なら便利そうだ。今後、必須のツールになってくるのだろう。でも、まだ、ローカルで気軽に使うには重い・・・ですよね。

github.com

幾つかのサイトを参考にさせて頂きました。

nowokay.hatenablog.com