CodeLlamaを試して見たくて、Colabで7BのPythonモデルを動かしてみる。プロンプトは、プログラムの時にコメントを書く要領で良いようなので、以下のように与えてみた。
プロンプト
import openai
# Function that response user inputed text.
結果
import openai
# Function that response user inputed text.
def response(text):
openai.api_key = "YOUR_API_KEY"
response = openai.Completion.create(
engine="davinci",
prompt=text,
temperature=0.9,
max_tokens=150,
top_p=1,
frequency_penalty=0.0,
presence_penalty=0.6,
stop=["\n"]
)
return response# Main function.
def main():
# Get user input.
text = input("> ")
# Get response.
response = response(text)
# Print response.
print(response["choices"][0]["text"])# Call main function.
if __name__ == "__main__":
main()
まずますですね。たまに、OpenAIのKeyを(明らかに間違ったキーを)生成することもありました。
他にも試して見た。精度が上がったとしても、コード書きながら測コードを示すくらいの使い方なら便利そうだ。今後、必須のツールになってくるのだろう。でも、まだ、ローカルで気軽に使うには重い・・・ですよね。
幾つかのサイトを参考にさせて頂きました。