GPT-3.5 Turbo推出微调功能:支持用自己的数据训练模型,打造专属GPT

闪电发卡10个月前ChatGPT629

OpenAI前几天推出了GPT-3.5 Turbo的微调功能(fine-tuning for GPT-3.5 Turbo),用户可以用自己的数据训练模型并大规模运行它,打造专属GPT,并且早期测试显示,经过微调的GPT-3.5 Turbo在特定任务上可以达到或超过GPT-4的表现!下面ChatGPT中文网就分享下这个资讯信息。

一、GPT-3.5 Turbo微调功能介绍

所谓的GPT微调功能就是用我们自己的数据去训练已有的GPT模型,以达到增强GPT在某一方面的能力,得到我们自己的专属GPT模型。例如我们用自己的医学数据来训练GPT模型,以增强GPT在处理医学相关问题的能力,得到一个“医学版GPT”。

结合微调功能,GPT的能力可以在以下实例中得到增强:

  • 改进的可控性:微调允许企业使模型更好地遵循指令,例如使输出简洁或始终以指定语言回应。例如,开发者可以利用微调确保模型在被提示使用该语言时总是用德语回应。

  • 可靠的输出格式:微调提高了模型一致格式化响应的能力——这对于要求特定响应格式的应用至关重要,如代码补全或组成API调用。开发者可以使用微调更可靠地将用户提示转换为可用于他们自己系统的高质量JSON片段。

  • 定制的语调:微调是优化模型输出的质量感觉的绝佳方式,如其语调,使其更适合企业的品牌声音。拥有可识别品牌声音的企业可以使用微调使模型的语调更一致。

目前OpenAI推出了GPT-3.5 Turbo的微调功能,而GPT-4和gpt-3.5-turbo-16k的微调功能也将在这个秋天上线!

二、GPT-3.5 Turbo微调功能步骤

根据OpenAI官方说明,GPT微调的步骤有4步。

1、准备数据

{
  "messages": [
    { "role": "system", "content": "You are an assistant that occasionally misspells words" },
    { "role": "user", "content": "Tell me a story." },
    { "role": "assistant", "content": "One day a student went to schoool." }
  ]}

2、上传文件

curl https://api.openai.com/v1/files \
  -H "Authorization: Bearer $OPENAI_API_KEY" \  -F "purpose=fine-tune" \  -F "file=@path_to_your_file"

3、创建微调作业

curl https://api.openai.com/v1/fine_tuning/jobs \-H "Content-Type: application/json" \-H "Authorization: Bearer $OPENAI_API_KEY" \-d '{
  "training_file": "TRAINING_FILE_ID",
  "model": "gpt-3.5-turbo-0613"
}'

4、使用微调后的模型

curl https://api.openai.com/v1/chat/completions \-H "Content-Type: application/json" \-H "Authorization: Bearer $OPENAI_API_KEY" \-d '{
  "model": "ft:gpt-3.5-turbo:org_id",
  "messages": [
    {
      "role": "system",
      "content": "You are an assistant that occasionally misspells words"
    },
    {
      "role": "user",
      "content": "Hello! What is fine-tuning?"
    }
  ]
}'


相关文章

ChatGPT的背后逻辑原理分析

ChatGPT的背后逻辑原理分析

ChatGPT,的确是当下最炙手可热的一个话题。然而,人们对于ChatGPT的认识,依然还是仅仅停留在ChatGPT本身,而没有将它与它的「前任」——元宇宙、web3.0,乃至NFT联系在一起。如果在...

为您的企业找到最佳人工智能合作伙伴的 3 种方法

为您的企业找到最佳人工智能合作伙伴的 3 种方法

以下是如何去芜存菁并找到可以帮助您的组织充分利用 AI 技术的 IT 合作伙伴的方法。安德烈·奥努弗里延科/盖蒂图片社决定涉足人工智能只是一个起点。如果您打算在业务中使用生成式人工智能和其他新兴技术,...

ChatGPT产品原理深度介绍,以及社会各界将如何应对

ChatGPT产品原理深度介绍,以及社会各界将如何应对

3月15日凌晨1点,OpenAI宣布正式推出ChatGPT4.0,这是其AI语言模型系列中的最新产品,也向全球科技界投下了一枚核弹。第二天,百度文心一言发布,承载着中国生成式AI产品的希望,但是正如百...

自注意力层- Transformer教程

闪电发卡ChatGPT产品推荐: ChatGPT独享账号:https://xingtupai.com/post/86.html ChatGPT Plus独享共享账号购买代充:https://xin...

ChatGPT国内可使用镜像站更新!!!和高效率使用教学,快来尝试一下吧!!!

最近更新的一批网站,基本都不行了,大家可能不大知道,这些应用ChatGPT的API Key搭建的服务,每一次请求其实都是花钱的,如果网站无广告、无收费基本就是为爱发电,所以网站倒了很正常。我检查了一下...

使用ChatGPT Plus共享账号的五大好处,助您工作学习两不误

闪电发卡ChatGPT产品推荐:ChatGPT独享账号:https://xingtupai.com/post/86.htmlChatGPT Plus独享共享账号购买代充:https://xingtup...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。