对接ChatGPT时如何保证同一个用户会话的连惯性

闪电发卡10个月前ChatGPT744

要保证对接ChatGPT API时是同一个用户的连续问题,可以使用API返回的completion对象中的conversation_id属性来实现。conversation_id是一个字符串,可以唯一标识一个会话(即一个用户的连续问题)。

具体地说,当您第一次发送请求时,可以不指定conversation_id,API将自动生成一个新的conversation_id并返回。当您想要继续与同一用户的会话时,需要将上一次请求中返回的conversation_id作为当前请求的参数之一。

例如,您第一次发送请求时,请求可以这样写:

{
    "model": "davinci",
    "prompt": "Hello, how can I help you today?",
    "temperature": 0.5,
    "max_tokens": 50
}

API返回的completion对象中包含conversation_id属性,例如:

{
    "id": "cmpl-1234567890",
    "object": "text_completion",
    "created": 1619692352,
    "model": "davinci",
    "prompt": "Hello, how can I help you today?",
    "choices": [
        {
            "text": "I'm feeling a bit down lately. Can you help me figure out why?",
            "index": 0,
            "logprobs": null,
            "finish_reason": "length"
        }
    ],
    "conversation_id": "conv-1234567890"
}

接下来,当您想要继续与同一用户的会话时,可以将上一次请求中返回的conversation_id作为当前请求的参数之一:

{
    "model": "davinci",
    "prompt": "I'm feeling a bit down lately. Can you help me figure out why?",
    "temperature": 0.5,
    "max_tokens": 50,
    "conversation_id": "conv-1234567890"
}

这样,API就能够识别这是同一个用户的连续问题,并能够保证回答的连贯性。



相关文章

【玩转 GPU】本地部署大模型--ChatGLM(尝鲜篇)

【玩转 GPU】本地部署大模型--ChatGLM(尝鲜篇)

本文主要介绍ChatGLM-6B 的本地部署,提供更保姆级别的教程,让完全不懂技术的同学,也能在本地部署大模型~在19年曾经尝试过使用GPT2进行代码补全,当时就被大模型效果惊艳到啊,只是没想到短短3...

您很快就能在 iPhone 上运行人工智能任务吗?联发科说是的

您很快就能在 iPhone 上运行人工智能任务吗?联发科说是的

联发科技正在与 Meta 的 Lllama 2 LLM 合作,直接在移动设备上运行生成式 AI 任务,无需基于云的处理。这样做有几个好处——但也有一个问题。d3sign/盖蒂图片社生成式 AI 是最热...

我也谈谈 ChatGPT:ChatGPT用后感分析感悟

我也谈谈 ChatGPT:ChatGPT用后感分析感悟

最近 ChatGPT 从 AI 走向多个领域与大众视野,引起热议。了解了一下,作为一个科技产品,ChatGPT 的出现,其实背后有着比较清晰的演化路线,包括 GPT、GPT2、GPT3、Instruc...

揭开AI大模型的神秘面纱:一文看懂GPT-4的核心技术

闪电发卡ChatGPT产品推荐:ChatGPT独享账号:https://xingtupai.com/post/86.htmlChatGPT Plus独享共享账号购买代充:https://xingtup...

从零开始了解GPT-4o模型:它是如何工作的?

闪电发卡ChatGPT产品推荐:ChatGPT独享账号:https://xingtupai.com/post/86.htmlChatGPT Plus独享共享账号购买代充:https://xingtup...

自媒体创作者的福音:ChatGPT如何帮助你快速生成视频内容

闪电发卡ChatGPT产品推荐:ChatGPT独享账号:https://xingtupai.com/post/86.htmlChatGPT Plus独享共享账号购买代充:https://xingtup...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。