ChatGPT模型API升级首度曝光！价格更低，支持16K上下文窗口
作者：FancyPig | 发布时间： | 更新时间：
相关阅读
视频讲解
🚀OpenAI宣布大事件！ChatGPT API全新版本震撼来袭，上下文窗口更大，价格更低，功能更强大！无惧挑战，引领你探索AI的无穷潜力！
🎯本期视频将带你快速浏览新功能，让你第一时间掌握最新动态！ChatGPT现已升级至16,000令牌版本，GPT-4更是达到惊人的32,000令牌，虽然仍有限制，但已为部分用户开放。
💡诸多新功能强势亮相！用户将有更多控制权，引导GPT-4与ChatGPT模型的行为。新版本还支持聊天完成API中的新功能调用能力，带来前所未有的体验！
💰不仅如此，成本大幅降低！最先进嵌入模型的成本下降75%，ChatGPT输入令牌的成本降低25%。开发者们，不容错过！
🔐数据隐私方面也有重要更新，客户将拥有从他们请求中产生的输出，API数据将不会被用于训练，保障你的隐私安全。
🌍新模型也带来了更智能的API调用，与现实世界连接更紧密。GPT-4与ChatGPT，携手开创人工智能新纪元！
图文讲解
OpenAI刚刚宣布了新版本的ChatGPT以及GPT-4，一个更大的上下文窗口，并降低了价格。他们还宣布了一些更多的功能。
在这段视频中，我们将对它们进行快速浏览。现在，这里是更新列表。
现在，该模型支持聊天完成API中的新功能调用能力。我们将看一下这个，并在稍后进一步讨论。在这个新版本中，用户将有更多的控制权，以便使用系统提示来引导GPT-4以及ChatGPT模型的行为。我认为最出乎意料的部分是这个公告。现在，ChatGPT的16,000个令牌版本以及GPT-4的32,000个令牌版本已经向公众开放，尽管它仍然限于一些人。并不是每个人都可以使用它。随着他们的新的更新，在最先进的嵌入模型上有75%的成本降低。因此，如果你正在寻找信息检索模型，这将是一个最好的模型准确性以及成本方面。而且，ChatGPT的输入令牌的成本降低了25%。他们还宣布了一些模型的废弃。现在，还有一个重要的公告与数据隐私有关。根据他们的说法，客户拥有从他们的请求中产生的输出，他们的API数据将不会被用于训练。现在，请记住，这只适用于API的使用。如果你在ChatGPT网页界面内做任何事情，我认为他们仍然说他们将使用这些数据用于训练目的。我可能在这一点上是错的。现在，在看新的上下文窗口和降低价格之前，让我们看一下这些模型的功能调用能力。
现在，随着这个新的更新，他们推出了两个新的模型。一个是GPT-4，另一个是ChatGPT。但他们标注的是0613。所以我认为这就是发布日期。如果你去你的OpenAI的游乐场在完成模型，你实际上可以看到这个新的ChatGPT模型。所以现在有三种不同的模型。一个是这个GPT-3.5 Turbo 0613。然后是一个16K和16K的0613。我们将在稍后谈及这些。
现在，随着这个新的更新，如果你想使用某些API，你将能够给出一个描述和自然语言。模型将智能地找出要使用的API，以及什么将是该API的最合适的输入和输出。所以这给了模型一种新的方式，通过外部工具和API与现实世界连接。当涉及到Langchain或Hugging Face时，它与代理非常相似。现在，他们已经提供了这种新能力的几个例子。所以第一个是创建聊天机器人，通过调用外部工具来回答问题，例如，类似GPT插件的东西。对。所以你可以有这样一个简单的查询，比如给某人发电子邮件，看看她是否想在下周五喝咖啡。对吧。而根据这个输入提示，模型实际上能够弄清楚，它要进行一个调用。所以像这样的东西来发送电子邮件，然后它可以有相应的输入和输出，使用相同的功能调用能力，你实际上可以用自然语言与你的数据库进行互动。例如，你可以简单地说，这个月我的前十名客户怎么样了？对吧。然后它可以进行内部的API调用，比如说如果有一个函数，那么它就会通过定义输入和输出来直接使用它。
当它涉及到这些大型语言模型的能力时，这是一个很好的新补充。现在，这里是他们提供的一个例子。当你通过API进行函数调用时。所以简单的提示可能是波士顿现在的天气如何？
然后在内部，OpenAI决定它必须进行一个API调用。所以它看起来会是这样的。所以它提出了一个请求。所以这就是用户的请求。
然后基于此，它决定调用哪些函数。所以这里是响应。
然后它实际上可以在后续步骤中使用这个响应。所以这里是使用模型响应来进行你的API调用。
所以再次，它在调用第三方服务。现在，使用第二步中的响应，OpenAI实际上将响应发回给模型来总结它。
所以这里就是它的样子了。这是在第三步中提出的请求。
而这是你作为用户将得到的响应。
对吧。所以这和这里完全一样。
很高兴看到，作为一个开发者，你真的不必担心进行外部API调用。你只需要用自然语言提供你的提示。现在，伴随着这些能力，他们也发布了一些新的模型。所以我们实际看的第一个是这个0613。所以它包括一个更新和改进的模型与函数调用。这就是我们刚才谈到的能力。他们还发布了同一模型的另一个版本，有32,000个令牌的限制。现在，你仍然需要加入等待名单来获得它，但他们说，他们的意图是完全取消这个模型的等待名单。因此，希望在接下来的几周内，我们将有机会接触到这个模型。
现在，在ChatGPT方面，有一个新的模型，即0613。同样，它的功能与GPT-4非常相似，但它也通过系统信息具有更可靠的可控性。所以你实际上可以用系统提示来控制模型的行为。这个功能早就有了，但现在这些模型的指令跟随能力似乎得到了改进，这就引出了 16,000 个令牌版本的公告，价格只是现有4000令牌模型的两倍，无论是完成度还是输出令牌。现在，这是巨大的，因为有了16,000个上下文窗口，你实际上可以在一次请求中提供多达20页的文本。
这对大多数应用来说将是很好的。现在，让我们来看看价格的变化。所以他们实际上已经大幅降低了嵌入模型的价格。价格降低约75%。因此，这归结为每1000个令牌0.0001美元。
现在，这将使创建自定义模型的成本效益大大提高。现在，就聊天完成模式而言，所以他们实际上也修订了ChatGPT的价格。原来的ChatGPT，价格降低了25%。所以现在输入令牌的新定价是每块令牌0.0015美元。对吧。而这实际上大致相当于每美元700页，这很好。
现在，16K版本的价格只是两倍，无论是输入和输出令牌，但我认为这仍然是真正的成本效益。
现在，总体而言，这些是一些真正伟大的公告。这些都给开发者提供了更好的选择，而且成本更低。当涉及到这些大语言模型的新函数调用能力时，看看人们能构建什么，这将是令人兴奋的。我只是想创建这个快速更新。关于探索这个模型的能力的更详细的视频将很快出现。
希望你喜欢这个视频。
如果你喜欢这个视频，请考虑点赞并订阅本频道。
谢谢你的观看，下一集见。