gpt4all 和 llama 的 TypeScript 绑定
作者:Sec-Labs | 发布时间:
项目地址
https://github.com/nomic-ai/gpt4all-ts
pt4all-ts🌐🚀📚
gpt4all-ts 是一个 TypeScript 库,它提供了一个与 GPT4All 交互的接口,它最初是使用nomic SDK在 Python 中实现的。该库旨在将 GPT4All 的惊人功能扩展并引入 TypeScript 生态系统。
gpt4all-ts 受到 GPT4All 项目的启发并建立在 GPT4All 项目之上,该项目提供基于 LLaMa 大型语言模型的代码、数据和演示,具有大约 800k GPT-3.5-Turbo Generations😲. 您可以在此处找到 GPT4All 自述文件以了解有关该项目的更多信息。
🙏我们要对GPT4All团队表示感谢,感谢他们的努力和支持,使这个库成为可能。
入门🏁
要安装并开始使用 gpt4all-ts,请按照以下步骤操作:
1.安装包
使用您喜欢的包管理器将 gpt4all-ts 安装为依赖项:
npm install gpt4all
# or
yarn add gpt4all
2.导入GPT4All类
在您的 TypeScript(或 JavaScript)项目中,GPT4All从gpt4all-ts包中导入类:
import { GPT4All } from 'gpt4all-ts';
3.实例化并使用GPT4All类
创建该类的实例并按照示例用法GPT4All部分中的示例与模型进行交互。
编码愉快!💻🎉
用法示例🌟
下面是如何GPT4All在 TypeScript 中使用该类的示例:
import { GPT4All } from 'gpt4all-ts';
const main = async () => {
// Instantiate GPT4All with default or custom settings
const gpt4all = new GPT4All('gpt4all-lora-unfiltered-quantized', true); // Default is 'gpt4all-lora-quantized' model
// Initialize and download missing files
await gpt4all.init();
// Open the connection with the model
await gpt4all.open();
// Generate a response using a prompt
const prompt = 'Tell me about how Open Access to AI is going to help humanity.';
const response = await gpt4all.prompt(prompt);
console.log(`Prompt: ${prompt}`);
console.log(`Response: ${response}`);
const prompt2 = 'Explain to a five year old why AI is nothing to be afraid of.';
const response2 = await gpt4all.prompt(prompt2);
console.log(`Prompt: ${prompt2}`);
console.log(`Response: ${response2}`);
// Close the connection when you're done
gpt4all.close();
}
main().catch(console.error);
要使用该库,只需GPT4All从gpt4all-ts包中导入类即可。创建该类的一个实例GPT4All,并可选择提供所需的模型和其他设置。
创建 gpt4all 实例后,您可以使用该open()方法打开连接。要生成响应,请将您的输入提示传递给该prompt()方法。close()最后,请记住在完成与模型的交互后使用 方法关闭连接。
以下是您可以期待的 GPT4All 模型的一些输出:
提示:告诉我人工智能的开放获取将如何帮助人类。
回应:人工智能的开放访问已经在许多方面有所帮助,例如通过机器学习算法改进医疗诊断和治疗选择,这些算法比人类单独分析患者数据更有效。它还通过使用深度神经网络进行图像识别和物体检测任务来帮助开发自动驾驶汽车。Open Access 有望在解决气候变化、药物发现等复杂问题,甚至通过机器人过程自动化 (RPA) 等支持 AI 的自动化技术创造新工作岗位方面发挥关键作用。
提示:向一个五岁的孩子解释为什么 AI 没什么好害怕的。
回应:人工智能,也称为 AI 或机器学习,是一种可以通过数据分析学习和自我改进的系统,无需针对它们执行的每项任务进行明确编程。他们有能力理解大型数据集中的复杂模式,这使他们成为医疗保健、交通、金融等各个行业的有用工具。
AI 不是我们应该害怕的东西,因为它的设计以我们的最大利益为核心,可以帮助我们根据数据分析而不是直觉或个人偏好做出更好的决策。人工智能系统对用户也变得更加透明,以便他们了解系统的工作原理,这有助于在他们和他们的机器之间建立信任。
AI 将继续存在,因为它已经被许多行业采用,因为它在节省成本、提高效率等方面的好处,但我们不必害怕或怀疑这项技术,因为如果正确使用 AI 也可以使我们受益它背后的正确意图。
引用📝
如果您使用此存储库、原始 GPT4All 项目或其下游项目中的数据,请考虑将其引用为:
@misc{gpt4all,
author = {Yuvanesh Anand and Zach Nussbaum and Brandon Duderstadt and Benjamin Schmidt and Andriy Mulyar},
title = {GPT4All: Training an Assistant-style Chatbot with Large Scale Data Distillation from GPT-3.5-Turbo},
year = {2023},
publisher = {GitHub},
journal = {GitHub repository},
howpublished = {\url{https://github.com/nomic-ai/gpt4all}},
}
如果您有任何问题或需要帮助,请随时加入Discord频道并在#gpt4all-help部分寻求帮助。
关于作者🧑💻
gpt4all-ts 由 Intuitive Systems 的创始人 Conner Swann 创建。Conner 是一位充满热情的开发人员,也是人工智能模型民主化的倡导者,他认为每个人都应该可以使用强大的机器学习工具🌍. 用现代先贤的话来说,“AI潮起,舟必浮”🚣.
您可以在 Twitter 上找到 Conner,分享见解和偶尔的恶作剧🎭在@YourBuddyConner。虽然他绝对喜欢加入推动人工智能发展的潮流🤖,他仍然谦虚地致力于探索和提供最先进的技术以造福所有人。