MisterBD/intro-llm-labs

GitHub: MisterBD/intro-llm-labs

提供无GPU、无Hugging Face依赖的LLM实战实验室。

Stars: 0 | Forks: 0

# LLMs 简介 - 实战实验室 一天中的三个简短、实用的实验室。它们故意设计得简单且稳健: 这里没有任何需要 GPU 的内容,也没有任何内容从 Hugging Face 下载(在公司网络中被屏蔽)。 | 实验室 | 内容 | 安装 | 破坏风险 | |-------|------|------|----------| | **实验室 1** | VS Code 中的 GitHub Copilot:结构化输出、模型比较、AI 代码审计 | 无(您已经有了) | 非常低 | | **实验室 2** | 使用 Ollama 的微型本地 RAG | Ollama + 2 个小型模型 | 低(已测试) | | **实验室 3** | Gandalf 上的提示注入 | 无(网络) | 无 | ## 会前准备(5 分钟,可选但有助于) - **所有人**:确认 GitHub Copilot Chat 在 VS Code 中工作(实验室 1,实验室 3 备选方案)。 - **对于实验室 2**:从 https://ollama.com 安装 Ollama 并运行: ollama pull nomic-embed-text ollama pull llama3.2:3b 如果您无法及时安装 Ollama,没有问题:实验室 2 也将作为现场演示展示,您仍然可以使用零设置完成实验室 1 和实验室 3。 ## 注意事项 - 任何实验室中都没有公司数据。所有示例文本(预订、政策)都是虚构的。 - 小型 RAG 在 `llama3.2:3b` + `nomic-embed-text` 上进行了端到端测试。 - 实验室 1 和 2 从 "Hands-On Large Language Models"(Alammar & Grootendorst)中获得灵感,从头开始重建,以适应受限制的公司环境(Copilot / Ollama,离线,无 Hugging Face)。 每个实验室文件夹都有自己的 README。祝您玩得开心,并在实验室 3 中故意破坏一些东西。
标签:AI代码审计, AI应用, AI风险缓解, Apex, DNS解析, GitHub Copilot, LLM培训, LLM评估, Ollama, prompt注入, Subfinder, VS Code, 代码示例, 企业培训, 企业环境, 大型语言模型, 安全测试, 实战实验室, 开源项目, 技术分享, 技术栈, 技术社区, 攻击性安全, 教程, 教育项目, 数据分析, 数据管道, 文本分析, 无GPU, 无Hugging Face, 本地RAG, 机器学习, 模型比较, 模型训练, 编程实践, 软件工程, 逆向工具, 风险控制