colombus-dev/mlprofiler

# ML 分析器 通过分析源代码并对管道步骤进行分类来分析 ML 管道。 ## 要求 - Docker ≥ 28.5.1 - Docker Compose ≥ 2.40.0 - _(高级)_ 需要Docker Model Runner (https://docs.docker.com/ai/model-runner/get-started/) ≥ 1.1.37 以使用 LLM 分析器功能 ## 快速开始 ``` cd docker cp .env.sample .env # edit .env if needed, the defaults work for basic setup docker compose --env-file .env up --build ``` ## 高级设置（LLM 分析器） LLM 分析器功能需要 Docker Model Runner（DMR）。设置因平台而异。 ### Mac DMR 无需额外安装。DMR 通过 Metal（Apple Silicon）本地使用 llama.cpp。 ``` docker compose -f docker-compose.yml -f docker-compose.mac.yml --env-file .env up --build ``` ### Linux DMR [设置 vLLM 推理后端](https://docs.docker.com/ai/model-runner/inference-engines/#setting-up-vllm): ``` docker model install-runner --backend vllm --gpu cuda ``` [配置模型](https://docs.docker.com/ai/model-runner/inference-engines/#vllm-configuration): ``` docker model configure --hf_overrides '{ "max_model_len": 8192, "max_num_seqs": 10, "gpu_memory_utilization": 0.8, "enforce_eager": true }' hf.co/Qwen/Qwen2.5-Coder-7B-Instruct-AWQ ``` ``` docker compose -f docker-compose.yml -f docker-compose.linux.dmr.yml --env-file .env up --build ``` ### Linux vLLM（独立） 在 `.env` 中设置 `VLLM_FORCE=1`，然后： ``` docker compose -f docker-compose.yml -f docker-compose.linux.dmr.yml -f docker-compose.linux.vllm.yml --env-file .env up --build ``` ## 监控（可选） | 栈 | 命令 | |---|---| | Langfuse ([文档](https://langfuse.com/docs)) | `docker compose -f docker-compose-monitor-langfuse.yml up` | | Grafana/Prometheus ([文档](https://github.com/vllm-project/vllm/tree/main/examples/online_serving/prometheus_grafana)) | `docker compose -f docker-compose-monitor-grafana.yml up` | ## 开发 安装 pre-commit 钩子： ``` uv run --with pre-commit pre-commit install ``` ## 故障排除 **连接到 Docker 套接字时出现“权限被拒绝”** ``` sudo usermod -a -G docker $USER && newgrp docker ``` 然后重启。 **构建期间 `uv sync` 失败** 重新生成锁文件： ``` uv lock ``` **无法选择设备驱动程序 "nvidia"** 安装 [NVIDIA 容器工具包]() 并 [配置 Docker 以使用 NVIDIA 运行时](https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html#configuring-docker).

标签：版权保护, 请求拦截, 逆向工具