大模型服务导航

本文定位：这条链路上每个服务的入口、账号与用途，一张表看全。原页面 大模型导航.html 已作为配套附件一起发布。

环境：内网 10.0.1.47。浏览器 → Dify → New-API → vLLM（qwen3.6-27b）；向量请求走 Xinference（bge-m3）。

一、总表

角色	服务	地址	说明
应用层	Dify	http://10.0.1.47:8088	知识库、工作流和 RAG 编排。对话模型 qwen3.6-27b，向量模型 bge-m3。
网关层	New-API	http://10.0.1.47:3000	鉴权、额度和渠道。上游是本机 vLLM，模型名 qwen3.6-27b。
调用地址	OpenAI 兼容接口	http://10.0.1.47:3000/v1	给 Cline 或其他客户端用的网关地址。令牌在 New-API 后台发放，登录用上面的管理员账号。
推理层	vLLM	http://10.0.1.47:8000/v1	当前模型 qwen3.6-27b，最大上下文 65536。浏览器直接访问不校验账号。
向量层	Xinference	http://10.0.1.47:9997	bge-m3 向量模型和 bge-reranker-v2-m3 重排模型，走内网，和 vLLM 共用 GPU 0。
会话追踪	Langfuse	http://10.0.1.47:3100	Dify 里「阿里云合同条款」的会话链路。提问、检索和模型调用会记到这个项目。
监控	Grafana	http://10.0.1.47:3001	看板「GPU 与 vLLM」：显存、温度、利用率，以及 vLLM 排队和 KV 占用。
指标	Prometheus / DCGM	http://10.0.1.47:9090	Prometheus 采集 DCGM 和 vLLM。显存、温度、利用率来自 DCGM Exporter。

二、逐个服务的入口与凭据

下面按上表顺序逐个列出。账号密码沿用现网值，这份导航页请只在内网使用，不要发到公网。

1. Dify（应用层）

知识库、工作流和 RAG 编排。对话模型 qwen3.6-27b，向量模型 bge-m3。

入口地址 http://10.0.1.47:8088。

账号 admin@example.com，密码 Dify-rag-2026。

2. New-API（网关层）

鉴权、额度和渠道。上游是本机 vLLM，模型名 qwen3.6-27b。

入口地址 http://10.0.1.47:3000。

账号 admin，密码 L4o4986784$。

3. OpenAI 兼容接口（调用地址）

给 Cline 或其他客户端用的网关地址。令牌在 New-API 后台发放，登录用上面的管理员账号。

入口地址 http://10.0.1.47:3000/v1。

账号 admin，密码 L4o4986784$。

4. vLLM（推理层）

当前模型 qwen3.6-27b，最大上下文 65536。浏览器直接访问不校验账号。

入口地址 http://10.0.1.47:8000/v1。

该服务不校验账号，直接访问即可。

5. Xinference（向量层）

bge-m3 向量模型和 bge-reranker-v2-m3 重排模型，走内网，和 vLLM 共用 GPU 0。

入口地址 http://10.0.1.47:9997。

账号 admin，密码 Xinf-bge-2026。

6. Langfuse（会话追踪）

Dify 里「阿里云合同条款」的会话链路。提问、检索和模型调用会记到这个项目。

入口地址 http://10.0.1.47:3100。

账号 admin@example.com，密码 Lf-trace-2026。

7. Grafana（监控）

看板「GPU 与 vLLM」：显存、温度、利用率，以及 vLLM 排队和 KV 占用。

入口地址 http://10.0.1.47:3001。

账号 admin，密码 Gf-gpu-2026。

8. Prometheus / DCGM（指标）

Prometheus 采集 DCGM 和 vLLM。显存、温度、利用率来自 DCGM Exporter。

入口地址 http://10.0.1.47:9090。

该服务不校验账号，直接访问即可。

三、这条链路怎么走

浏览器打开 Dify 发起对话，Dify 把请求交给 New-API，New-API 按渠道转发到本机的 vLLM 推理服务；知识库检索需要的向量和重排由 Xinference 提供；Grafana 从 Prometheus 读 DCGM 与 vLLM 的指标画看板；会话链路则记在 Langfuse 上。