使用 Llama.cpp 在本地部署 Qwen3 模型并API调用

点击进入到lLlama.cpp项目拉取代码，有两种方式根据你自己的情况来进行选择。可以通过gitclone代码又或者下载zip包放入到服务器。

在浏览器或 API 调试工具（如 Postman、curl 等）的地址栏中，输入以下 URL：

请求方法：POST

Body 类型：raw（JSON 格式）

请求体示例：

说明：

1. model：指定使用的模型名称（需与服务端加载的模型一致）；
2. messages：对话消息列表，当前仅包含一条用户消息；
3. role 可为 "user"、"assistant" 或 "system"（根据模型支持情况）。

确保服务已成功启动并监听对应 IP 和端口，方可正常调用接口。