URL路径错了

[lbwengineer]

SakuraLLV API RUL：http://127.0.0.1:8080/chat/completions

[ahuaiab]

设置这个url还是404报错
sakuraLLM模型的url不是这个吗？

[lbwengineer]

设置这个url还是404报错 sakuraLLM模型的url不是这个吗？

http://127.0.0.1:8080/chat/completions这个地址才是对的，release版的那个地址默认是http://127.0.0.1:8080/completions，这是不对的。手动在ini文件里修改就可以
http://127.0.0.1:8080/v1/chat/completions这个地址也可以

[ahuaiab]

设置这个url还是404报错 sakuraLLM模型的url不是这个吗？

http://127.0.0.1:8080/chat/completions 这个地址才是对的，release版的那个地址默认是 http://127.0.0.1:8080/completions，这是不对的。手动在 ini文件里修改就可以 http://127.0.0.1:8080/v1/chat/completions 这个地址也可以
设置为 http://127.0.0.1:8080/chat/completions or http://127.0.0.1:8080/v1/chat/completions 这两个地址
依然报错404
Net.WebException: The remote server returned an error: (404) Not Found.
request: POST /v1/chat/completions 127.0.0.1 404
request: POST /v1/chat/completion 127.0.0.1 404
ini文件设置如下
[Service]
Endpoint=SakuraTranslator
FallbackEndpoint=
[Sakura]
Endpoint=http://127.0.0.1:8080/chat/completions ##此处修改为你部署的Sakura模型监听的地址
MaxConcurrency=1
ApiType=Qwen ##OpenAI为kaggle上SakuraAPI，Qwen为本地Sakura 0.9模型，空置则为本地Sakura 0.8模型
UseDict=
DictMode=Full
Dict=

[fkiliver]

设置这个url还是404报错 sakuraLLM模型的url不是这个吗？

http://127.0.0.1:8080/chat/completions 这个地址才是对的，release版的那个地址默认是 http://127.0.0.1:8080/completions，这是不对的。手动在 ini文件里修改就可以 http://127.0.0.1:8080/v1/chat/completions 这个地址也可以
设置为 http://127.0.0.1:8080/chat/completions or http://127.0.0.1:8080/v1/chat/completions 这两个地址
依然报错404
Net.WebException: The remote server returned an error: (404) Not Found.
request: POST /v1/chat/completions 127.0.0.1 404
request: POST /v1/chat/completion 127.0.0.1 404
ini文件设置如下
[Service]
Endpoint=SakuraTranslator
FallbackEndpoint=
[Sakura]
Endpoint=http://127.0.0.1:8080/chat/completions ##此处修改为你部署的Sakura模型监听的地址
MaxConcurrency=1
ApiType=Qwen ##OpenAI为kaggle上SakuraAPI，Qwen为本地Sakura 0.9模型，空置则为本地Sakura 0.8模型
UseDict=
DictMode=Full
Dict=

你浏览器访问一下看看，webui可能访问地址不一样