Skip to content

是否可以给自定义模型添加一个获取模型列表的功能 #717

Open
@cyber-tao

Description

@cyber-tao

我是自建的LLM服务器,跑的模型比较多,每次要换模型的时候都要手动输入模型名,可否加一个自动获取模型列表的功能,这样我只要选择就可以了。
或者可以添加多个自定义模块也行,我把我服务器上跑的LLM都添加到自定义模块里。
感谢。

Metadata

Metadata

Assignees

No one assigned

    Labels

    enhancementNew feature or request

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions