WebUI integrated platform for latest LLMs | 各大语言模型的全流程工具 WebUI 整合包。支持主流大模型API接口和开源模型。支持知识库，数据库，角色扮演，mj文生图，LoRA和全参数微调，数据集制作，live2d等全流程应用工具

初次使用建议查阅说明文档进行相关操作

本项目已在 Python 3.8 - 3.10，CUDA 11.7/11.8 环境下完成测试。已在 Windows、Linux 系统中完成测试。

# 拉取仓库
$ git clone https://github.com/wpydcr/LLM-Kit.git

# 进入目录
$ cd LLM-Kit

# 安装依赖
$ pip install -r requirements.txt

依赖也可以直接下载：Windows环境包， Linux环境包。

显卡驱动和cuda自行安装

• win环境，双击打开 web-demo-CN.bat 脚本
• Linux环境，双击打开 web-demo-CN.sh 脚本

• 体验大模型连接数据库功能请先下载相关文件
• 体验角色扮演功能请先下载相关文件
• 表情包功能请先下载相关文件放入data/apply/emotion文件夹中
• 文件目录

• env ：集成包环境
• utils ：工具代码
• modules ：各模块代码
  • agent ：agent相关代码
    • chatdb : 数据库接入相关代码
    • svc : svc相关代码
    • vits : vits相关代码
  • apply ：应用demo代码
  • model ：模型相关代码
• data ：数据文件
  • apply ：应用demo相关文件
    • audio ：生成的语音文件
    • emotion ：表情包文件
    • play ：人设提示词文件
  • documents ：知识库数据文件
  • modeldata ：模型训练数据文件
    • LLM ：大模型训练数据文件
    • Embedding ：嵌入模型训练数据文件
• ui ：ui界面代码
• output ：训练中的checkpoints
• models ：模型文件
  • LLM ：语言大模型文件
  • Embedding ：嵌入模型文件
  • LoRA ：LoRA模型文件
  • live2d_models ：live2d模型文件
  • svc_models ：svc相关文件
    • hubert_model ：声音编码器模型文件
    • svc : svc模型文件
  • vits_pretrained_models : vits模型文件

  • 开源协议

    本仓库的代码依照 AGPL-3.0 协议开源

    一方面希望通过开源加强项目产品化程度；另一方面希望在社区中吸收更多的实践场景进而继续完善产品，也欢迎大家参与到项目中来。

    AGPL-3.0 是 OSI 批准的许可证，符合自由和开源软件的所有标准，开源永远是我们的初心与核心，我们将始终不渝的坚持去做这件事，我们相信在社区的推动下，这件事我们一定会做的更好 。

    或许很多开发者对此协议抱有一些疑问，开源社区目前也有很多采用 AGPL-3.0 协议的开源软件，例如 MongoDB、Grafana、Loki 等， 维基百科还专门有一份列表列出了哪些开源项目 采用了 AGPL-3.0 开源协议。

    AGPL-3.0 协议有一个非常关键的点，即对修改上游开源项目代码后的二次分发版本必须也要开源，协议限制的是部分企业想 Folk 开源项目代码后进行闭源商业分发，跟上游开源项目的维护团队进行直接的商业竞争，如果仅仅只是企业内部自己使用而不进行任何层面修改，用户大可不必担心 AGPL-3.0 协议带来的限制， 这些条件旨在鼓励和希望修改软件的第三方也为项目和社区做出贡献。我们认为这是一种更公平的前进方式，我们相信这将有助于我们建立更强大的社区。

    简单来讲：如果您修改了本项目源代码，那么您必须将这些修改贡献给社区， 绝不允许修改后和衍生的代码做为闭源的商业软件发布和销售。

    我们也提供了商业授权，如果您需要将本产品进行二次开发、更改并进行任何附带商业化性质行为使用，进行商业授权，以遵守 AGPL-3.0 协议保证您的正常使用。

    除此之外，我们也会酌情接受根据个人或企业需求的定制化开发。

    目前在国内 GPL 协议具备合同特征，是一种民事法律行为 ，属于我国《合同法》调整的范围。 本项目团队保留诉讼权利。

    本项目开源团队拥有对本开源协议的最终解释权。

    引用

    如果您在项目中使用了我们的模型、代码或者数据，请引用下面文章。

    Please cite the repo if you use the data or code in this repo.

    @misc{wupingyu2023,
      author={Pingyu Wu},
      title = {LLM Kit},
      year = {2023},
      publisher = {GitHub},
      journal = {GitHub repository},
      howpublished = {\url{https://github.com/wpydcr/LLM-Kit.git}},
    }