榜单

面向Web项目的工具链，旨在提供维护功能。Biome提供格式化和代码检查工具，可通过CLI和LSP使用。

LLM交互安全工具包

sd-webui中文提示词插件、老手新手炼丹必备

Python SDK，代理服务器（AI网关），用于调用100+个LLM API，支持OpenAI（或本地）格式，具备成本跟踪、安全限制、负载均衡和日志记录。[Bedrock、Azure、OpenAI、VertexAI、Cohere、Anthropic、Sagemaker、HuggingFace、VLLM、NVIDIA NIM]

关于基于LLM代理的精彩之处。论文/仓库/博客/...

轻量级消息队列。类似于 AWS SQS 和 RSMQ，但基于 Postgres。

从头开始使用PyTorch实现类似ChatGPT的LLM，步骤详解

⛓️RuleGo 是一个轻量级、高性能的嵌入式下一代 Go 语言组件编排规则引擎框架。

自托管、离线、类似ChatGPT的聊天机器人。由Llama 2驱动。100%隐私，数据不离开您的设备。新功能：支持代码Llama！

LightLLM 是一个基于 Python 的 LLM（大型语言模型）推理和部署框架，以其轻量级设计、易于扩展和高性能而著称。

一款开源计算机视觉框架，几分钟内即可构建和部署应用

PyTorch官方实现“TokenFlow：一致视频编辑的统一扩散特征”方案，展示“TokenFlow”（ICLR 2024）

用于构建持久AI代理的响应式运行时

功能齐全的开源客户关系管理软件

即用型云模板，适用于RAG、AI流水线和企业搜索，支持实时数据。🐳Docker兼容。⚡始终与Sharepoint、Google Drive、S3、Kafka、PostgreSQL、实时数据API等同步。

中文LLaMA-2 & Alpaca-2大模型二期项目 + 64K超长上下文模型

新一代多租户AI一站式解决方案。内置管理员和计费系统。支持企业级统一LLM网关，兼容200+模型和35+提供商，基于优先级的负载均衡与路由，成本管理，聊天共享，云同步，信用/订阅计费，所有文件解析，网页搜索，内置模型缓存。

欢迎来到Llama菜谱！这是您构建Llama的必备指南：从推理、微调到RAG入门。我们还展示了如何使用Llama模型家族解决端到端问题，并在各种服务提供商上使用它们。

一个API适用于所有LLM（无论是私有还是公共的，如Anthropic、Llama V2、GPT 3.5/4、Vertex、GPT4ALL、HuggingFace等）🌈🐂。只需一行代码，即可在您的应用中将OpenAI GPT替换为任何LLM。

免费、简单、直观的在线数据库图编辑器和SQL生成器。

您的自动提示工程助手，适用于生成式AI应用

轻量级ONNX文件推理库，用C++编写。可在RPI Zero 2（或298MB RAM）上运行Stable Diffusion XL 1.0，也可在桌面和服务器上运行Mistral 7B。支持ARM、x86、WASM、RISC-V。由XNNPACK加速。提供Python、C#和JS(WASM)绑定。

全栈工作空间，适用于人类与机器

全球最佳AI邮件个人助理。开源应用，助你快速实现邮箱清零。

现代高性能开源消息队列系统

使用Python、LangChain和LangGraph构建生产就绪的LLM应用程序和高级智能体。这是关于LangChain生成式AI书籍的配套仓库。

米霍仪表盘，官方版，XD

下一代超大规模MoE模型训练引擎

👾 ChatGPT代码解释器开源实现

日本LLM汇总 - 日本LLM概述