AI 开源项目与 GitHub
| 项目 | GitHub / 官网 | 主要用途 |
|---|---|---|
| Transformers | huggingface/transformers | 加载、训练和使用主流模型 |
| Diffusers | huggingface/diffusers | 图像、视频和扩散模型 |
| llama.cpp | ggml-org/llama.cpp | 在本地运行量化 LLM |
| Ollama | ollama/ollama · 官网 | 本地模型下载与运行 |
| vLLM | vllm-project/vllm · Docs | 高吞吐模型推理服务 |
| SGLang | sgl-project/sglang · Docs | 高性能推理和结构化生成 |
| TensorRT-LLM | NVIDIA/TensorRT-LLM | NVIDIA GPU 推理优化 |
| MLX | ml-explore/mlx | Apple Silicon 本地机器学习 |
| whisper.cpp | ggerganov/whisper.cpp | 本地语音识别 |
| KoboldCpp | LostRuins/koboldcpp | 本地 LLM 图形化/命令行运行 |
Agent、RAG 和 LLM 应用
Section titled “Agent、RAG 和 LLM 应用”| 项目 | GitHub / 官网 | 主要用途 |
|---|---|---|
| LangChain | langchain-ai/langchain · 官网 | 模型、工具、检索和 Agent 编排 |
| LlamaIndex | run-llama/llama_index · 官网 | 数据连接、RAG 和 Agent |
| Haystack | deepset-ai/haystack | 搜索、RAG 和生成管线 |
| DSPy | stanfordnlp/dspy | 声明式 LLM 程序和优化 |
| AutoGen | microsoft/autogen | 多 Agent 和事件驱动工作流 |
| CrewAI | crewAIInc/crewAI | 角色化多 Agent 协作 |
| Semantic Kernel | microsoft/semantic-kernel | 企业 Agent 编排 |
| PydanticAI | pydantic/pydantic-ai | Python 类型安全 Agent |
| smolagents | huggingface/smolagents | 轻量代码 Agent |
| Browser Use | browser-use/browser-use | 让 Agent 操作浏览器 |
| Stagehand | browserbase/stagehand | 浏览器自动化和 AI 操作 |
| OpenHands | All-Hands-AI/OpenHands | 软件开发 Agent |
聊天界面、工作流和自托管
Section titled “聊天界面、工作流和自托管”| 项目 | GitHub / 官网 | 适合什么 |
|---|---|---|
| Open WebUI | open-webui/open-webui | Ollama 和 OpenAI 兼容 API 界面 |
| LobeChat | lobehub/lobe-chat | 多模型聊天工作台 |
| LibreChat | danny-avila/LibreChat | 自托管多模型聊天 |
| AnythingLLM | Mintplex-Labs/anything-llm | 私有文档和知识库问答 |
| Dify | langgenius/dify | LLM 应用和工作流平台 |
| Flowise | FlowiseAI/Flowise | 可视化流程编排 |
| Langflow | langflow-ai/langflow | 图形化构建 AI 应用 |
| n8n | n8n-io/n8n · 官网 | 自动化、Webhook 和 AI 工作流 |
| LiteLLM | BerriAI/litellm | 多模型统一 API 和代理 |
| One API | songquanpeng/one-api | 模型渠道和 Key 管理 |
| New API | Calcium-Ion/new-api | 兼容网关和多渠道管理 |
图像、视频和多媒体
Section titled “图像、视频和多媒体”| 项目 | GitHub / 官网 | 主要用途 |
|---|---|---|
| ComfyUI | comfyanonymous/ComfyUI · 官网 | 节点式图像/视频生成工作流 |
| Stable Diffusion WebUI | AUTOMATIC1111/stable-diffusion-webui | Stable Diffusion 本地界面 |
| InvokeAI | InvokeAI/InvokeAI | 创作型图像生成工作台 |
| Fooocus | lllyasviel/Fooocus | 简化 Stable Diffusion 使用 |
| Krita AI Diffusion | Acly/krita-ai-diffusion | Krita 内图像生成辅助 |
| OpenVoice | myshell-ai/OpenVoice | 语音克隆和多语言语音 |
| CosyVoice | FunAudioLLM/CosyVoice | 语音合成和声音生成 |
| Whisper | openai/whisper | 语音识别 |
评测、数据和研究工具
Section titled “评测、数据和研究工具”| 项目 | GitHub | 主要用途 |
|---|---|---|
| EleutherAI lm-evaluation-harness | GitHub | 统一评测语言模型 |
| Ragas | GitHub | RAG 质量评估 |
| DeepEval | GitHub | LLM 应用测试和评估 |
| Promptfoo | GitHub | 提示词、模型和红队评测 |
| OpenLLMetry | GitHub | OpenTelemetry LLM 观测 |
| Weights & Biases | 官网 · GitHub | 训练、实验和评测追踪 |
| MLflow | 官网 · GitHub | 模型生命周期和实验管理 |
Awesome 资源清单
Section titled “Awesome 资源清单”这些仓库主要用于发现项目，不代表每个条目都经过 EasyAI 审核：
- Awesome LLM：论文、模型和工具索引。
- Awesome LLM Apps：可运行的 LLM 应用示例。
- Awesome AI Agents：Agent 框架和项目集合。
- Awesome MCP Servers：MCP Server 社区清单。
- Awesome ChatGPT：提示词、工具和 ChatGPT 资源。
- Awesome AI Tools：AI 工具目录。
- Awesome Self-hosted：可自托管软件总表，包含 AI 相关项目。
看 GitHub 项目时检查
Section titled “看 GitHub 项目时检查”- 最近提交、Release、Issue 和维护者是否活跃；
- License 是否允许你的使用方式；
- 安装脚本、Dockerfile 和依赖是否可信；
- 是否会上传数据、执行命令或读取本地密钥；
- 生产使用是否有版本锁定、备份、监控和回滚方案。
“GitHub 上有代码”不等于“适合生产”。先在隔离环境和测试数据里运行。