AI行业应用

AI行业应用, MCP

mini-sglang:用最小代码看懂大模型推理引擎

Mini-SGLang 是一款轻量易读的推理框架(仅约 5000 行 Python 代码),通过基数缓存、分块预填充、重叠调度、张量并行,以及 FlashAttention/FlashInfer 内核等优化方案,实现大语言模型的高速运行与服务部署。该框架依赖 CUDA 环境,支持源码快速安装,可启动兼容 OpenAI 规范的 API 或交互式终端,适配单 / 多 GPU 部署,能以低延迟、可扩展吞吐量完成模型(如通义千问、Llama 系列)的测试与落地。核心优势:提供透明可修改的引擎,助力研发、基准测试或生产环境下,快速落地高效的大语言模型推理服务。
油管:https://youtu.be/6fWDo812hsY

🎬 在 YouTube 打开观看

AI编程, AI行业应用

sh-ty超高速的 Python 类型检查器

ty 是由 Astral 公司(知名工具 uv、Ruff 的研发团队)基于 Rust 语言开发的超高速 Python 类型检查器兼语言服务程序。
它的运行速度是 mypy、Pyright 这类主流工具的10~100 倍,不仅能输出详尽易懂的错误提示信息,还支持代码自动补全、悬停查看注解等 IDE 核心功能,同时完美适配大型项目开发,也兼容「部分类型注解」的开发模式。可通过命令 uvx ty check 直接试用该工具。借助 ty,开发者能提前排查代码潜在 Bug,通过实时反馈大幅提升编码效率,在 VS Code 等编辑器中显著优化开发生产力。
油管:https://youtu.be/ugiG3H6EPXg

🎬 在 YouTube 打开观看

AI项目, 开源项目

PentestGPT:把渗透测试中最累的那部分交给AI

PentestGPT 是一款免费开源的 AI 工具,可自动化完成渗透测试工作,涵盖 Web 渗透、密码学破解等 CTF 竞赛常见场景的靶机演练。该工具支持 Docker 快速部署,配置好 API 密钥(兼容 Anthropic、OpenAI 接口或本地大模型)后,执行命令pentestgpt –target [IP]即可启动,全程提供交互式指导,覆盖扫描探测、漏洞利用、报告生成全流程。全新 v1.0 版本新增自主智能体与会话保存功能,既能提升白帽黑客的渗透效率与测试精准度,也能帮助新手快速掌握渗透测试步骤,助力资深从业者高效攻克复杂目标。
油管:https://youtu.be/jQUxkCWbC2M

🎬 在 YouTube 打开观看

AI项目, 开源项目

Uncloud构建轻量级自托管基础设施的开源项目

Uncloud 是一个开源的自托管基础设施工具集,目标是帮助开发者在普通服务器环境中,构建一套可控、简洁、易理解的服务运行与管理体系。
它关注的是:
如何在不引入复杂平台的前提下,完成服务部署、节点管理和基础运行能力。
油管:https://youtu.be/HZtOIJ2Zz8s

AI项目, 开源项目

Next.js 做的一个 AI 辅助画图应用

「AI 帮我画点东西」这件事经常被理解成生成图片、生成插画。但在真实的工程和产品场景中,更有价值的其实是:AI 帮你生成“结构”,而不是像素。
next-ai-draw-io 正是一个围绕这个思路构建的实验性项目。
油管:https://youtu.be/XA54uQPcV1o

AI项目, 开源项目

Lynx:字节跳动的开源的跨端UI框架

但如果你顺着它的设计一路看下去,会发现它压根就没打算参加这场比赛。
Lynx 更像是在回答一个非常具体的问题:
在一个已经被信息流、动态 UI、复杂交互榨干性能预算的 App 里,还能不能继续用前端的方式写界面?
油管:https://youtu.be/6A2BJ_8PzQA

AI编程, AI行业应用

Tinker Cookbook:4 个最核心的训练示例

您可以使用 Tinker 和 Tinker Cookbook 轻松微调大型语言模型(LLM),满足您的特定需求,而无需管理复杂的训练基础设施。Tinker 负责分布式训练,并使用高效的 LoRA 适配器来降低成本并加快定制速度。Cookbook 提供了现成的示例和工具,适用于聊天、数学推理和强化学习等任务,帮助您快速构建和改进 AI 模型。

AI行业应用, MCP

nanoGPT:用最小代码理解 GPT 是怎么训练出来的

Star 数:48.4K+ 最简洁、高效的 GPT 训练与微调仓库,300 行代码实现中等规模 GPT nanoGPT 是 Andrej Karpathy 推出的开源项目,旨在提供最简单、最快的从零训练或微调中等规模 GPT 模型的代码库。它基于 PyTorch,重写了 minGPT 以优先性能,适合初学者快速上手 Transformer 架构,同时支持专业级实验,如复现 GPT-2 在 OpenWebText 上的结果。
油管:https://youtu.be/ySZQOiJWMWU

AI行业应用, 多媒体处理

免费可以轻松创建专业的前后对比的工具

支持多种对比布局,包括并排展示、交互式滑块、分割视图和垂直堆叠,适用于展示健身变化、家居装修、美容效果等多种场景。只需上传两张图片,选择所需的布局,添加标签,即可生成高质量的对比图或视频。
油管:https://youtu.be/fyzayHwjFGc

AI行业应用, MCP

TradingAgents智能体玩转 AI 量化研究

提供一个多智能体大语言模型框架,在金融交易/股票分析场景中模拟“真实交易机构”的角色分工(比如:基本面分析师、情绪分析师、技术分析师、交易员、风控团队等)——这一点延续了原版 TradingAgents 的核心理念。
油管:https://youtu.be/mJ_QjbGsV0A

AI新搜索, AI行业应用, MCP

Jina Embedding 与 RAG 构建智能搜索

在大模型时代,聊天、问答、分析这些看似“智能”的能力背后,其实依赖一个关键技术:检索增强生成(RAG,Retrieval-Augmented Generation)。
而 RAG 工作流的性能高低,很大程度上由一个基础组件决定——
Embedding(向量嵌入模型)。
油管:https://youtu.be/dODsbHB9_m4

AI行业应用, MCP

Supermemory:让 AI 拥有“长期记忆”

支持多源存储与 LLM 无缝集成 supermemory 是一个开源的记忆管理引擎和应用,专为 AI 时代打造,提供极致快速、可无限扩展的记忆存储与检索能力。它允许用户轻松从笔记、链接、文件等多种来源添加记忆,支持与 Notion、Google Drive 等服务的集成
油管:https://youtu.be/Ye87JljQr6s

Scroll to Top