softwiredtech/stable-diffusion-webgpu
📦 开源项目softwiredtech
利用 WebGPU 和 tinygrad 框架，在浏览器中直接运行 Stable Diffusion 模型。
本项目是一个在 Web 浏览器环境中完整运行 Stable Diffusion 的技术演示。通过利用 WebGPU API，该项目将繁重的张量计算卸载到用户的 GPU 上，从而绕过了服务器端推理带来的延迟和基础设施成本。其核心实现依赖于 tinygrad，这是一个以简洁和高效著称的深度学习框架，擅长将算子映射到硬件后端。
主要功能包括与基于浏览器的图形管线直接集成，从而实现实时或近实时的图像生成。该项目突显了现代 Web 标准在弥合桌面级 AI 模型与 Web 应用之间差距的潜力。开发者可以借此探索 tinygrad 的架构如何促进跨平台兼容性，对于关注边缘 AI、浏览器端机器学习以及 WebGPU 作为高性能计算接口演进的研究者来说，这是一个重要的参考资源。