夏歌-使用Rust构建LLM应用SECTION TITLE 我们能不能直接用 Rust • 训练 • 推理 • AI 应用相关的工具 • WASI-NN spec • WasmEdge 已经支持 Pytorch 、 TensorFlow Lite • WASI-NN 2.0 比如 Langchain Rewrite it in Rust • 笨重 • 资源占用多 • 大部分时间是在等待 • 轻量级 • 资源占用量小0 码力 | 36 页 | 38.31 MB | 1 年前3- THE FIRST EXPLORATION OF PROJECT SPARROWframeworks II. Practicing Sparrow Ideas Today, most of the main stream AI frameworks such like Tensorflow, PyTorch and MXNet embrace Python+C++ for their software layers design. While Rust0 码力 | 68 页 | 13.14 MB | 1 年前3
共 2 条
- 1