Waffuru ドキュメント

ワッフル

すでにお持ちのハードウェアでモデルを高速に動かすための低レベルツール。ドキュメントを読むコンポーネントを選んでください。

Butter

なめらかなローカル推論でレイテンシを溶かします。Apple Silicon 向けの依存関係の少ない LLM 推論ライブラリで、Iron のプリコンパイル済み Metal カーネルの上に構築されています。Python も MLX も JIT も不要です。

Rust 製のカーネル DSL。生の数式を高性能なシリコンへ直接刻み込みます。ひとつの定義が Metal、CUDA、HIP、Vulkan にコンパイルされます。