compiler-plugin

Tlaloc：Kotlin 编译期自动微分与 GPU 推理服务

pedronahum/tlaloc · Autodiff for Kotlin, compiled not traced. A K2 compiler plugin turns grad {} into gradient code; lowers to StableHLO and runs on GPU via PJRT or IREE.

Tlaloc 是一个面向 Kotlin 的可微分数组程序库。它通过 K2 编译器插件在编译期把 grad { } 降级为梯度代码，无需运行时 tracing 或 tape；张量在 Kotlin 类型中携带秩、dtype 与轴名称。程序可下沉为 StableHLO，经 PJRT 或 IREE 在 NVIDIA GPU 上执行，也可通过参考解释器在 CPU 上运行。项目还包含不可变神经网络层与纯函数优化器用于训练，并可将 Hugging Face 检查点导出为 StableHLO 与 safetensors 组成的推理制品，供 NVIDIA Triton、vLLM 或轻量 Python 运行时加载。当前为 0.1.0-alpha02 版本，处于 alpha 阶段。