该文档描述了concrete.ml.torch.compile模块，该模块提供了将 PyTorch 和 ONNX 模型编译为 FHE 等效形式的功能。
concrete.ml.torch.compile
本文讲述了在深度学习和LLM中实现可复现性的挑战，特别是使用Nvidia GPU时，浮点运算的非结合性以及硬件差异会导致结果不一致。文章分享了通过重写GEMM CUDA kernel，避免使用Tensor Cores，并确保运算顺序的确定性来解决这一问题，最终在不同硬件上实现了模型输出的一致性。
Bionetta是一个zkML框架，旨在解决AI安全问题，实现可验证性、零知识和客户端执行。它通过将模型权重嵌入电路作为常量，优化R1CS系统中的线性计算，从而降低计算成本。该框架还提出了一种量化方案，用于在有限域内处理浮点运算，并在神经网络中有效管理精度。
zama-ai
ingonyama
0x90699B5A52BccbdFe73d5c9F3d039a33fb2D1AF6