本文档介绍了TFHE中用于连接HPU加速器的tfhe-hpu-backend代码。它包含一个HpuDevice抽象,可以轻松配置和调度HPU加速器上的TFHE操作。提供了HPU硬件设置、CPU密文克隆到HPU、在HPU上调度操作的示例以及预先构建的示例。
本文介绍了TFHE-hpu-mockup,一个HPU硬件的仿真替代实现,它可以与没有硬件支持的tfhe-hpu-backend无缝配对。该mockup旨在透明地集成到用户应用程序中,生成与真实硬件匹配的跟踪,并为RTL仿真生成精确的golden stimuli。它还支持固件开发,提供准确的性能估算和跟踪功能。
tfhe-hpu-backend
本文档介绍了同态处理单元(HPU)上的整数运算(IOp)的高级代码语法,HPU通过使用整数的基数表示来处理整数上的任何运算。IOp代码定义了整数操作签名,该签名用作链接到数字操作(DOp)代码的标识符。文章详细描述了IOp代码的结构、关键字、预定义IOp以及自定义IOp的示例。
本文档介绍了同态处理单元 (HPU) 的底层代码语法,称为数字操作 (DOp)。DOp 程序类似于传统 CPU 汇编代码,但它操作的是编码数字的初级密文。文章详细描述了 DOp 指令的语法、寻址方式、以及各种指令类型(ALU、MEM、PBS 和 Control),并提供了示例。
本文主要介绍了在TFHE中使用HPU加速时,如何调试IOps以优化性能和保证正确性。文章详细介绍了HPU mockup的使用方法,以及如何通过分析mockup的输出、指令调度器追踪等工具来解决IOps中出现的问题,并提供实际的性能改进案例。
该文档描述了concrete.ml.torch.compile模块,该模块提供了将 PyTorch 和 ONNX 模型编译为 FHE 等效形式的功能。
concrete.ml.torch.compile