TFHE-rs v1.1：细粒度的 GPU 控制和更多算子

ZamaFHE
发布于 2025-04-11 14:44
阅读 22

Zama 发布了 TFHE-rs v1.1 版本，该版本在 GPU 和 CPU 后端都有重大改进和新特性。GPU 方面，升级了后端，采用了与 CPU 相同的默认加密参数，显著提高了多 GPU 的支持，CPU 方面，通过支持更多的标量案例扩展了算子集，该版本还引入了分块引导密钥生成，以更好地支持内存受限环境中的操作。

[![](https://img.learnblockchain.cn/2025/04/23/646eaa9b9a4784ac233a2025_zama20logo20black.png)](https://www.zama.ai/)

[博客](https://www.zama.ai/blog)

[TFHE-rs](https://www.zama.ai/category/tfhe-rs)

[公告](https://www.zama.ai/category/announcements)

## TFHE-rs v1.1：细粒度的 GPU 控制和更多运算符

2025年4月10日

Jean-Baptiste Orfila, Arthur Meyre, Agnes Leroy

* * *

本月，Zama 发布了 TFHE-rs v1.1，为 GPU 和 CPU 后端带来了多项重大改进和新功能。

在 GPU 方面，后端已升级为采用与 CPU 相同的默认加密参数，从而将计算错误的概率降低到 2⁻¹²⁸ 以下——所有这些都对性能影响极小。多 GPU 支持也得到了显着改进：用户现在可以明确选择在哪个 GPU 上运行，从而在 8×H100 GPU 上实现接近 **每秒 500 次加密的 64 位加法**。

在 CPU 方面，此版本通过支持更多标量案例扩展了运算符集，使同态计算更加通用和高效。

在这篇博文中，我们将深入探讨 TFHE-rs v1.1 的新功能细节。

#### 更好的多 GPU 吞吐量

在 v1.1 之前，TFHE-rs 的高级 API 使用硬编码策略自动将工作负载分配到所有可用的 GPU 上，以进行任何加密操作。虽然这对于非常大的整数精度（>128 位）以及大量加载 GPU 的操作（例如乘法）有效，但对于较小的操作（通常是 64 位加密加法或比较）来说并不理想。

从 v1.1 开始，**开发人员可以选择对每个操作使用哪个 GPU**，从而优化多 GPU 设置的性能。

这是一个快速示例，展示了如何在每个 GPU 上并行执行一百个 64 位加密加法，其中每个加法都在单个 GPU 上计算：

``` rust
use tfhe::{ConfigBuilder, set_server_key, ClientKey, CompressedServerKey, FheUint64, GpuIndex};
use tfhe::prelude::*;
use rayon::prelude::*;
use tfhe::core_crypto::gpu::get_number_of_gpus;
use rand::{thread_rng, Rng};
fn main() {
    let config = ConfigBuilder::default().build();

let client_key = ClientKey::generate(config);
    let compressed_server_key = CompressedServerKey::new(&client_key);

let num_gpus = get_number_of_gpus();
    let sks_vec = (0..num_gpus)
        .map(|i| compressed_server_key.decompress_to_specific_gpu(GpuIndex::new(i)))
        .collect::>();

let batch_size = num_gpus * 100;

let mut rng = thread_rng();
    let left_inputs = (0..batch_size)
        .map(|_| FheUint64::encrypt(rng.gen::(), &client_key))
        .collect::>();
    let right_inputs = (0..batch_size)
        .map(|_| FheUint64::encrypt(rng.gen::(), &client_key))
        .collect::>();

let chunk_size = (batch_size / num_gpus) as usize;
    left_inputs
        .par_chunks(chunk_size)
        .zip(
            right_inputs
                .par_chunks(chunk_size)
        )
        .enumerate()
        .for_each(
            |(i, (left_inputs_on_gpu_i, right_inputs_on_gpu_i))| {
                left_inputs_on_gpu_i
                    .par_iter()
                    .zip(right_inputs_on_gpu_i.par_iter())
                    .for_each(|(left_input, right_input)| {
                        set_server_key(sks_vec[i].clone());
                        left_input + right_input;
                    });
            },
        );
}

```

这里发生了什么？与使用 TFHE-rs 进行的常规 GPU 计算不同的是，服务器密钥的定义方式：

``` rust
let sks_vec = (0..num_gpus)
        .map(|i| compressed_server_key.decompress_to_specific_gpu(GpuIndex::new(i)))
        .collect::>();
```

在这里，创建了一个服务器密钥向量，每个密钥都在特定的 GPU 上。

然后，没有像通常那样对输入调用 par\_iter()，而是将输入分块以分配到所有 GPU 上：

``` rust
left_inputs
        .par_chunks(chunk_size)
        .zip(
            right_inputs
                .par_chunks(chunk_size)
        )
        .enumerate()
        .for_each(
            |(i, (left_inputs_on_gpu_i, right_inputs_on_gpu_i))| {
                left_inputs_on_gpu_i
                    .par_iter()
                    .zip(right_inputs_on_gpu_i.par_iter())
                    .for_each(|(left_input, right_input)| {
                        set_server_key(sks_vec[i].clone());
                        left_input + right_input;
                    });
            },
        );
```

通过使用 set\_server\_key(sks\_vec\[i\].clone()) 设置与每个块关联的 GPU 对应的服务器密钥，加法会在所有 GPU 上独立计算。请注意，在执行 sks\_vec\[i\].clone() 时，服务器密钥的指针会被复制到特定线程，而不是服务器密钥本身的内容，因此不会产生额外的开销。你可以按照我们的[专用教程](https://docs.zama.ai/tfhe-rs/configuration/run_on_gpu/multi_gpu#improving-throughput-on-multiple-gpus)进一步最大限度地提高多 GPU 吞吐量。

通过设置此逻辑，TFHE-rs 现在可以在 8xH100 GPU 上实现 **每秒接近 500 次 64 位加密整数加法**。

#### CPU 后端上的新操作符

TFHE-rs v1.1 为 CPU 后端带来了多个新增功能和改进：

- **对 select 的标量支持**：以前，select 操作仅适用于加密值。在 v1.1 中，你现在可以使用标量（明文）值作为可选操作数。对于 64 位输入，此操作的执行时间约为 **20 毫秒**。

- **改进的减法**：减法现在支持左侧的标量，从而可以执行诸如 scalar - encrypted 之类的表达式。对于 64 位操作数，此操作大约需要 **79 毫秒**。

- **新的点积运算符**：v1.1 引入了 FheBool 向量与任何支持的标量类型之间的[点积运算](https://docs.zama.ai/tfhe-rs/1.1/fhe-computation/operations/dot-product)。在 1,024 个元素的向量上，执行时间约为 **2 秒**。

所有性能基准测试均在 AWS hpc7a.96xlarge 实例上进行测量。

**更智能的密钥生成**

为了更好地支持内存受限环境中的操作，v1.1 还引入了“**分块**”引导密钥生成。此功能允许以较小的块生成引导密钥，这些块稍后可以在用于加密计算的更高容量的服务器上组装成完整密钥。

TFHE-rs 的下一个版本将继续提高性能并引入新功能。敬请关注！

#### 附加链接

- Star [Zama 的 TFHE-rs GitHub 存储库](http://github.com/zama-ai/tfhe-rs) 以支持我们的工作。
- 查看 [Zama 的 TFHE-rs 文档](https://docs.zama.ai/tfhe-rs)。
- 在我们的 [社区频道](https://zama.ai/community) 上获得支持。
- 参与 [Zama Bounty Program](https://github.com/zama-ai/bounty-program) 以获得现金奖励。

‍

### 阅读更多相关帖子

未找到项目。

###### 库

[Concrete **↗**](https://github.com/zama-ai/concrete) [Concrete ML **↗**](https://github.com/zama-ai/concrete-ml) [FHEVM **↗**](https://github.com/zama-ai/fhevm) [TFHE-rs **↗**](https://github.com/zama-ai/tfhe-rs)

###### 产品与服务

[隐私保护机器学习](https://www.zama.ai/products-and-services/privacy-preserving-machine-learning-using-fully-homomorphic-encryption) [机密区块链](https://www.zama.ai/products-and-services/fhevm) [阈值密钥管理系统](https://www.zama.ai/products-and-services/fhe-threshold-key-management-system)

###### 开发者

[博客](https://www.zama.ai/blog) [文档 **↗** ‍](https://docs.zama.ai/) [GITHUB **↗**](https://github.com/zama-ai) [FHE 资源 **↗**](http://github.com/zama-ai/awesome-zama) [研究论文 **↗**](https://github.com/zama-ai/awesome-zama?tab=readme-ov-file#research-papers-and-publications) [赏金计划 **↗**](https://github.com/zama-ai/bounty-program) [FHE STATE OS](https://www.zama.ai/fhe-state-operating-system)

###### 公司

[关于](https://www.zama.ai/about) [FHE 简介](https://www.zama.ai/introduction-to-homomorphic-encryption) [活动](https://www.zama.ai/events) [媒体](https://www.zama.ai/press-and-media) [职业 **↗**](https://jobs.zama.ai/) [法律](https://www.zama.ai/legal)

###### 联系方式

[与专家交谈](https://www.zama.ai/contact) [联系我们](https://www.zama.ai/contact) [X](https://x.com/zama_fhe) [Discord](https://discord.gg/zama) [Telegram](http://t.me/zama_on_telegram) [所有社区频道](https://www.zama.ai/community-channels)

隐私对于电子时代的开放社会是必要的。隐私不是秘密。私事是一个人不想让全世界知道的事情，但秘密的事情是一个人不想让任何人知道的事情。隐私是选择性地向世界展示自己的力量。如果双方有某种交易，那么每一方都会记住他们的互动。每一方都可以谈论他们自己对这件事的记忆；谁能阻止它呢？你可以通过法律来禁止它，但是言论自由，甚至比隐私更重要，对于一个开放的社会至关重要；我们不寻求限制任何言论。如果多方在同一个论坛中一起发言，每个人都可以向所有其他人发言，并将关于个人和其他方的知识汇总在一起。电子通信的力量促成了这种群体言论，它不会仅仅因为我们可能希望它消失而消失。既然我们渴望隐私，我们必须确保交易的每一方只知道该交易直接需要的知识。由于任何信息都可以被谈论，我们必须确保我们尽可能少地透露。在大多数情况下，个人身份并不重要。当我在商店购买一本杂志，并把现金交给店员时，没有必要知道我是谁。当我要求我的电子邮件提供商发送和接收消息时，我的提供商不需要知道我在和谁说话，或者我在说什么，或者别人在对我说什么；我的提供商只需要知道如何把信息送到那里，以及我欠他们多少费用。当我的身份被交易的底层机制泄露时，我就没有隐私了。我不能在这里选择性地展示自己；我必须总是展示自己。因此，开放社会中的隐私需要匿名交易系统。到目前为止，现金一直是主要的这种系统。一个匿名交易系统不是一个秘密交易系统。一个匿名系统使个人能够在需要时以及仅在需要时透露自己的身份；这是隐私的本质。开放社会中的隐私也需要密码学。如果我说些什么，我希望只有那些我打算让他们听到的人才能听到。如果我的言论内容对全世界开放，我就没有隐私。加密是表明对隐私的渴望，而使用弱密码学加密是表明对隐私的渴望不大。此外，当默认设置为匿名时，有保证地透露自己的身份需要密码签名。我们不能指望政府、公司或其他大型的、没有面孔的组织出于他们的恩惠而给予我们隐私。谈论我们对他们有利，我们应该预料到他们会谈论。试图阻止他们的言论是与信息的现实作斗争。信息不仅仅是想自由，它渴望自由。信息会扩展以填满可用的存储空间。信息是谣言的年轻、更强大的堂兄弟；信息比谣言跑得更快，眼睛更多，知道的更多，但理解得更少。如果我们希望拥有任何隐私，我们必须捍卫我们自己的隐私。我们必须走到一起，创建允许进行匿名交易的系统。几个世纪以来，人们一直在用耳语、黑暗、信封、紧闭的门、秘密握手和信使来捍卫自己的隐私。过去的技术不允许强大的隐私，但电子技术可以。我们这些密码朋克致力于构建匿名系统。我们正在用密码学、匿名邮件转发系统、数字签名和电子货币来捍卫我们的隐私。密码朋克编写代码。我们知道必须有人编写软件来捍卫隐私，而且由于我们只有在我们都这样做的情况下才能获得隐私，所以我们将编写它。我们发布我们的代码，以便我们的同伴密码朋克可以练习和使用它。我们的代码可以供所有人免费使用，在世界范围内。我们不太关心你是否不赞成我们编写的软件。我们知道软件是无法被销毁的，并且一个广泛分散的系统是无法被关闭的。密码朋克谴责对密码学的法规，因为加密从根本上来说是一种私人行为。事实上，加密行为将信息从公共领域移除。即使是反对密码学的法律也只能延伸到一个国家的边界和它的暴力手臂所及。密码学将不可避免地遍布全球，随之而来的是它所实现的匿名交易系统。为了使隐私得到广泛应用，它必须是社会契约的一部分。人们必须走到一起，部署这些系统以实现共同利益。隐私只能延伸到社会中同伴的合作。我们这些密码朋克寻求你的问题和你的担忧，并希望我们可以让你参与进来，这样我们才不会欺骗自己。然而，我们不会因为一些人可能不同意我们的目标而改变我们的路线。密码朋克们正在积极努力使网络更安全，以保护隐私。让我们一起快速前进。前进。作者：Eric Hughes。1993 年 3 月 9 日。

>- 原文链接： [zama.ai/post/tfhe-rs-v1-...](https://zama.ai/post/tfhe-rs-v1-1)
>- 登链社区 AI 助手，为大家转译优秀英文文章，如有翻译不通的地方，还请包涵～

博客

TFHE-rs

公告

TFHE-rs v1.1：细粒度的 GPU 控制和更多运算符

2025年4月10日

Jean-Baptiste Orfila, Arthur Meyre, Agnes Leroy

本月，Zama 发布了 TFHE-rs v1.1，为 GPU 和 CPU 后端带来了多项重大改进和新功能。

在 GPU 方面，后端已升级为采用与 CPU 相同的默认加密参数，从而将计算错误的概率降低到 2⁻¹²⁸ 以下——所有这些都对性能影响极小。多 GPU 支持也得到了显着改进：用户现在可以明确选择在哪个 GPU 上运行，从而在 8×H100 GPU 上实现接近 每秒 500 次加密的 64 位加法。

在 CPU 方面，此版本通过支持更多标量案例扩展了运算符集，使同态计算更加通用和高效。

在这篇博文中，我们将深入探讨 TFHE-rs v1.1 的新功能细节。

更好的多 GPU 吞吐量

从 v1.1 开始，开发人员可以选择对每个操作使用哪个 GPU，从而优化多 GPU 设置的性能。

这是一个快速示例，展示了如何在每个 GPU 上并行执行一百个 64 位加密加法，其中每个加法都在单个 GPU 上计算：

use tfhe::{ConfigBuilder, set_server_key, ClientKey, CompressedServerKey, FheUint64, GpuIndex};
use tfhe::prelude::*;
use rayon::prelude::*;
use tfhe::core_crypto::gpu::get_number_of_gpus;
use rand::{thread_rng, Rng};
fn main() {
    let config = ConfigBuilder::default().build();

    let client_key = ClientKey::generate(config);
    let compressed_server_key = CompressedServerKey::new(&client_key);

    let num_gpus = get_number_of_gpus();
    let sks_vec = (0..num_gpus)
        .map(|i| compressed_server_key.decompress_to_specific_gpu(GpuIndex::new(i)))
        .collect::>();

    let batch_size = num_gpus * 100;

    let mut rng = thread_rng();
    let left_inputs = (0..batch_size)
        .map(|_| FheUint64::encrypt(rng.gen::(), &client_key))
        .collect::>();
    let right_inputs = (0..batch_size)
        .map(|_| FheUint64::encrypt(rng.gen::(), &client_key))
        .collect::>();

    let chunk_size = (batch_size / num_gpus) as usize;
    left_inputs
        .par_chunks(chunk_size)
        .zip(
            right_inputs
                .par_chunks(chunk_size)
        )
        .enumerate()
        .for_each(
            |(i, (left_inputs_on_gpu_i, right_inputs_on_gpu_i))| {
                left_inputs_on_gpu_i
                    .par_iter()
                    .zip(right_inputs_on_gpu_i.par_iter())
                    .for_each(|(left_input, right_input)| {
                        set_server_key(sks_vec[i].clone());
                        left_input + right_input;
                    });
            },
        );
}

这里发生了什么？与使用 TFHE-rs 进行的常规 GPU 计算不同的是，服务器密钥的定义方式：

let sks_vec = (0..num_gpus)
        .map(|i| compressed_server_key.decompress_to_specific_gpu(GpuIndex::new(i)))
        .collect::>();

在这里，创建了一个服务器密钥向量，每个密钥都在特定的 GPU 上。

然后，没有像通常那样对输入调用 par_iter()，而是将输入分块以分配到所有 GPU 上：

left_inputs
        .par_chunks(chunk_size)
        .zip(
            right_inputs
                .par_chunks(chunk_size)
        )
        .enumerate()
        .for_each(
            |(i, (left_inputs_on_gpu_i, right_inputs_on_gpu_i))| {
                left_inputs_on_gpu_i
                    .par_iter()
                    .zip(right_inputs_on_gpu_i.par_iter())
                    .for_each(|(left_input, right_input)| {
                        set_server_key(sks_vec[i].clone());
                        left_input + right_input;
                    });
            },
        );

通过使用 set_server_key(sks_vec[i].clone()) 设置与每个块关联的 GPU 对应的服务器密钥，加法会在所有 GPU 上独立计算。请注意，在执行 sks_vec[i].clone() 时，服务器密钥的指针会被复制到特定线程，而不是服务器密钥本身的内容，因此不会产生额外的开销。你可以按照我们的专用教程进一步最大限度地提高多 GPU 吞吐量。

通过设置此逻辑，TFHE-rs 现在可以在 8xH100 GPU 上实现 每秒接近 500 次 64 位加密整数加法。

CPU 后端上的新操作符

TFHE-rs v1.1 为 CPU 后端带来了多个新增功能和改进：

对 select 的标量支持：以前，select 操作仅适用于加密值。在 v1.1 中，你现在可以使用标量（明文）值作为可选操作数。对于 64 位输入，此操作的执行时间约为 20 毫秒。
改进的减法：减法现在支持左侧的标量，从而可以执行诸如 scalar - encrypted 之类的表达式。对于 64 位操作数，此操作大约需要 79 毫秒。
新的点积运算符：v1.1 引入了 FheBool 向量与任何支持的标量类型之间的点积运算。在 1,024 个元素的向量上，执行时间约为 2 秒。

所有性能基准测试均在 AWS hpc7a.96xlarge 实例上进行测量。

更智能的密钥生成

为了更好地支持内存受限环境中的操作，v1.1 还引入了“分块”引导密钥生成。此功能允许以较小的块生成引导密钥，这些块稍后可以在用于加密计算的更高容量的服务器上组装成完整密钥。

TFHE-rs 的下一个版本将继续提高性能并引入新功能。敬请关注！

附加链接

Star Zama 的 TFHE-rs GitHub 存储库以支持我们的工作。
查看 Zama 的 TFHE-rs 文档。
在我们的社区频道上获得支持。
参与 Zama Bounty Program 以获得现金奖励。

‍

TFHE-rs v1.1：细粒度的 GPU 控制和更多算子

TFHE-rs v1.1：细粒度的 GPU 控制和更多运算符

更好的多 GPU 吞吐量

CPU 后端上的新操作符

附加链接

阅读更多相关帖子

库

产品与服务

开发者

公司

联系方式

0 条评论

文章目录