Concrete ML v1.8：迈向去中心化的私有LLAMA微调

博客

/

公告

Concrete ML

Concrete ML v1.8：迈向去中心化私有 LLAMA 微调

2025 年 1 月 14 日

  -

Andrei Stoian

Concrete ML v1.8 标志着在为大型语言模型（LLM）实现隐私保护微调方面迈出了重要一步。此版本通过针对 LLM 优化的 FHE 后端和新的低秩近似 API，提高了 LLM 混合微调的速度和可用性。

此外，Concrete ML v1.8 现在支持 Python 3.12，确保与最新的工具和框架兼容。

更好的 API，用于在加密数据上微调 LLM

Concrete ML 为 LLM 提供微调功能，作为客户端-服务器协议：

• 服务器对模型的线性层执行加密（FHE）推理。
• 客户端对微调权重执行梯度下降。

第一步，开发人员将编译一个 LLM，使其以这种方式与 FHE 一起工作。在部署模型之前，他们可以在自己的机器上检查编译后的模型是否能产生良好的结果。为了简化此工作流程，Concrete ML v1.8 引入了 一个微调 API，该 API 的灵感来自 HuggingFace PEFT LoraTrainer，从而提高了此过程的效率。

from concrete.ml.torch.lora import LoraTrainer

lora_trainer = LoraTrainer(
    model=peft_model,
    optimizer=optimizer,
    loss_fn=causal_lm_loss,
    lr_scheduler=lr_scheduler,
    training_args=training_args_dict,
    n_layers_to_skip_for_backprop=3,
)
lora_trainer.compile(inputset, n_bits=16)

lora_trainer.train(dataloader, num_epochs=EPOCHS, fhe="execute", device=device)

如代码片段所示，与 HuggingFace LoraTrainer 相比，Concrete ML 只需要一个额外的编译调用。

此外，这个新版本允许开发人员有效地使用 GPU 在自己的机器上评估编译后的模型，从而显著加快开发过程。查看此 notebook 以了解如何在 LLAMA 上使用新的 API。

更快的 FHE LLM 微调

Concrete ML v1.8 为 LLM 微调用例添加了一个 优化的 FHE 后端。利用 GPU，此后端显著加快了计算速度。后端实现的底层操作是加密矩阵 - 明文矩阵乘法，其中加密矩阵表示私有用户数据，明文矩阵包含模型的原始权重。

该后端的关键亮点是高效的压缩 – 输入和输出都被压缩到仅比非加密数据大约 4 倍的大小。

使用当前的实现：

• 在 100,000 个 token 上微调 LLAMA 8B 模型大约需要 70 小时。
• 使用由 100 个消费级 GPU 组成的去中心化网络，预计成本约为 500 美元。

这代表着向前迈出的重要一步，预计未来版本的进一步优化将使成本和延迟降低 4 倍。

总之，Concrete ML v1.8 使在加密数据上安全地微调 LLM 变得更加容易和快速，从而使我们离可扩展和去中心化的 AI 解决方案更近一步。请继续关注未来的更多更新！

额外链接

• Star Zama 的 Concrete ML GitHub 存储库 以支持我们的工作。
• 查看 Concrete ML 文档。
• 在我们的 社区频道 上获得支持。
• 参与 Zama Bounty Program 以获得现金奖励！

阅读更多相关帖子

[视频教程] 使用 Concrete ML 在加密数据上微调 LLM 模型 \ 在本教程中，Zama 团队成员 Andrei Stoian 向你展示如何使用 Concrete ML 在加密数据上微调 LLM 模型。 2025 年 2 月 5 日\ \ Andrei Stoian

Concrete ML

教程

库

Concrete ↗ Concrete ML ↗ FHEVM ↗ TFHE-rs ↗

产品与服务

隐私保护机器学习 机密区块链 阈值密钥管理系统

开发者

博客 文档 ↗ ‍ GITHUB ↗ FHE 资源 ↗ 研究论文 ↗ Bounty Program ↗ FHE STATE OS

公司

关于 FHE 简介 活动 媒体 职业 ↗ 法律

联系方式

与专家交谈 联系我们 X Discord Telegram 所有社区频道

隐私是电子时代开放社会所必需的。隐私不是秘密。私事是不想让全世界知道的事情，但秘密是不想让任何人知道的事情。隐私是选择性地向世界展示自己的力量。如果双方有某种交易，那么每一方都有他们互动的记忆。每一方都可以谈论他们自己对这件事的记忆；谁能阻止它呢？人们可以制定法律来禁止它，但是言论自由，甚至比隐私更重要，是开放社会的基础；我们不寻求限制任何言论。如果许多方在同一个论坛中一起发言，每个人都可以向所有其他人讲话，并将关于个人和其他方的知识汇总在一起。电子通信的力量使这种群体讲话成为可能，并且它不会仅仅因为我们可能希望它而消失。既然我们渴望隐私，我们必须确保交易的每一方只知道该交易直接需要的知识。由于任何信息都可以被谈论，我们必须确保我们尽可能少地透露信息。在大多数情况下，个人身份并不重要。当我在商店购买杂志并向店员支付现金时，没有必要知道我是谁。当我要求我的电子邮件提供商发送和接收消息时，我的提供商不需要知道我在和谁说话或我在说什么或别人在对我说什么；我的提供商只需要知道如何将消息发送到那里以及我欠他们多少费用。当我的身份被交易的底层机制揭示时，我就没有隐私。我不能在这里有选择地展示自己；我必须总是展示自己。因此，开放社会中的隐私需要匿名交易系统。到目前为止，现金一直是主要的此类系统。匿名交易系统不是秘密交易系统。匿名系统使个人能够在需要时以及仅在需要时揭示他们的身份；这是隐私的本质。开放社会中的隐私也需要密码学。如果我说什么，我希望只有我打算让其听到的人才能听到。如果我的演讲内容对全世界开放，我就没有隐私。加密是为了表明对隐私的渴望，而使用弱密码学加密是为了表明对隐私的渴望不是太强烈。此外，当默认设置为匿名时，要确定地揭示自己的身份需要密码签名。我们不能期望政府、公司或其他大型的、没有面孔的组织出于仁慈而给予我们隐私。谈论我们对他们有利，我们应该期望他们会谈论我们。试图阻止他们的言论是与信息现实作斗争。信息不仅仅是想获得自由，它渴望获得自由。信息会扩展以填充可用的存储空间。信息是谣言的年轻的、更强大的表妹；信息比谣言更敏捷，拥有更多的眼睛，知道更多，但比谣言理解得更少。如果我们希望拥有任何隐私，我们必须捍卫我们自己的隐私。我们必须走到一起，创建允许匿名交易发生的系统。几个世纪以来，人们一直在用耳语、黑暗、信封、紧闭的门、秘密握手和信使来捍卫他们自己的隐私。过去的技术不允许强大的隐私，但电子技术可以。我们这些密码朋克致力于构建匿名系统。我们正在使用密码学、匿名邮件转发系统、数字签名和电子货币来捍卫我们的隐私。密码朋克编写代码。我们知道必须有人编写软件来捍卫隐私，并且因为除非我们都这样做，否则我们无法获得隐私，所以我们将编写它。我们发布我们的代码，以便我们的密码朋克伙伴可以练习和使用它。我们的代码可供世界各地的人免费使用。我们不太关心你是否不认可我们编写的软件。我们知道软件无法被销毁，并且一个广泛分散的系统无法被关闭。密码朋克谴责对密码学的法规，因为加密从根本上说是一种私人行为。事实上，加密行为将信息从公共领域移除。即使是反对密码学的法律也只能到达一个国家的边界及其暴力的延伸。密码学将不可避免地遍布全球，并随之带来它所促成的匿名交易系统。为了使隐私得到广泛传播，它必须成为社会契约的一部分。人们必须走到一起并部署这些系统以实现共同利益。隐私的范围仅限于社会中同伴的合作。我们这些密码朋克寻求你的问题和你的疑虑，并希望我们可以与你互动，以便我们不会欺骗自己。但是，我们不会因为有些人可能不同意我们的目标而改变我们的方向。密码朋克正在积极参与使网络对隐私更安全。让我们一起前进。前进。作者：Eric Hughes。1993 年 3 月 9 日。

• 原文链接： zama.ai/post/concrete-ml...
• 登链社区 AI 助手，为大家转译优秀英文文章，如有翻译不通的地方，还请包涵～