原文：a16z乐鱼捕鱼

编译：DeFi之谈

在昔时的几年里，区块链上的零常识阐发注解主要用于两个纰谬主见：(1) 通过在链下处理来去并在主网上考据收尾来扩展经营受限相聚的限制；(2) 通过已毕屏蔽来去来保护用户秘密，惟有领有解密密钥的东谈主本事稽查。在区块链配景下，这些特质显着是可取的：去中心化相聚（如以太坊）弗成在不合考据者处理才略、带宽和蔓延忽视无法承受的条款的情况下擢升隐晦量或区块大小（因此需要灵验性转机），扫数来去王人对任何东谈主可见（因此需要链上秘密处理决策）。

但零常识阐发注解对于第三类功能亦然有用的：高效地考据任何类型的经营（而不单是是在链下实例化的EVM中的经营）依然正确运行。这对区块链除外的范畴也有很大影响。

当今，讹诈零常识阐发注解轻易地考据经营才略的系统的朝上使用户能够从每一个数字产物中条款与区块链所保证的同样进度的无信任和可考据性，尤其是从机器学习模子中。区块链经营的高需求引发了零常识阐发注解商榷，创造了具有较小内存占用和更快阐发注解和考据时候的当代阐发注解系统——使适当今不错在链上考据某些袖珍机器学习算法。

到面前为止，咱们王人可能依然体验到了与一个相当刚劲的机器学习产物互动的后劲。几天前，我用GPT-4匡助我创建了一个能相连打败我棋战的AI。这嗅觉像是昔时几十年里机器学习取得的扫数朝上的一个诗意的缩影：IBM的开辟东谈主员花了十二年时候制作出Deep Blue，一个运行在32节点IBM RS/6000 SP经营机上、能每秒评估近2亿个棋步的模子，该模子在1997年打败了国外象棋冠军加里·卡斯帕罗夫。比较之下，我花了几个小时——在我这边只进行了最少的编码——就创建了一个能校服我的设施。

虽然，我怀疑我创建的AI是否能在国外象棋上打败加里·卡斯帕罗夫，但这并不是要点。要点是任何捉弄GPT-4的东谈主王人可能在赢得超才略方面有肖似的履历：你只需要付出很小的起劲，就不错创造出接近或杰出你我方才略的东西。咱们王人是IBM的商榷员；咱们王人是加里·卡斯帕罗夫。

显着，这让东谈主欣忭又有些怕惧。对于任安在加密货币行业做事的东谈主来说，当然的反映（在感触于机器学习能作念什么之后）是商量潜在的会聚化路线以及如何将这些路线去中心化，造成一个东谈主们不错透明审计和领有的相聚。当今的模子是通过吞吃大量公开可用的文本和数据制作的，但面前惟有少数东谈主适度和领有这些模子。更具体地说，问题不是“东谈主工智能是否具有重大价值”，而是“咱们如何构建这些系统，使得与之互动的任何东谈主王人能赢得其经济利益，并在他们但愿的情况下，确保他们的数据以尊重秘密权的方式使用”。

最近，有东谈主敕令暂停或减缓肖似Chat-GPT这么的紧要东谈主工智能款式的发展。抵制朝上可能不是处理决策：更好的设施是股东开源模子，并在模子提供商但愿保护其权重或数据奥秘性的情况下，使用保护秘密的零常识阐发注解对它们进行保护，这些阐发注解在链上而且不错完全审计。如今，对于独到模子权重和数据的后一种用例尚无法在链上已毕，但零常识阐发注解系统的朝上将在明天已毕这一方针。

皇冠hg86a

我使用Chat-GPT构建的国外象棋AI在面前看来相对无害：输出相对一致的设施，不使用骚扰有价值常识产权或骚扰秘密的数据。但当咱们思确保咱们被见告的在API后头运行的模子照实是运行过的模子时会怎样样？或者，如若我思将认证过的数据输入到链上的模子中，并确保数据照实来自正当方？如若我思确保提交数据的“东谈主”履行上是东谈主而不是试图对我的相聚发起拜占庭袭击的机器东谈主呢？零常识阐发注解特地轻易地暗示和考据自便设施的才略是一种处理设施。

需要留心的是，面前在链上机器学习配景下，零常识阐发注解的主要用途是考据正确的经营。换句话说，在机器学习配景下，零常识阐发注解和更具体的SNARK（轻易的非交互式常识论证）最有用的场地在于它们的轻易性特质。这是因为零常识阐发注解保护了阐发注解者（特地处理的数据）免受窥视者的骚扰。完全同态加密（FHE）、功能加密或确实扩张环境（TEE）等增强秘密的工夫更适用于让不受信任的阐发注解者在独到输入数据上运行经营（更深切地探讨这些工夫超出了本文的范围）。

让咱们退后一步，从高脉络了解不错用零常识暗示的机器学习应用类型（要深切了解零常识，请参阅咱们对于零常识阐发注解算法和硬件的纠正的著作，稽查Justin Thaler对于SNARK性能的商榷，或者稽查咱们的零常识课本）。零常识阐发注解时常将设施暗示为算术电路：使用这些电路，阐发注解者从大师和独到输入生成阐发注解，考据者通过数学经营来确保此语句的输出是正确的——而不获取对于独到输入的任何信息。

咱们仍处于使用链上零常识阐发注解考据经营的相当早期阶段，但算法的纠正正在扩大可行的范围。以下是五种在机器学习中应用零常识阐发注解的设施。

1.模子确实性：您但愿确保某个实体宣称依然运行的机器学习模子照实是运行过的模子。举例，在某个模子位于API后头的情况下，提供特定模子的实体可能有多个版块，举例一个较低廉、准确度较低的版块，以及一个较贵、性能更高的版块。莫得阐发注解，您无法知谈当您履行支付了更不菲的版块时，提供商是否为您提供了更低廉的模子（举例，提供商但愿勤俭服务器本钱并擢升利润率）。

为此，您需要为每个模子实例提供单独的阐发注解。一个履行的设施是通过Dan Boneh、Wilson Nguyen和Alex Ozdemir的功能得意框架，这是一个基于SNARK的零常识得意决策，允许模子扫数者得意一个模子，用户不错将他们的数据输入到该模子中，并接纳到依然运行的得意模子的考据。一些基于Risc Zero（一个通用的基于STARK的凭空机）的应用设施也已毕了这少许。Daniel Kang、Tatsunori Hashimoto、Ion Stoica和Yi Sun进行的其他商榷标明，不错在ImageNet数据集上考据灵验的揣度，准确率为92%（与最高性能的非零常识考据ImageNet模子格外）。

但只是接纳到已提交模子已运行的阐发注解并不一定饱和。一个模子可能无法准确地暗示给定的设施，因此您会但愿第三方审核已提交的模子。功能得意允许阐发注解者阐发注解其使用了已得意的模子，但弗成保证已得意模子的任何信息。如若咱们能让零常识阐发注解在阐发注解熟练方面发扬得饱和好（请参见底下的示例＃4），咱们将来也可能动手赢得这些保证。

2.模子齐备性：您但愿确保同样的机器学习算法以同样的方式在不同用户的数据上运行。这在您不但愿应用自便偏见的范畴相当有用，如信用评分决策和贷款恳求。您也不错使辛勤能得意来已毕这少许。为此，您需要得意一个模子特地参数，并允许东谈主们提交数据。输出将考据该模子是否针对每个用户的数据运行已得意的参数。或者，不错公开模子特地参数，并让用户我方阐发注解他们将合适的模子和参数应用于我方的（经过认证的）数据。这在医疗范畴可能尤其有用，因为法律条款某些对于患者的信息必须躲藏。将来，这不错已毕一个医学会诊系统，它能够从完全奥秘的及时用户数据中学习和纠正。

据了解，大运会“一窗通办”窗口”为涉大运纠纷集中提供立案指引，提供现场解纷、诉讼引导、文书领取、材料转接、法律咨询等一站式诉讼服务。

要知道在喝完水之后，很多人都会止不住的上厕所，其实这也是身体的正常反应。通过尿液的方式将体内多余的水分排出体外，要知道正常人的尿液通常都是淡黄色或者是透明色的状态。如果在上厕所的时候发现尿液呈现酱油色，那么很可能是肝脏功能出现了问题导致的。

3.认证：您但愿将来自外部经过考据的方（举例，任何不错生成数字签名的数字平台或硬件开辟）的认证整合到链上运行的模子或任何其他类型的智能合约中。要作念到这少许，您将使用零常识阐发注解考据签名，并将阐发注解当作设施的输入。Anna Rose和Tarun Chitra最近主握了一期零常识播客节目，嘉宾是Daniel Kang和Yi Sun，他们探讨了这一范畴的最新进展。

具体来说，Daniel和Yi最近发布了一项商榷，探讨了如何考据由具有经过认证的传感器的录像机拍摄的图像是否经过了如剪辑、缩放或有限暗藏等变换，这在您但愿阐发注解图像莫得经过深度伪造但照实经过了某种正当编著的情况下很有用。Dan Boneh和Trisha Datta也作念过肖似的商榷，使用零常识阐发注解考据图像的出处。

但更平凡地说，任何经过数字认证的信息王人是这种考据容颜的候选对象：Jason Morton正在开辟EZKL库（不才一节将有更多先容），他称这种设施为“赋予区块链见识”。任何已签名的端点（举例，Cloudflare的SXG服务，第三方公证东谈主）王人会产生不错考据的数字签名，这可能对于阐发注解来自确实任方的出处和确实性相当有用。

4.散布式推理或熟练：您但愿以散布式的方式扩张机器学习推理或熟练，并允许东谈主们向大师模子提交数据。为此，您不错将已有的模子部署到链上，或者缱绻一个全新的相聚，并使用零常识阐发注解来压缩模子。Jason Morton的EZKL库正在创建一种用于汲取ONXX和JSON文献并将它们退换为ZK-SNARK电路的设施。最近在ETH Denver的一个演示标明，这种工夫可用于创建基于图像识别的链上寻宝游戏，游戏创作家不错上传相片，生成图像的阐发注解，玩家不错上传图像；考据器查验用户上传的图像是否与创作家生成的阐发注解饱和匹配。EZKL当今不错考据多达1亿个参数的模子，这意味着它不错用于在链上考据ImageNet大小的模子（这些模子具有6000万个参数）。

其他团队，如Modulus Labs，正在为链上推理对不同阐发注解系统进行基准测试。Modulus的基准测试涵盖了多达1800万个参数。在熟练方面，Gensyn正在构建一个散布式经营系统，用户不错输入大师数据，并通过散布式节点相聚进行模子熟练，同期考据熟练的正确性。

5.东谈主阐发注解：您但愿考据某东谈主是一个罕见的个体，而不挫伤其秘密。为此，您将创建一种考据设施，举例生物识别扫描或以加密方式提交政府ID的设施。然后，您将使用零常识阐发注解来查验某东谈主是否依然过考据，而不会裸露对于该东谈主身份的任何信息，岂论该身份是完全可识别的，照旧像公钥那样的伪名。

Worldcoin通过他们的东谈主阐发注解左券来已毕这少许，该左券通过为用户生成罕见的虹膜代码来确保抗袭击性。纰谬的是，为WorldID创建的私钥（以及为Worldcoin用户创建的加密钱包的其他私钥）与款式的眼球扫描器土产货生成的虹膜代码完全分辩。这种分辩完全将生物识别记号符与可能归因于某东谈主的任何容颜的用户密钥分辩。Worldcoin还允许应用设施镶嵌一个SDK，使用户不错使用WorldID登录，并通过允许应用设施查验东谈主是否领有WorldID来讹诈零常识阐发注解来保护秘密，但不允许追踪个别用户（更多细节，请参阅此博客著作）。

这个例子是用零常识阐发注解的秘密保护特质来拒抗较弱且坏心的东谈主工智能的容颜，因此它与上述其他示例（举例，阐发注解你是一个确实的东谈主类而不是机器东谈主，同期不裸露任何干于我方的信息）有很大不同。

在已毕SNARKs（轻易非交互式常识论证）的阐发注解系统方面的冲突依然成为将好多机器学习模子上链的纰谬驱能源。一些团队正在现存的架构（包括Plonk、Plonky2、Air等）中制作定制电路。在定制电路方面，Halo 2已成为Daniel Kang等东谈主的做事和Jason Morton的EZKL款式中平凡使用的后端。Halo 2的阐发注解者时候近似线性，阐发注解大小时常惟有几千字节，考据者时候恒定。约略更繁重的是，Halo 2领有刚劲的开辟者用具，使其成为开辟者可爱使用的SNARK后端。其他团队，如Risc Zero，正在寻求通用VM战略。还有些团队正使用基于乞降查验左券的Justin Thaler的超高效阐发注解系统创建定制框架。

阐发注解生成和考据器时候整个取决于生成和查考据明的硬件以及生成阐发注解的电路大小。但这里需要留心的纰谬点是，岂论代表的设施是什么，阐发注解的大小老是相对较小，因此考据阐发注解的考据者的使命是受限的。关联词，在这里有一些细微之处：对于像Plonky2这么使用基于FRI的得意决策的阐发注解系统，阐发注解大小可能会加多。（除非终末使用像Plonk或Groth16这么基于配对的SNARK包装，这些阐发注解不会跟着所阐发注解诠释的复杂性而增长。）

对于机器学习模子的启示是，一朝缱绻了一个准确暗示模子的阐发注解系统，履行考据输出的本钱将相当低廉。开辟者需要商量的最繁重的是阐发注解者时候和内存：以一种不错相对快速阐发注解的方式暗示模子，而且阐发注解大小理思地在几千字节傍边。要阐发注解机器学习模子在零常识情况下的正确扩张，你需要将模子架构（层、节点和激活函数）、参数、管理和矩阵乘法运算编码并暗示为电路。这波及将这些属性解析为不错在有限域上扩张的算术运算。

这个范畴还处于起步阶段。在将模子退换为电路的历程中，准确性和保真度可能会受到影响。当模子暗示为算术电路时，前边提到的模子参数、管理和矩阵乘法运算可能需要近似和简化。当将算术运算编码为阐发注解的有限域中的元素时，可能会丢失一些精度（或者在不进行这些优化的情况下生成阐发注解的本钱在现时的零常识框架下将不胜重担）。此外，机器学习模子的参数和激活时常以32位进行编码以擢升精度，然而今天的零常识阐发注解无法在必要的算术电路阵势中暗示32位浮点运算，而不产生重大的支出。因此，开辟者可能会选定使用量化的机器学习模子，其中32位整数依然退换为8位精度。这些类型的模子故意于暗示为零常识阐发注解，然而被考据的模子可能是较高质料开动模子的幼稚近似。

在这个阶段，这照实是一场奋起直追的游戏。跟着零常识阐发注解变得愈加优化，机器学习模子变得越来越复杂。依然有一些优化的有远景的范畴：阐发注解递归不错通过允许阐发注解用作下一个阐发注解的输入来减小全体阐发注解大小，从长途毕阐发注解压缩。还有一些新兴的框架，比如Linear A的Apache Tensor凭空机（TVM）分支，该框架推出了一种退换器，不错将浮点数退换为零常识友好的整数暗示。终末，咱们在a16z crypto对明天的做事感到乐不雅，它将使在SNARKs中暗示32位整数变得愈加合理。

“限制”的两种界说 零常识阐发注解通过压缩已毕限制化：SNARKs允许你将一个极其复杂的系统（如凭空机或机器学习模子）数学暗示，使得考据它的本钱低于运行它的本钱。另一方面，机器学习是通过扩展已毕限制化的：如今的模子跟着更多数据、参数以及参与熟练和推理历程的GPU/TPU而变得更好。中心化公司不错以简直无放置的限制运行服务器：收取API调用的月费，并支付运营本钱。

区块链相聚的经济现实简直正巧相悖：开辟者被荧惑优化他们的代码，使其在链上运行既可行又低廉。这种不合称具有重大的上风：它创造了一个需要擢升阐发注解系统成果的环境。咱们应该寻求在机器学习中条款与区块链提供的同样克己，即可考据的扫数权和分享的确实不雅念。

尽管区块链引发了优化zk-SNARKs，但经营关系的每个范畴王人将受益。

致谢：Justin Thaler, Dan Boneh, Guy Wuollet, Sam Ragsdale, Ali Yahya, Chris Dixon, Eddy Lazzarin, Tim Roughgarden, Robert Hackett, Tim Sullivan乐鱼捕鱼, Jason Morton, Peiyuan Liao, Tarun Chitra, Brian Retford, Daniel Kang, Yi Sun, Anna Rose, Modulus Labs, DC Builder。