首页 / 行业
达摩院发布开源新型联邦学习框架FederatedScope
2022-05-05 15:22:00
5月5日,达摩院发布并开源新型联邦学习框架FederatedScope,该框架支持大规模、高效率的联邦学习异步训练,能兼容不同设备运行环境,且提供丰富功能模块,大幅降低了隐私保护计算技术开发与部署难度。
过去几年,机器学习的迅猛发展是人工智能领域最引人注目的大事件,大数据则是隐藏在这波浪潮后面的重要功臣。过往的经验告诉我们,如果要让技术获得令人满意的成果,对数据的理解和应用都非常关键。
但现实并不总能很好满足研究人员对数据的质量要求。更多时候,科学家们可以使用的都是数据孤岛中的“小数据”——它们或者规模较小、或者缺少部分重要的特征。数据所有权意识上升带来的数据隐私需求增强后,上述问题的重要性进一步凸显出来。怎样在保护隐私的同时推动人工智能发展,已经成为这个时代最重要的技术挑战之一。
Gartner报告显示,到2025年之前,约60%的大型企业预计将应用至少一种隐私保护计算技术。达摩院2022十大科技趋势同样将隐私保护计算列为重要趋势,认为该技术将从覆盖少量数据场景走向全域保护,从而激发数字时代的新生产力。
科学家必须想办法使用那些不那么完美的数据,联邦学习理念应运而生。科学家曾经用一个形象的比喻来描述联邦学习的思想——养羊就像机器学习,草料就像各类数据,没有草料的持续供应,就没有羊群的不断壮大。以前,科学家选择在全球收割草料并集中起来提供给羊群;现在,他们选择赶着羊群进入一块又一块草场。
然而,随着应用隐私保护计算的场景和行业日趋多元,涉及的数据类型日趋丰富,已有联邦学习框架难以灵活高效地满足越来越复杂的计算需求,“可用”到“好用”之间的技术挑战困扰着各方。
为解决上述挑战,达摩院智能计算实验室研发了新型联邦学习框架FederatedScope,该框架使用事件驱动的编程范式来构建联邦学习,即将联邦学习看成是参与方之间收发消息的过程,通过定义消息类型以及处理消息的行为来描述联邦学习过程。通过这一方式,FederatedScope实现了支持在丰富应用场景中进行大规模、高效率的联邦学习异步训练。
同时,达摩院团队对FederatedScope训练模块进行抽象,使其不依赖特定的深度学习后端,能兼容PyTorch、Tensorflow等不同设备运行环境,大幅降低了联邦学习在科研与实际应用中的开发难度和成本。
为进一步适应不同应用场景,FederatedScope还集成了多种功能模块,包括自动调参、隐私保护、性能监控、端模型个性化等。FederatedScope支持开发者通过配置文件便捷地调用集成模块,方便快速入门;也允许通过注册的方式添加新的算法实现并调用,支持定制化及深度开发。
达摩院智能计算实验室隐私保护计算团队负责人丁博麟表示,“数据已成为重要的生产要素,而隐私保护计算是保障这一要素发挥作用的关键技术。通过开源最新联邦学习框架,我们希望促进隐私保护计算在研究和生产中的广泛应用,让医药研发、政务互通、人机交互等数据密集领域更安全、更顺畅地发展。”
审核编辑:彭菁最新内容
手机 |
相关内容
写flash芯片时为什么需要先擦除?
写flash芯片时为什么需要先擦除?,擦除,芯片,充电,初始状态,存储单元,数据,Flash芯片是一种非易失性存储器技术,用于存储数据并实现固半导体主控技术:驱动自动驾驶革命的
半导体主控技术:驱动自动驾驶革命的引擎,自动驾驶,交通,自动驾驶系统,数据,车辆,自动,随着科技的不断进步,自动驾驶技术已经成为现实台积电1.4nm,有了新进展
台积电1.4nm,有了新进展,台积电,行业,需求,竞争力,支持,芯片,近日,台积电(TSMC)宣布将探索1.4纳米技术,这是一项令人振奋的举措,将有望为E芯片迈向系统化时代:EDA软件的创新
芯片迈向系统化时代:EDA软件的创新之路,时代,芯片,形式,支持,性能,验证,芯片设计是现代科技领域的重要组成部分,它涉及到电子设计自动Arbe 4D成像雷达以高分辨率雷达技
Arbe 4D成像雷达以高分辨率雷达技术和先进处理技术消除“幽灵刹车”问题,刹车,成像,分辨率,系统,目标,数据,Arbe 4D成像雷达是一种清华大学研发光电融合芯片,算力超商
清华大学研发光电融合芯片,算力超商用芯片三千余倍,芯片,研发,商用,测试,计算,科学研究,近日,清华大学发布了一项重要科研成果,他们成工业物联网数据采集:从Modbus到MQTT
工业物联网数据采集:从Modbus到MQTT,数据采集,物联网,模式,网关,协议,数据,工业物联网(Industrial Internet of Things,IIoT)的核心任务射频前端芯片GC1103在智能家居无线
射频前端芯片GC1103在智能家居无线通信IoT模块中应用,模块,芯片,无线通信,智能家居,支持,数据交换,射频前端芯片GC1103是一种低功耗