联邦学习

作　者：	杨强刘洋程勇康焱陈天健
出版社：	电子工业出版社
丛编项：
版权说明：	本书为出版图书，暂不支持在线阅读，请支持正版图书
标　签：	暂缺

ISBN	出版时间	包装	开本	页数	字数
未知	暂无	暂无	未知	0	暂无

作者简介

　　杨强杨强教授是微众银行的首席人工智能官（CAIO）和香港科技大学（HKUST）计算机科学与工程系讲席教授。他是香港科技大学计算机科学与工程系的前任系主任，并曾担任大数据研究院的创始主任（2015-2018 年）。他的研究兴趣包括人工智能、机器学习和数据挖掘，特别是迁移学习、自动规划、联邦学习和基于案例的推理。他是多个国际协会的会士（Fellow），包括ACM、AAAI、IEEE、IAPR 和AAAS。他于1982 年获得北京大学天体物理学学士学位，分别于1987年和1989 年获得马里兰大学帕克分校计算机科学系硕士学位和博士学位。他曾在在滑铁卢大学（1989-1995 年）和西蒙弗雷泽大学（1995-2001 年）担任教授。他是ACM TIST 和IEEE TBD 的创始主编。他是国际人工智能联合会议（IJCAI）的理事长（2017-2019 年）和人工智能发展协会（AAAI）的执行委员会成员（2016-2020 年）。杨强教授曾获多个奖项，包括2004/2005 ACM KDDCUP 冠军、ACM SIGKDD 卓越服务奖（2017）、AAAI 创新人工智能应用奖（2018， 2020）和吴文俊人工智能杰出贡献奖（2019）。他是华为诺亚方舟实验室的创始主任（2012-2014 年）和第四范式（AI 平台公司）的共同创始人。他是Intelligent Planning （Springer）、Crafting Your Research Future （Morgan & Claypool）、Transfer Learning （Cambridge University Press）与Constraint-based Design Recovery for Software Engineering （Springer）等著作的作者。刘洋刘洋是微众银行AI 项目组的高级研究员。她的研究兴趣包括机器学习、联邦学习、迁移学习、多智能体系统、统计力学，以及这些技术的产业应用。她于2012 年获得普林斯顿大学博士学位，2007 年获得清华大学学士学位。她拥有多项国际发明专利，研究成果曾发表于Nature、IJCAI 和ACM TIST 等科研刊物和会议上。她曾获AAAI 人工智能创新应用奖、IJCAI 创新应用奖等多个奖项，并担任IJCAI 高级程序委员会委员，NeurIPS 等多个人工智能会议研讨会联合主席...

内容简介

如何在保证本地训练数据不公开的前提下，实现多个数据拥有者协同训练一个共享的机器学习模型？传统的机器学习方法需要将所有的数据集中到一个地方（例如，数据中心），然后进行机器学习模型的训练。但这种基于集中数据的做法无疑会严重侵害用户隐私和数据安全。如今，世界上越来越多的人开始强烈要求科技公司必须根据用户隐私法律法规妥善地处理用户的数据，欧盟的《通用数据保护条例》是一个很好的例子。在本书中，我们将描述联邦学习（亦称联邦机器学习）如何将分布式机器学习、密码学、基于金融规则的激励机制和博弈论结合起来，以解决分散数据的使用问题。我们会介绍不同种类的面向隐私保护的机器学习解决方案以及技术背景，并描述一些典型的实际问题解决案例。我们还会进一步论述联邦学习将成为下一代机器学习的基础，可以满足技术和社会需求并促进面向安全的人工智能的开发和应用。本书可供计算机科学、人工智能和机器学习专业的学生，以及大数据和人工智能应用程序的开发人员阅读，也可供高等院校的教员、研究机构的研究人员、法律法规制定者和政府监管部门参考。

图书目录

序言Ⅲ

前言Ⅳ

作者简介Ⅷ

第1 章引言/1

1.1 人工智能面临的挑战/2

1.2 联邦学习概述/4

1.2.1 联邦学习的定义/5

1.2.2 联邦学习的分类/8

1.3 联邦学习的发展/11

1.3.1 联邦学习的研究/11

1.3.2 开源平台/13

1.3.3 联邦学习标准化进展/14

1.3.4 联邦人工智能生态系统/15

第2 章隐私、安全及机器学习/17

2.1 面向隐私保护的机器学习/18

2.2 面向隐私保护的机器学习与安全机器学习/18

2.3 威胁与安全模型/19

2.3.1 隐私威胁模型/19

2.3.2 攻击者和安全模型/21

2.4 隐私保护技术/22

2.4.1 安全多方计算/22

2.4.2 同态加密/27

2.4.3 差分隐私/30

第3 章分布式机器学习/35

3.1 分布式机器学习介绍/36

3.1.1 分布式机器学习的定义/36

3.1.2 分布式机器学习平台/37

3.2 面向扩展性的DML /39

3.2.1 大规模机器学习/39

3.2.2 面向扩展性的DML 方法/40

3.3 面向隐私保护的DML /43

3.3.1 隐私保护决策树/43

3.3.2 隐私保护方法/45

3.3.3 面向隐私保护的DML 方案/45

3.4 面向隐私保护的梯度下降方法/48

3.4.1 朴素联邦学习/49

3.4.2 隐私保护方法/49

3.5 挑战与展望/51

第4 章横向联邦学习/53

4.1 横向联邦学习的定义/54

4.2 横向联邦学习架构/55

4.2.1 客户-服务器架构/55

4.2.2 对等网络架构/58

4.2.3 全局模型评估/59

4.3 联邦平均算法介绍/60

4.3.1 联邦优化/60

4.3.2 联邦平均算法/63

4.3.3 安全的联邦平均算法/65

4.4 联邦平均算法的改进/68

4.4.1 通信效率提升/68

4.4.2 参与方选择/69

4.5 相关工作/69

4.6 挑战与展望/71

第5 章纵向联邦学习/73

5.1 纵向联邦学习的定义/74

5.2 纵向联邦学习的架构/75

5.3 纵向联邦学习算法/77

5.3.1 安全联邦线性回归/77

5.3.2 安全联邦提升树/80

5.4 挑战与展望/85

第6 章联邦迁移学习/87

6.1 异构联邦学习/88

6.2 联邦迁移学习的分类与定义/88

6.3 联邦迁移学习框架/90

6.3.1 加法同态加密/93

6.3.2 联邦迁移学习的训练过程/94

6.3.3 联邦迁移学习的预测过程/95

6.3.4 安全性分析/95

6.3.5 基于秘密共享的联邦迁移学习/96

6.4 挑战与展望/97

第7 章联邦学习激励机制/99

7.1 贡献的收益/100

7.1.1 收益分享博弈/100

7.1.2 反向拍卖/102

7.2 注重公平的收益分享框架/103

7.2.1 建模贡献/103

7.2.2 建模代价/104

7.2.3 建模期望损失/105

7.2.4 建模时间期望损失/105

7.2.5 策略协调/106

7.2.6 计算收益评估比重/108

7.3 挑战与展望/109

第8 章联邦学习与计算机视觉、自然语言处理及推荐系统/111

8.1 联邦学习与计算机视觉/112

8.1.1 联邦计算机视觉/112

8.1.2 业内研究进展/114

8.1.3 挑战与展望/115

8.2 联邦学习与自然语言处理/116

8.2.1 联邦自然语言处理/116

8.2.2 业界研究进展/118

8.2.3 挑战与展望/118

8.3 联邦学习与推荐系统/119

8.3.1 推荐模型/120

8.3.2 联邦推荐系统/121

8.3.3 业界研究进展/123

8.3.4 挑战与展望/123

第9 章联邦强化学习/125

9.1 强化学习介绍/126

9.1.1 策略/127

9.1.2 奖励/127

9.1.3 价值函数/127

9.1.4 环境模型/127

9.1.5 强化学习应用举例/127

9.2 强化学习算法/128

9.3 分布式强化学习/130

9.3.1 异步分布式强化学习/130

9.3.2 同步分布式强化学习/131

9.4 联邦强化学习/131

9.4.1 联邦强化学习背景/131

9.4.2 横向联邦强化学习/132

9.4.3 纵向联邦强化学习/134

9.5 挑战与展望/136

第10 章应用前景/139

10.1 金融/140

10.2 医疗/141

10.3 教育/142

10.4 城市计算和智慧城市/144

10.5 边缘计算和物联网/146

10.6 区块链/147

10.7 第五代移动网路/148

第11 章总结与展望/149

附录A 数据保护法律和法规/151

A.1 欧盟的数据保护法规/152

A.1.1 GDPR 中的术语/153

A.1.2 GDPR 重点条款/154

A.1.3 GDPR 的影响/156

A.2 美国的数据保护法规/157

A.3 中国的数据保护法规/158

参考文献/161