蚂蚁首度公开 “可信 AI” 架构体系 包括数据隐私保护、公平性等四方面

蚂蚁首度公开 “可信 AI” 架构体系 包括数据隐私保护、公平性等四方面海霞和工地诗人的朗诵邀约实现了 由中国人工智能学会、杭州市人民政府主办的 “2021 全球人工智能技术大会” 日前在杭州举办。蚂蚁集团首席 AI 科学家漆远在会上首次提出了 “可信 AI” 的技术架构体系，并分享了蚂蚁

由中国人工智能学会、杭州市人民政府主办的 “2021 全球人工智能技术大会” 日前在杭州举办。蚂蚁集团首席 AI 科学家漆远在会上首次提出了 “可信 AI” 的技术架构体系，并分享了蚂蚁集团基于该技术架构体系研发落地的多项应用成果。

据悉，本次 “2021 全球人工智能技术大会” 共邀请了 31 位中外院士、以及来自世界各地的人工智能领域专家，共同为人工智能的发展建言献策。会上，蚂蚁集团首席 AI 科学家漆远教授以《人工智能与风险-从创新到落地和治理》为主题进行了分享。

漆远表示，AI 是数字经济的源动力，确保 AI 的安全性和公平性是行业共性课题。围绕 “可信 AI” 这一技术命题，他提出了包含 “数据隐私保护”、“鲁棒性”、“可解释性与因果分析” 和 “公平性” 四个方面的技术架构体系。

在 “数据隐私保护” 方面，传统的数据保护方法客观上形成了 “数据孤岛”，影响了如医疗、金融等领域的协同作战，也制约 AI 技术以及行业发展。因此，拓展数据价值的隐私计算技术，对实现 “数据不动价值动” 显得尤为重要。

漆远透露，截至今年 3 月，蚂蚁集团隐私技术专利申请数量以 740 个位居全球第一，落地实践成果丰富。比如营销反作弊场景下，帮助超过 1 万家合作伙伴识别薅羊毛风险，节省营销资金超 300 亿。

在提高模型 “鲁棒性”（Robustness）方面，为了应对黑产攻击、并使得模型能适应复杂多变的数据环境，还需要引入博弈论思想生成攻击手段，并进行智能防御，通过左右手互搏，加强抗打击能力。据悉，蚂蚁集团正在风险交易识别、黑灰账户身份识别等风控场景持续打磨这项能力。

关于 “可解释性与因果分析”，漆远解释，AI 模型不能是黑盒。“人类希望知道模型背后的逻辑、收获新的知识，并在它出现问题时踩好刹车，确保 AI 合规合法。” 他认为，这背后需要数据驱动与模型推理能力结合起来，产生可解释的结果。目前，蚂蚁集团已经将这项能力在智能风控、投诉审理，反洗钱等领域广泛应用。

“可信 AI” 的技术架构体系还需要解决模型公平性问题，保持技术的敬畏心，在重视社会伦理原则下进行 AI 调优。通过 AI 技术，让老年人、残障人士、欠发达地区用户，享受到数字经济时代的价值，这也是 AI 公平性的体现。漆远透露，蚂蚁集团已完成了 “空中手势” 验证码识别方案的研发，帮助视障人群通过 “滑动验证码” 关卡，该方案将免费开放给更多企业。

乐山货车翻下山坡 http://www.xinzhiliao.com/bj/meirong/12353.html