华夏基金参与IEEE可解释AI标准工作组会议

近日，IEEE P2894 可解释AI（）标准工作组召开了第一次线上讨论会。

IEEE、华夏基金、微众银行、华为、腾讯云、京东数科、华大基因、海信、中电科、中科院计算所泛在智能研究院、中国电信广州研究院、创新工场、依图、第四范式、星云、逻辑汇、倍漾科技、新奥能源、松鼠AI、AI 、等共21家国内外知名企业与研究机构参与了此次会议。

会议宣布了IEEE国际标准的发展过程、小组政策和程序草案等相关内容，同时，提名了标准制定小组的主席、副主席、秘书等角色负责推动可解释AI标准制定。

微众银行首席人工智能官杨强教授被推举为荣誉主席，华夏基金首席数据官陈一昕被提名为标准工作组副主席。微众银行人工智能首席科学家范力欣作为主席回顾了IEEE P2894 PAR的项目范围及大纲，来自金融、科技、教育、医疗等各领域的参会专家共同参与了讨论。

IEEE P2894标准的制定目标，是帮助确保机器学习算法中数据处理与建模的使用对于受众具有可解释性，受益者包括终端使用者，决策者，监管者，系统开发者，并同时符合隐私保护，安全，责任, 公平与监管的要求。

可解释AI能够对数据-决策机制给出直观或启发性解释。其目标是定义数据与算法可以应用的场景，进而处理固有偏见与限制，用来发现由于AI模型的黑箱性质所导致的问题，并且评估AI技术带来的偏差，不公或者不合适的决策。

这些问题的解决需要可解释AI各元素的细致设计与集成，通常需要使用先进的机器学习技术，包括深度学习。从黑盒模型推断出可解释、可度量、可追溯的解释模型，可广泛推广至金融，市场，教育，研究等领域。未来，AI建模人员，AI模型供应商，AI模型使用者等将受益于此。聚焦到金融领域时，可解释AI可被应用至算法交易、策略研究、数据使用等各方面。