许冬亮认为,“大数据+AI技术”是金融数智化升级的强劲驱动力,但数智化升级过程中也伴随着伦理风险:例如在数据伦理方面,会涉及数据的非法/过度采集、隐私数据的传播与滥用等问题;在技术伦理方面,存在算法歧视、模型黑盒(不可解释性)等隐患。
“科技伦理建设是科技企业和科技人员应有的义务”,许冬亮表示。围绕防控科技伦理风险,提升科技伦理治理能力,他分享了度小满采取的 “五大措施”。
首先是组织层面,科技伦理的落地要有对应的组织保障,度小满IT治理委员会的基础下新设立了科技伦理工作小组,该工作小组是站在科技伦理的角度制定公司的科技伦理原则,同时要去监督科技伦理原则的落地。
其次是健全规章制度。度小满目前已经建立了科技伦理审查制度,监督伦理原则的落地,具体审查内容落实在技术风险管理制度、数据风险管理等制度中。
第三,在数据治理方面,度小满围绕三大法《网络安全法》、《数据安全法》和《个人信息保护法》,把整个数据安全与管理、隐私保护贯穿于数据的采集、存储、流通、应用以及销毁全环节,制定数据的全生命周期的管理,并且设置了严格的数据红线。
第四,技术治理方面,从三个维度开展工作:打破算法模型黑箱,深度学习算法可解释性是比较差的,通过技术革新,比如因果推断的方式能够使得模型的因果关系可解释性变得更强,以及制定算法规范,防范算法歧视,避免用户遭受不应该有的伤害;通过构建模型全生命周期管理机制,将模型立项到下线全流程纳入规范管理,确保模型安全可靠、持续、透明可解释、尊重隐私、可审计可监督,有效控制模型风险;通过专家经验防范系统性的风险,例如用成熟的框架限定新技术应用边界,在顶层我们使用的是专家经验的整体框架,新技术的应用会在专家经验的大框架下进行应用,即使可能出现风险影响范围也是约束在相对小的范围,不会引发系统性风险。
最后是人才培养,科技伦理的意识需要贯穿人才培养全过程,包括人员招聘、任用、培训、内部交流。
许冬亮强调,科技企业在践行科技创新时要秉承“意识先行,伦理前置,以制度约束,让科技自我完善”的理念,共同建设美好科技生态。