联合国CGF“促进人工智能算法性别平等”项目启动

　　当大数据、人工智能、算法已经成为耳熟能详的概念，当我们的生活普遍被这些技术改变的今天，关于技术可能带来的风险和割裂问题正在慢慢泛起涟漪。数据安全、个人隐私、平等与尊严……在加入了技术的变量之后，成为了更加复杂的问题。发展的问题需要以发展的方式来解决，以“让数据科技服务于人的福祉和自由”为使命的玛娜数据基金会由此发起了“促进人工智能算法性别平等”项目，便是针对人工智能时代性别平等问题的新特征、新趋势进行的探索。该项目获得了联合国-中国社会性别研究和倡导基金(CGF)第九批项目支持。

　　2020年8月6日，在乐都派米雷孵化器多媒体会议室，联合国CGF“促进人工智能算法性别平等”项目启动会顺利召开。本次活动由联合国妇女署指导，上海玛娜数据科技发展基金会主办，参与支持单位包括上海派米雷创业孵化器有限公司、上海海蕴女性就业创业服务中心、复旦大学生命医学伦理研究中心、上海交通大学凯原法学院数据法律研究中心、大连理工大学大数据与人工智能伦理法律与社会研究中心、中国人民大学伦理学与道德建设研究中心科技伦理研究所、上海大学法学院大数据与人工智能法治研究中心、湖南师范大学人工智能道德决策研究所、江苏省人工智能学会、国家社科基金重大项目“大数据环境下信息价值开发的伦理约束机制研究”课题组、国家社科基金重大项目“大数据时代个人数据保护与数据权利体系研究”课题组等机构，线上和线下共计90多位各界专家围绕人工智能时代算法性别平等这一议题进行了深入的讨论交流。

　　开幕式

　　会议开幕式由欧盟中国长三角女性创新创业中心副主任、上海海蕴女性创业就业指导服务中心执行主任忻敏洁主持，联合国妇女署高级项目官员马雷军，玛娜数据基金会创始人、副理事长张唯分别致辞。

　　联合国妇女署高级项目官员马雷军致辞

　　马雷军先生在致辞中首先介绍了联合国CGF项目以及过去十几年的实施情况，通过列举过去联合国CGF项目中的成功案例，指出联合国CGF项目的定位和期望达成的效果，即推动各领域的性别平等。然后分析机场女性专用通道是否该设置等问题，结合相应的数据分享，提出了一个核心观点：关于性别平等不止是保护女性，其本身关乎社会治理，更是国家发展和全球进步应当关注的议题。

　　玛娜数据基金会创始人、副理事长张唯致欢迎辞

　　张唯先生在致辞中首先对与会的领导和专家表示感谢。他指出数据时代引发了新的法律和伦理问题，如AI所形成的偏见已经被迅速放大。技术如何脱离偏见，实现社会公平的问题需要被解决，也可以被解决，这也正是玛娜数据基金会的使命。提升女性在科技创新中的影响力，推动女性与数据社会更匹配的竞争力，共同肩负起改变世界的能力是这次项目尤其重要的工作。

　　项目启动会

　　“促进人工智能算法性别平等”项目启动会进行了项目组汇报和专家评议。

　　项目汇报 项目负责人、玛娜数据基金会研究员胡晓萌

　　他首先列举了人脸识别、智能招聘、金融等领域中人工智能算法性别歧视的案例，然后借助社会建构论、社会数据化和技术女性主义等理论框架分析人工智能算法性别歧视的两大根源所在，即社会性别的影响进一步固化到算法之中、人工智能技术创新中的“女性视角”缺失。最后提出四大行动纲领：道德算法、算法透明：建立算法审查和评估机制，向用户做到算法可解释、引入算法设计的女性视角、打破固有性别歧视，以及基础研究和学术倡导、开展能力建设和政策与社会倡导等主要干预措施。

　　研究计划汇报 项目组成员、湖南师范大学心理学系讲师郭昫澄

　　她就实证研究计划进行了汇报，她首先陈述了性别平等定义以及研究现状，然后通过智能时代性别平等问题省思提出智能时代性别平等问题的三大走向，机遇和挑战并存、算法黑箱的认识和“以人为中心的”人-机交互理念。最后从问题基础、产生机制和干预方案三个方面确立总体研究框架和研究设计。

　　专家评议

　　大连理工大学人文与社会科学学部部长李伦教授

　　他认为，促进人工智能算法性别平等”项目具有重要的现实意义和战略意义，要将性别平等置于自由和公正等价值链中进行考量。他指出技术的本质是赋能，有助于促进生理性别平等，课题除了应关注人工智能算法的负效应，还应关注其之于性别平等的积极方面，要关注如何解决人工智能算法有碍性别平等的问题，也要关注如何利用人工智能促进性别平等的问题。他认为目前的人工智能算法基于大数据，即基于已有的社会实践，因此课题要关注人工智能算法之于性别平等的社会因素，从技术与社会两个角度聚焦AI算法性别平等的特殊问题，提出促进人工智能算法性别平等的技术方案和社会方案。

　　复旦大学生命医学伦理研究中心、应用伦理学研究中心主任王国豫教授

　　她指出技术系统不是一个单纯的技术系统，而是一个社会技术系统，是一个技术活动和过程，其主体始终是人。算法歧视是放大了的人的歧视，因此算法歧视就不只是算法技术的问题，而是社会-技术问题。最后期望项目能够顺利进展，让人工智能为妇女赋能。

　　上海交通大学凯原法学院副院长彭诚信教授

　　他强调在数据时代看待性别平等问题首先要明确什么是性别平等和性别歧视，追溯引导这种观念形成的根源，为项目确定一个可落地可实施的目标。并且提到，在现在的文明社会当中，真正意义上的性别平等应该强调人的尊严平等，尽可能维护并尊重人们在职业等领域的自由选择。

　　上海交通大学闫宏秀教授

　　她提出从算法的价值敏感性和可控性强调该项目应该关注算法黑箱带来的挑战，指出算法透明不一定会带来更大的利处，仅从算法设计出发也不一定能够解决算法歧视的问题，认为同时应关注算法更深处的东西，即数据以及其背后所体现的社会纬度。

　　上海市科学学研究所李辉副研究员

　　他认为基金会在数据治理和人工智能治理方面有丰富的研究积累，算法平等是人工智能治理领域的国际前沿问题，祝贺基金会课题组成功申请到联合国妇女署项目。结合自身的研究经历，建议区分算法加剧了哪些传统的不平等问题、带来了哪些新的不平等问题。期待课题组基于丰富的中国场景，探索出促进人工智能健康发展的可行性方案。

　　优谈集团创始人兼CEO、上海市人口福利基金会副理事长李瑜

　　她回顾了高新科技产业十年一次的浪潮，指出前十年移动互联网时代为女性带来绽放的机遇，但新十年人工智能与数字化时代女性面临全新挑战，可能成为掉队群体。要着力改善和提升AI新带来的性别不平等状态，同时善于利用AI填平现存的传统不平等沟壑，鼓励女性跟上AI浪潮和科技产品转型的契机，在生活消费产业的数字化进程中发挥优势。

　　算法治理与性别平等论坛

　　下午进入算法治理与性别平等论坛，第一个主题是“算法治理与技术前沿”，由中南大学湘雅二医院助理研究员袁明主持。

　　同济大学人文学院张念教授

　　她在“感性数据、冗余物和性差异”主题演讲中强调：在发展人工智能的过程中，应注意心智(Intelligence)，数据(Data)和算法(Algorithm)三个关键词。其指出来自生活场景或人自身的感性数据(sense data，材料或印迹)被强调通用性、客观性、逻辑性的算法所删减，形成技术-象征-照射系统的冗余物。提醒算法工程师在和数据打交道的工作中重视反思其书写的程序在多大程度上反映感性数据和生活场景。万维网的互联性，正在生产和定义生活世界的各种关系，而不是前互联网时代的通过关系法则定义联结，因此任何联结需要在本体层面的差异性得到思考，正如以性别(gender，也有分类和范畴的意思)为标记的性差异(sexual-difference)所生产的丰富关系和议题。

　　上海交通大学的 闫宏秀教授、宋胜男

　　她在“有效的算法信任何以可能?”一题中谈到：人工智能时代的特点是数据、算法、算力的融合和整合。一定场景下算法解决平等问题是有效的。从算法、信任两个维度来深入开展分析，指出算法信任调节在算法的正确应用和性别平等问题上具有重要意义，最后就算法信任的风险和后果提出建议。

　　湖南师范大学人工智能道德决策研究所文贤庆副教授

　　他在分享“在算法时代超越性别”时指出生理性别是天生的，社会性别既非内在也非固定，而是社会交互影响的产物，它会随着实践和文化的不同而改变，社会性别是由社会建构的。他基于罗尔斯《正义论》中寻求社会公正的路径探讨指出算法时代消除社会性别的方式，从哲学框架到理念分析为算法性别平等寻找出路。

　　提问环节

　　提问互动环节，与会专家围绕00后的性别平等认知问题、性别内的差异以及弱势群体问题展开讨论。

　　AI时代的性别平等论坛

　　论坛的第二个主题为“AI时代的性别平等”，由上海大学大数据与人工智能法治研究中心执行主任、浦江学者陈吉栋主持。

　　洲际酒店集团大中华区企业声誉与责任部

　　副总裁兼总法律顾问王伟文

　　她在分享“AI需要‘她‘智慧”时，先采用了一段视频来揭示潜意识中的性别歧视，并指出了目前酒店业的性别比例，尤其是总部的领导集团和中国区的领导集团中女性比例比较高的事实。同时她也强调偏见依然存在，她倡导规范的法律指导应尽快融入到商业决策当中，让AI向更好的更平等的方向发展。

　　南京大学社会学院副教授、江苏省人工智能学会

　　项目顾问周培勤

　　她在分享“AI女性，如何向前一步?”时指出，人工智能行业应该为女性创造更多的就业和发展机会，这样做有助于通过从业人员的多元化而提高行业的创造力，有助于消除智能产品的性别歧视和性别盲点，同时也有助于提高女性整体上的社会和经济地位。她介绍，江苏省人工智能学会目前也正在联合国妇女署的支持之下进行调研，深入探讨妨碍女性进入人工智能行业的几个显著因素，包括女性的成就动机、专业能力、社会网络、工作—家庭平衡等。

　　深圳华欧民康人工智能有限公司CEO潘安南

　　她在分享“AI时代，女性的机遇与挑战”中提到，AI对女性来说既是机遇也是挑战，对整个人类也是一次巨大的考验。她指出人工智能行业中女性从业人员仅占20%，虽然团队更倾向于女性的AI工作者，但是实际上女性的求职者少之甚少。希望社会环境更加鼓励女性学习AI、为女性创造更多人工智能就业的同时，女性也能提升自身素养，突破圈层，利用并且享受AI科技带来的红利。

　　提问环节

　　提问互动环节，与会专家围绕隐形性别歧视、制度文化结构问题、企业关于保护女性的措施等问题展开讨论。

　　闭幕式

　　全天的活动密集而丰盛，讨论环节也碰撞出了科技与人文的火花。这是中国第一次关注人工智能和性别平等的会议，各个专家的观点都非常重要。正如总结致辞中，上海玛娜数据科技发展基金会创始人、副理事长张唯所谈到的：项目将充分吸收各位专家的观点，通过调研发现AI发展中的性别盲点，根据这些性别盲点，对相关部门进行培训和倡导，旨在促进AI发展中性别平等。

　　摄影：梁微微

       编辑：陈皮