模式可始于像网络搜索这样的简单服务。最近,来自巴西米纳斯吉拉斯联邦大学的研究人员调查谷歌和必应在全球59个国家对女性魅力的算法概念。他们在这两款搜索引擎上分别搜索“漂亮的”和“丑陋的”女性,收集相关图片,根据图片鉴别女性外在魅力方面的刻板印象。在所调查的大多数国家里,算法使得黑人、亚洲人和老女人往往更多地与丑陋女性的图片关联,而年轻白人女性的图片则更多地作为漂亮女性的例子出现。
研究人员指出,网络上的分类反映了来自现实世界的偏见,同时也让那些偏见永久存在。随着人们越来越多地依靠搜索引擎来获得信息资讯,设计师们利用算法来给人们呈现搜索结果。当那些算法不公开透明的时候,系统究竟为什么和如何决定选择特定的图片或者广告,就成了谜团。最终,互联网及其用户之间的这种偏见得到强化,进而扩大成见,影响人们对世界及其在里面的角色的感知。
InferLink公司致力于分析人们在社交媒体上的行为。
跟其它的同类项目一样,InferLink算法研究男性和女性在网上如何表达自己,在说法方式上有什么不同。“男性使用陈述性动词比较多,而女性则更多使用描述性的词语。”InferLink首席科学家马修·米切尔森(Matthew Michelson)透露。
过去3年的研究揭示了社交媒体语言的性别差异。PLOS>该研究指出,女性用户往往更多地使用与诸如“爱”、“想念”、“谢谢”这样的情感相关的词语,以及表示微笑、皱眉和流泪的表情符号。与此同时,男性用户更经常出现诅咒话语;倾向于讨论管理、视频游戏和体育;更多提及死亡和暴力。之前有关口头语言和书面语言的研究发现,女性倾向于不作正面答复,更多使用像“似乎”或者“可能”这样的词语。
然而,米切尔森指出,一旦你开始根据这些算法来进行性别、种族或者社会经济地位方面的推断——不管是用于营销推广还是政策建议目的——你就会触碰到敏感的问题。由于这种技术,女性可能会在各类生活资讯和广告的定向呈现上遭遇不平等的对待,如金融信贷、医疗服务、招聘、政治活动方面,以及强化性别刻板印象的产品推销。
这也是不透明的算法成为性别歧视的间接工具和直接影响女性生计的一种方式。目前已经有算法更有可能向男性展示高薪酬职业的网络广告。在谷歌图片搜索“职业女性”,女性高管出现的比率相对较低,从事电话推销工作的女性出现的比率则较高。
罗夫警告称,由于算法代为做下的决定,女性可能会在生活的各个方面都错失一些好的机会。对于那些决定,人们也无法质问或者反对。那些决定可能涉及各类日常问题,如“孩子该上什么学校,我们能获得什么工作,我们可以上什么大学,我们是否符合抵押贷款资格,等等”
罗夫解释道,算法有朝一日可能会变得非常个人化,会告诉女性什么才是正常的。“双方将会控制我对于生活的很多想法,如我该追求什么,我是否该要孩子,是否该结婚,是否该找工作,又或者就是该不该买那个手袋。”她说道,“这会变得很危险。”
左边是Jaxon机器人,右边是Valkyrie
人机合一
30年前,主张女权的技术学者堂娜·哈拉维(Donna Haraway)在其著名的论文《人机体的宣言》中呼吁女性不仅仅要利用现代机器,还要用它来改造身份——最终除掉性别、性征和其它的限制性类别。她指出,利用技术,给我们所有人都创造半机器人身份是有可能的。随着人们日渐依赖于他们的设备,他们会忘记自己的性别优越性。
哈拉维的愿景于1985年出版在《社会主义评论》(Socialist Review)上,它催生了几代的赛博女性主义者,引发了大量相关的讨论和性别研究项目。它在如何消融人类与机器之间的界限上带来了新的思考角度。
在这种我们与技术融合的未来乌托邦中,我们的繁殖生育能力不再依靠于性交。我们作为人机一体来思考和行动,能够再生和重制我们的身体部件,能够改变我们的物理特征。人类全面拥抱机器人、人工智能和机器学习,将它们视作自我强化的模式。不同于科幻小说对人机混合体导致机器人统治人类,或者一种性别统治另一种性别的想象,人机合一会造就一种平衡局面——一个没有性别之分的世界。