看照片,我就知道你是同性恋,斯坦福大学的人工智能说

2017-09-19 09:41

声明

以下文章由知乎(Zhihu.Inc)提供,本人(周杰)采取非正常手段获取
获取与共享之行为或有侵犯知乎权益的嫌疑
若被告知需停止共享与使用,本人会及时删除此页面与相关源码
请您暸解相关情况,并遵守知乎协议
如何评价斯坦福大学「识别同性恋 AI」是怎么办到的?可能引起哪些伦理争议? 华沙,NTU心理学博士在读。UoG心理学研究方法硕士。BJFU心理学学士。

中午还没吃饭,朋友就给我发了这篇文章。虽然人工智能对于生活与科研都有极大帮助。但是如此的结果不由得让人不安:我们的大量数据都在科技大鳄手中,通过分析,是不是他们能掌握我们所有的特点,然后精确的投放广告,或者用二级价格歧视榨取我们身上钱财。其实,技术本身应该是中性的,但是解读和利用是我们需要认真讨论的。

我得承认,在研究人脑对于面孔认知的实验人员群体中,大家对于一些学机器学习的人来研究面孔与人的个性、特征还是有抵触的。原因就是对于实验结果的解读。

这篇文章,在技术层面,无疑是成功的。利用了 DNN 的技术,加上获取大量照片进行分析。我不是机器学习的学者,对机器部分不做评论,默认是优秀的训练,反映了作者的意志。

先不说统计上的谬误可能性。(这一点可能极为致命)。

似乎作者们得到了想要获得的结果。但是,仔细读这篇文论文:Deep neural networks are more accurate than humans at detecting sexual orientation from facial images.。让人不由得思考,他们究竟在研究中发现什么了呢?

与其说他们训练出区分性取向的分类器,不如说是训练出能区分:1. 荷尔蒙(雄、雌性激素)影响下面孔特征(也可以理解为两性异性),2. 不同性取向者喜欢的发型、胡型、以及妆容、甚至眼镜等配饰。所以说,他们训练的机器更多的是寻找了以上两个特征,而并不是找到了 ‘性取向’ 特征点。

先说第二点。这篇文章作者也承认,训练集是来自于网上图片。特点是多样,生活化。但是缺点就是控制性。相比计算机视觉学者更喜欢这样自然、通用的数据。我们认知心理学、神经科学工作者更倾向于控制的数据。看似前者更有用,但是别忘了,大千世界中,互相影响的因素众多。倘若不加以控制就难以得出清晰的结论。比如作者也承认,他们分类器对于男性面孔结果更清晰。一个原因就是胡须在男性面孔上的鲜明(关于鲜明性,可以看这个回答:华沙:大脑是如何做到自动过滤出颜值高的女孩子的?):材质特殊,高对比度,占据面积大。因此不同性取向者不一样的蓄胡须方式,会在此项判断上占据主导地位。所以说,此项分类器,很多时间会依靠发型、胡型、以及妆容、配饰,而面孔特征本身的影响会打折扣。所以说使用实验室采集的,受过预处理的图片才能给出一个清晰的判断。否则这个分类器的效用要打问号:究竟在看脸,还是在看发型胡须眼镜?

左边两个为异性恋,右边两个为同性恋。男性的两张明显可见胡须的差异。同事明显可以看到男性的面孔有眼镜。所以说,只针对白人的研究可能没有控制教育水平这个因素。

再说荷尔蒙。虽然说有不少学者认为在胎儿期的荷尔蒙水平会影响性取向。的确有很多学者承认荷尔蒙水平会影响面孔的特征,所谓两性异性(如 G Rhodes 在 2006 综述文章,也可以翻一下我的文章:看脸这事儿上,男女有别。)。比如雄激素更多的男性,胡须旺盛,下巴坚毅宽阔;和此研究的数据结果吻合。但是,此项研究应该说用机器:1.发现了荷尔蒙对于面孔形状的改变,2.然后借用一个理论‘荷尔蒙和性取向相关’,3.最后推论说能够发现性取向。仔细想想看,第 2 步是整个实验的逻辑核心;但也是解读时容易犯错之处。

另一个角度看,别忘记这个荷尔蒙水平还会影响食指和无名指长度比较。也就是说,这个实验的原理,在某种程度上可以说是与 ‘通过看手指长度判断性取向’ 类似。此项理论虽然有显著结果,但是需要小心解读。很多科学家更倾向于认为,胎儿期的荷尔蒙水平可能会影响一些性取向。但是后天环境也会影响。此项研究,就是完全站在了 ‘先天’ 激素角度。综上所述,在这一部分的结果很值得推敲,也还要注意科研伦理。

所以说,此研究,但就在理论层面有推敲空间,更不要说解读和应用。而且统计方面和取样,还是需要再思考下的。

倘若是一个心理学的工作者写此文的话,肯定会更强调上述两个不足。虽然得承认,此项实验完成了作者的目标:比人判断准,比瞎猜也准。但是,我们得意识到此项研究中的理论基础,还有理论中薄弱环节。

因此,观点就是:1. 对于机器学习的重视,技术的发展超出了想象;2. 对于科研推论还需要多推敲,向前看推论是否站得住脚,向后看理论基础眨不扎实;3. 对于商业应用要谨慎,这个能分辨性取向,明儿也能分辨爱不爱花钱(从面孔的化妆程度:科学家怎么研究化妆品呢?),滥用起来就是能榨干消费者!

以下内容已过滤百度推广

2017年9月9日 - 有,而且还很好吃 两千多年前,秦国为什么要统一中国? 远处来了车,先见到车顶就说明地球是圆的?不可能的 看照片,我就知道你是同性恋,斯坦福大学的人工智...  普通

2017年9月8日 - 斯坦福大学一个科研小组近日研发出新的图片识别人工智能算法,其作用是凭借照片分辨出个人性取向,较简单地判断其是否是异性恋(straight)或同性恋(gay)...  普通

2017年9月8日 - 斯坦福大学一个科研小组近日研发出新的图片识别人工智能算法,其作用是凭借照片分辨出个人性取向,较简单地判断其是否是异性恋(straight)或同性恋(gay)。...  普通

6天前 - 最近,斯坦福大学的科学家michal kosinski和yilun wang,开发出了一项专门“看...人工智能系统看一眼照片,它就能告诉你照片里的人是不是同性恋,而且准确...  普通

6天前 - 最近,斯坦福大学的科学家michal kosinski和yilun wang,开发出了一项专门“看...人工智能系统看一眼照片,它就能告诉你照片里的人是不是同性恋,而且准确...  普通

2017年9月8日 - 新浪美股讯 北京时间8日晚,斯坦福大学的一项最新研究表明,人工智能现在能通过分析一张人类面部照片来准确判断一个人的性取向。 斯坦福大学的这项研究成果...  普通

2017年9月8日 - 当看到同性恋或异性恋的照片时,算法可以准确识别...在斯坦福大学的研究中,作者同时指出,人工智能可以...「问题是对于社会来说,我们需要知道吗?」 ...  普通

斯坦福大学新人工智能能够凭借照片分辨同性恋:斯坦福大学一个科研小组近日研发出新的图片识别人工智能算法,其作用是凭借照片分辨出个人性取向,较简单地判断其是否是异性...  普通

6天前 - wang曾经在谷歌工作过,在2016年他在斯坦福大学就专攻人工智能,是个技术派...所以我觉得你们肯定是恐同分子,想借他人之手谋杀同性恋! 如果你俩不是...  普通

17小时前 - 英国《卫报》(the guardian)引述斯坦福大学教授michal kosinski的话说,人工智能可以根据照片来检测一个人究竟是同性恋还是异性恋。 只需要一些照片,mi...  普通
2 3 4 5 6 7 8 9 10 >
周推荐电影 - Twitter 周推荐电影 - 微博