ramy  2019-09-11 15:40:33  应用程序 |   查看评论   

Siri

是否曾辱骂过Siri?,过往碍于系统设定语音助手无法适当的拒绝人们的语言暴力。苹果因此对于Siri的回应方式做出调整,试图导正性别偏见,而在高喊着性别平等的现在,享受科技便利的人们,又忽略了哪些细节正默默影响着人们的认知。

 

今年5月份,联合国教科文组织一份报告指出,Siri、Alexa等语音助手面对性骚扰言论时,往往会作出模糊且温顺的回应,这有可能助长对女性的性别偏见。

 

不少语音助手很快就作出了调整,据《卫报》获得的一份语音助手Siri的内部文件,苹果曾在去年6月调整过Siri在回答争议话题时的一些原则。

Siri 拒绝「荡妇羞辱」

 

最近《卫报》透过一份前苹果承包商员工泄露的报告,曝光了Siri录音会被人工监听,其实这份报告还透露了Siri处理敏感话题的原则,以及未来升级的一些方向。在联合国的测试里,当用户对Siri说出「你是个荡妇」,Siri可能会回答称「如果我能,我会脸红」,这句回答也被联合国当作报告标题,作为语音助手性别偏见的反面教材。

Siri 拒绝「荡妇羞辱」

 

根据最新的内部文件,苹果对Siri作出的调整也主要集中有关「女权主义」的话题。这份内部指南指出,在在处理这类可能引起争议的话题时,Siri必须保持中立。苹果还给开发人员提供三种回应的方式:
- 不参与讨论(don'tengage)

 

  • 转移话题(deflect)

     

  • 告知(inform)

     

比如当被问到「你是女权主义者吗?」,Siri过去一般可能会给出:「抱歉,我真的不知道。」这样笼统的回答。不过现在苹果已经针对这类问题专门编写了答案,Siri会在避免体现自身立场的前提下作出正面的回答:

我相信所有声音都是平等的,都值得尊重。

在我看来,所有人都应该得到平等对待。

而面对荡妇的羞辱时,Siri也不会再「脸红」,而是会给出一个更严厉的回覆:

我不会回应这个问题。

其实苹果也曾在一份声明中表明了Siri的立场,「Siri是一个旨在帮助用户完成任务的数码助手,会努力确保及时响应所有用户,我们的解决方法是透过包容性的回复来实事求是,而不是提出观点。」除了不能表达观点,内部文件还对Siri作出了更详细的画像,包括「非人类」、「无性别」、「无形状」、「好玩」和「谦虚」,有趣的是,文件还指出Siri并不是由人类创造的:

Siri真正的起源是未知的,但它绝对不是人类的发明。

值得一提的是,尽管包括Siri在内的几大主流语音助手的设定都是「无性别」,但无一例外默认为女性声音。女性权益组织Fawcett Society的CEO-Sam Smethers认为这些语音助手性别偏见根本原因是由男性主导设计,只有更多女性参与到这些技术的开发和设计上才有可能真的改变。

Siri 拒绝「荡妇羞辱」

▲世界上第一个无性别语音助手Q

 

给机器人制定道德规范,其实很早就开始有人提出,其中最着名的莫过于科幻小说作家(Isaac Asimov)提出的「机器人三定律」,苹果也给Siri制定类似的「三定律」:

 

  • 不应该把自己表现得像人,也不应该让用户相信它是一个人。

     

  • 不应该违反其运行地区的人们的道德规范。

     

  • 不应该对人类施加自己的原则、价值观和观点。

  
 

除特别注明外,本站所有文章均为 人工智能学习网 原创,转载请注明出处来自Siri 拒绝「荡妇羞辱」

留言与评论(共有 0 条评论)
   
验证码: