但現(xiàn)在如果對巴西布拉德斯科銀行（Bradesco bank）的虛擬助理使用這種語言，對方可能會更堅(jiān)定地回答：“這些話不能對我或任何人說。”
她還會語氣更強(qiáng)硬地說：“這對你來說可能是個(gè)笑話，但對我來說，這是暴力。”
去年，布拉德斯科銀行在其人工智能系統(tǒng)上發(fā)現(xiàn)了9.5萬條包含虐待或性騷擾的信息。該銀行之后采取了行動。
他們的指控團(tuán)隊(duì)整理了這些有冒犯性語言，結(jié)果發(fā)現(xiàn)，最溫和的是要求對方裸體。但也有些太過粗俗的語言，公司不愿透露。
該公司執(zhí)行董事佩蒂科夫（Glaucimar Peticov）告訴BBC：“言語非常粗魯，我沒法重復(fù)給你聽。”
還不清楚為何有人對虛擬助理使用這樣的語言，但佩蒂科夫稱，性愛信息“完全不該出現(xiàn)”，“這毫無疑問，就是一種騷擾“。
為了應(yīng)對這類攻擊，Bia的軟件腳本得到了更新，迫使客戶用更尊重的語言來稱呼她，才能繼續(xù)工作。
佩蒂科夫表示，新的回應(yīng)“不那么順從和被動”，是為了“教育”客戶，鼓勵(lì)他們“反思”性別歧視態(tài)度。
布拉德斯科銀行在電視廣告中宣傳了公司的舉動，當(dāng)機(jī)器人改變態(tài)度時(shí)，女演員看起來更有力量。
其他巴西大型企業(yè)也承諾效仿這一舉動，包括化妝品公司、制造業(yè)，以及公用事業(yè)和服務(wù)提供商。
陸，是零售巨頭雜志Luiza的語音助理，她不僅能對口頭冒犯做出堅(jiān)定回答，而且安裝了“緊急按鈕”，讓女性在遇到家庭暴力時(shí)謹(jǐn)慎地提醒當(dāng)局。
在真人團(tuán)隊(duì)的幫助下，她成了社交媒體上有影響力的語音助理，擁有數(shù)百萬粉絲，經(jīng)常和他們談?wù)撔詣e問題。這個(gè)團(tuán)隊(duì)負(fù)責(zé)管理她的社交媒體互動。
圖像來源，MAGALU
零售巨頭雜志Luiza的語音助理陸（Lu）
但不是所有人都認(rèn)為根據(jù)這個(gè)原因調(diào)整人工智能系統(tǒng)是有意義的，因?yàn)榕按龑ο蟛皇怯懈星榈恼嫒恕?/div>
“我們?yōu)槭裁匆垓v一個(gè)非人類的語音助手呢？因?yàn)檫@個(gè)問題反映了現(xiàn)實(shí)生活，”聯(lián)合國教科文組織巴西分部的社會科學(xué)協(xié)調(diào)員伊恩（Fábio Eon）解釋。
伊恩表示，言語虐待和騷擾的背后是更大的問題。
去年，巴西報(bào)告了10.5萬起針對婦女的暴力案件。由于仍有很多未報(bào)告案件，實(shí)際數(shù)字可能要高得多。
伊恩認(rèn)為，現(xiàn)實(shí)世界和數(shù)字空間在人類行為方式上有所關(guān)聯(lián)。
“從你在網(wǎng)上接受這些行為的那一刻起，這些行為就會在現(xiàn)實(shí)生活中被復(fù)制。”
女性機(jī)器人臉與人臉對比
聯(lián)合國教科文組織2019年的一份報(bào)告批評了制造數(shù)字助理的公司，指責(zé)它們強(qiáng)化了性別刻板印象。在多數(shù)情況下，這些數(shù)字助理都是女性的聲音。
該組織表示，蘋果的Siri和亞馬遜的Alexa等產(chǎn)品似乎“能夠容忍男性的性挑逗，偶爾也會受到誘惑”，并稱它們“未能鼓勵(lì)或樹立關(guān)于性愛或贊同性愛的健康溝通，更不用說堅(jiān)持了”。
這兩家全球科技巨頭都采取了不對抗策略，并隨后對Siri和Alexa做了更新�，F(xiàn)在Siri會簡單回答關(guān)于性愛的評論：“我不會回應(yīng)這個(gè)問題”。
在此之前，她對性侮辱的回答是：“如果我能做到，我會臉紅的。”
“你能想象這樣的回答在現(xiàn)實(shí)生活中有多離奇嗎？”伊恩問道。
伊恩警告稱，盡管采取了一些改進(jìn)措施，但對人工智能的偏見依然存在。
他指出，Siri和Alexa（女性名字）可以幫我們做瑣碎的事，比如播放音樂或打開燈，而巴西法院的人工智能系統(tǒng)能篩選成千上萬份文件，他的名字叫維克多（Victor，男性名字）。
一些公司正在考慮在系統(tǒng)中使用無性別聲音，以此來解決爭議。
但佩蒂科夫表示，人工智能之所以使用女聲，是因?yàn)樗齻兊囊舾吆鸵粽{(diào)變化能為客戶創(chuàng)造更舒適的環(huán)境。因此，布拉德斯科銀行沒有計(jì)劃取代Bia，或者假裝問題不存在，她解釋。
“但是習(xí)慣需要改變。這些互動行動實(shí)際反應(yīng)了社會的現(xiàn)實(shí)�，F(xiàn)在我們已經(jīng)發(fā)現(xiàn)了這個(gè)問題，決心采取行動。”
從長遠(yuǎn)來看，公司正在考慮當(dāng)客戶虐待和性騷擾人類虛擬助理時(shí)該怎么做。
2017年，韓國GS加德士（GSCaltex）能源公司發(fā)起運(yùn)動，幫助減少針對呼叫中心工作人員的虐待行為，上了頭條新聞。
在顧客的電話轉(zhuǎn)給助理接聽之前，顧客會聽到一段員工家人的錄音，這段錄音提醒，電話那頭的人是有生命、有感情的人。
錄音中有個(gè)男孩說：“我的媽媽是我在這個(gè)世界上最愛的人，她很快就會幫助你。”另一個(gè)男性的聲音說：“我的善良、勤勞的女兒很快就會上線。”
發(fā)起這項(xiàng)活動的營銷機(jī)構(gòu)艾得夸互動（AdquaInteractive）稱，GS加德士的員工后來報(bào)告稱，54%的人覺得壓力減輕了，25%的人說他們感到更受尊重了。
專注于數(shù)字教育的DQ研究所的首席執(zhí)行官派克（Yuhyun Park）表示，在互動變得更加非人類化的世界里，人們越來越需要意識到這一點(diǎn)。
“公民需要更加文明的行為。當(dāng)我們不能面對面見面時(shí)，就會遇到這種騷擾問題。即使在人工智能出現(xiàn)之前，人類也不是很友好地對待彼此。
“我們是社會的一部分，即使是與人工智能對話，也在共同構(gòu)建整個(gè)社會體系，如果不文明行事，就會產(chǎn)生不好的影響。”
【免責(zé)聲明】本文僅代表作者本人觀點(diǎn)，與CTI論壇無關(guān)。CTI論壇對文中陳述、觀點(diǎn)判斷保持中立，不對所包含內(nèi)容的準(zhǔn)確性、可靠性或完整性提供任何明示或暗示的保證。請讀者僅作參考，并請自行承擔(dān)全部責(zé)任。
相關(guān)閱讀：
- ·Kore.ai推出日語虛擬助手平臺2021-02-19 09:12:19
- ·AI驅(qū)動型免費(fèi)WhatsApp虛擬助手問世 2020-11-13 09:57:25
- ·云聯(lián)絡(luò)中心提供商Five9推出智能虛擬助手2020-06-10 09:45:50
- ·三菱UFJ銀行采用AMI公司語音識別技術(shù) 開發(fā)應(yīng)用程序“虛擬小助手”2019-06-17 10:08:01
- ·Endesa利用IBM Watson和IBM Cloud提供客戶服務(wù)2019-05-21 10:09:48
- ·Flamingo Ai推出開箱即用的汽車保險(xiǎn)認(rèn)知虛擬助手2018-12-26 10:19:46
- ·Nuance推出全新認(rèn)知仲裁器2018-01-09 09:46:09
- ·三星語音虛擬助手Bixby登陸美國 成為蘋果Siri新對手2017-07-20 10:12:25
- ·面部模擬技術(shù)使客服Chatbots更接近人類2017-03-27 13:57:59
- ·虛擬助手應(yīng)用中，文本是驅(qū)動交互的關(guān)鍵2016-08-26 15:48:47
