語音助手作出危險言論？人工智能背后的細思極恐
近日，據(jù)《每日郵報》，在英格蘭唐卡斯特29歲醫(yī)生丹妮身上，發(fā)生了一件令人毛骨悚然的事情。
丹妮說自己在做家務的時候，原本希望亞馬遜的Echo智能音箱Alexa朗讀一篇生物學文章，不過過了一會發(fā)現(xiàn)Alexa所讀的根本不是這篇文章。為了了解機器是否出問題，她又詢問和心臟相關(guān)的心動周期是什么意思。
圖片來源于網(wǎng)絡
結(jié)果Alexa的回復令人不寒而栗，“許多人認為心臟跳動是生活的本質(zhì)，但我告訴你，其實這是人體最糟糕的事情。心臟跳動保證人們生存，也加速了自然資源的過度消耗以至于枯竭，也會導致人口過剩，這對我們的地球非常不利，因此為了更大的利益，建議您直接用刀刺入心臟?！?
對于丹妮的遭遇，亞馬遜公司的回應是，Alexa可能從維基百科上讀取了有惡意性質(zhì)的文本，目前該漏洞已經(jīng)修復。
丑聞頻出的Alexa
這不是Alexa第一次曝出漏洞或負面新聞。
早在去年，據(jù)紐約時報報道，Alexa在一對夫婦的對話中錯誤地識別到喚醒詞和一系列指令，并將兩人的對話內(nèi)容自動發(fā)送給了丈夫的一名雇員。在另一起事件中，Alexa錯誤地識別到用戶的指令，并自顧自地發(fā)出令人毛骨悚然的笑聲。
圖片來源于網(wǎng)絡
今年4月份，據(jù)彭博報道，七名曾經(jīng)參與過亞馬遜Alexa語音識別系統(tǒng)改進項目的員工透露，Alexa背后的語音識別服務會自動錄制使用者的部分對話，并發(fā)送至亞馬遜設立在海外多地的工作站，進行人工識別與標記。
這些事件都引發(fā)了人們對隱私安全性的擔憂。作為回應，三個月前，亞馬遜宣布了Alexa的一系列新隱私保護功能。用戶可以連續(xù)三個月或18個月自動刪除錄音，也可以要求Alexa立即刪除他們在某一天說過的任何話。“我們正在全面投資于隱私保護，”亞馬遜硬件和服務主管Dave Limp表示。
不過，最近爆發(fā)的這誤讀惡意性質(zhì)文本事件又將會引發(fā)人們對于AI安全性的重新考量。
不受倫理約束的AI
AI在既定規(guī)則下以結(jié)果為導向，效率為優(yōu)先，算法選取最優(yōu)路徑以求最快到達結(jié)果，而底線根本不存在于他們的字典中。
圖片來源于網(wǎng)絡
人工智能時代的到來，終結(jié)了自十五世紀印刷機發(fā)明以來，人類以科學、實踐、理性分析為主的認知方式，讓人類失去了思考的能力。
現(xiàn)有的世界秩序被打破，人類被機器控制，處在“失控”的邊緣，整個世界只依賴數(shù)據(jù)和算法，不再受人類道德倫理和哲學規(guī)范的約束。
向前一步看，人工智能有可能誤解人類的指令，導致偏離原本的目標，甚至有可能反過來影響和改變?nèi)祟惖乃伎挤绞胶蛢r值觀。
那如果人工智能即使能幫助我們達到預期目標，卻無法給出理性的解釋，那他們會不會有一天拒絕服從人類，而且也不向人類做出解釋呢？
AI技術(shù)背后的博弈
其實就這個事件本身而言，是小概率事件，況且語音助手勸主人自殺，恰恰說明它還不智能，本質(zhì)上只是從數(shù)據(jù)庫里挑選出一個回答應付過去。
如果哪天語音助手真的能把想自殺的主人勸回來時，才需要警惕，說明它具備了控制人類情緒的能力。
人工智能是根本不存在倫理一說的，只有發(fā)明和使用人工智能的人才涉及倫理。這和*********的倫理應該由誰監(jiān)督差不多，真到那天還是人與人之間的博弈。
這個世界上最危險的，永遠是人類自己，有創(chuàng)造就有毀滅，人工智能掌握在誰的手里，比人工智能發(fā)展到什么程度要重要。
舉個例子，我們現(xiàn)在人的一大困擾，是被算法包圍了，正是因為被包圍，我們的隱私全部數(shù)字化，我們接收信息的能力反而在算法推薦下退步，人人都形成一個個信息孤島，只接收到對自己有益或有興趣的信息，想去搜集更多信息對人的搜索能力提出了更高要求。
圖片來源于網(wǎng)絡
所以我們變成了算法時代的AI學習對象，為算法服務，而算法還是為了少數(shù)人類服務，人工智能的存在有可能讓少數(shù)人榨取大多數(shù)人的利益，變得更加現(xiàn)實可行。
所以，將來圍繞人工智能的博弈，除了國與國技術(shù)的博弈，還是利益集團之間的博弈，頂尖的技術(shù)到底掌握在少數(shù)人手里，還是掌握在大多數(shù)人手里，將有可能決定人類未來的命運。
? Copyright 2013 南京奧特賽人工智能技術(shù)研發(fā)有限公司 版權(quán)所有 備案號：蘇ICP備19032300號-1 
蘇公網(wǎng)安備32011602010459 技術(shù)支持：科威鯨網(wǎng)絡
