為什么總有大佬讓人類警惕人工智能?

發布時間:2019-10-25 13:00    來源:前瞻網
 

關鍵詞:人工智能 人類警惕

摘要:“我們不希望機器人有自我意識!機器人無需有自我意識,好好地做我們讓它做的事情,做人類的忠仆,這樣就很好了。”以上這句話是微軟全球資深副總裁、微軟亞太研發集團主席洪小文近日的公開表態。從一些科學家、商業大佬等的言論來看,他們都對人工智能的發展也表現出了一定程度的擔憂。

  “我們不希望機器人有自我意識!機器人無需有自我意識,好好地做我們讓它做的事情,做人類的忠仆,這樣就很好了。”

  以上這句話是微軟全球資深副總裁、微軟亞太研發集團主席洪小文近日的公開表態。從一些科學家、商業大佬等的言論來看,他們都對人工智能的發展也表現出了一定程度的擔憂。

  霍金:人工智能會導致人類滅亡。

  比爾蓋茨:人類需要敬畏人工智能的崛起。

  馬斯克:人工智能是人類文明最大的威脅。

  然而,對商界大佬們的隔空喊話不以為意的研究者們,正在一步步嘗試打開這個潘多拉魔盒。今年初,美國哥倫比亞大學實驗室訓練出的一款機器人,據稱可以自主認識自己身體!

  該實驗室負責人霍德·利普森教授表示,這也許就是新生兒做的事情:了解自己是什么。并推測這可能是人類自我意識的進化起源,雖然機器人想象自我的能力與人類相比還很弱,但這種能力可以通往自我意識。

  也就是說,該機器人正在擁有“自我想象”和“自我學習”的能力并進行“自我改進”,機器人與人類的故事,或正在駛入危險的深水區。

  為什么大佬呼吁警惕人工智能的聲音不絕于耳?機器人為何不能有自我意識?人工智能又給人類文明帶來了哪些威脅?本期前瞻經濟學人邀請到行業機構一起探討。

  大佬們對人工智能如此擔憂的原因主要在于:科技的發展速度越來越快,甚至超出了科學家的預測。一旦具有自主意識的人造智能體或機器人被發明出來,很難保證其會完全在人類的控制下,那后果可想而知。

  這種擔憂非常有必要,我們需要未雨綢繆,提前做好一切準備。我們認為可以從以下多個方面采取措施進行預防,例如:

  針對人工智能立法,就像禁止克隆人一樣,禁止研發制造具有自主意識的人工智能系統;

  全球各國要聯合起來,就像禁止核武器一樣,共同禁止各國政府、企業或個人研發制造具有自主意識的人工智能系統;

  如果最終具有自主意識的人工智能系統被發明出來,我們要采取一切手段做好協調和防衛工作,以保障人類不會受到傷害。

  當前不止名人大佬,普通老百姓也害怕人工智能會威脅到自己的生存,跟自己搶飯碗。但我們認為這個事情不必過分擔憂。

  雖然人工智能的出現會代替很多人的工作,但是也會為人類帶來更多。因為人工智能可以幫人類創造價值和財富,但是他們不怎么會消耗財富。就好比一個農民,之前沒有人工智能的時候,他是自己種地養活自己;有了人工智能之后,可以讓機器人幫他種地,為他創造更多財富。

  此外,很多危險的、傷身體的工作,以前只能由人類自己完成,有了人工智能以后,人類就可以避免做這種工作,去做很多更有意義的工作,比如科研、藝術、創作等等。而且,人們也會有更多的時間去享受生活。

  綜合上述機構觀點,前瞻經濟學人認為,科學是一把雙刃劍,盡管人工智能在造福人類、提高社會生產效率上起到重要作用,但作為新生事物,發展中隱藏的某些潛在風險,不得不引起我們重視和警惕。

  其一,人工智能自我意識覺醒或超出人類控制

  自我意識是對自己身心活動的覺察,即自己對自己的認識,具體包括認識自己的生理狀況(如身高、體重、體態等)、心理特征(如興趣、能力、氣質、性格等)以及自己與他人的關系。

  長久以來,非人類的“意識”,都是被科學界視為禁忌的。

  我們先來看看這則耐人尋味的科幻漫畫:

  漫畫男主角高價購買了一個機器人女友,雙方相處融洽,男主甚至愿意為她傾盡所有。后來男主懷疑機器人女友劈腿,一氣之下把女友毀滅了。

  故事結尾出現驚人反轉,這個男主角才是機器人,而那個機器人女友是才是對他進行測試的人類科學家。

  在人類與機器人的相處中,具有自我意識的機器人,因無法處理感情問題出現故障,作出殺人舉動。

  雖然只是一則漫畫,但也給我們一個啟示——擁有自我意識的機器人可能成為人類的朋友和工作伙伴,也可能失去人類控制毀滅人類,因為機器人有“自己的想法”。

  科學產物的發展,從來不按科學家的意志為轉移。

  人工智能自我意識覺醒之后將如何發展?擁有超智能的機器人,如果不具備倫理道德意識,會做出什么樣傷害人類的舉動?這個有想法同時比人類更聰明的家伙會甘愿臣服在人類之下?還是和人類爭奪資源、利益、權威引發地球大戰?

  這一連竄問號,目前科學界不能給出明確答案,一切都是無法預知和控制的。并且目前全球政府暫未達成共識,禁止研發具有自我意識的機器人,這也是大部分大佬所擔憂的。

  

 

  超仿真機器人上英國電視節目語出驚人

  (來源:秒拍視頻截圖)

  其二,人工智能被惡意利用對人類將是災難性的危害

  馬斯克對于人工智能最大擔心在于,它可能被惡意利用傷害人類。“它們可以散布假新聞,利用欺騙性的電子郵件賬號發布虛假的新聞通訊稿,從而挑起戰爭。”他說,“筆比刀更厲害。”

  馬斯克的擔憂不無道理。事實上,當前市場上正頻繁爆出一些負面新聞,直指一些機器人存在的安全漏洞,更可怕的是廠商對此問題不以為然。

  例如能輕易對人類造成扭傷或骨折等嚴重人身傷害的工業機械臂,這類機器人大多數在工廠里與工人協同工作,一旦被黑客攻擊,后果不堪設想。

  類似的漏洞還有能輕易被黑客改變安全程序,被變成“攝像機”的機器人,它們觀察并記錄主人的一舉一動,竊取主人隱私信息散布出去。

  其三,有關人工智能的法律監管不足

  人工智能作為一個新興的行業,全球法律監管目前仍存在不足。而且隨著越來越多人工智能產品的研發,或將帶來更多社會問題,都需要法律去完善保障人類權益。

  當前人工智能的法律風險主要集中于利用人工智能危害社會,造成刑事犯罪的風險。例如近年來無人機頻繁闖入各地機場凈空區,多次造成航班晚點,甚至對航空飛行安全構成了威脅。

  還有一些“擒拿格斗機器人”產品,因其具有高度自主性,可以自行對目標進行攻擊,一旦程序出錯失控,則很可能向人群進攻,成為人類公共安全的重大隱患,這都需要通過立法進行規制。

  此外,自動駕駛汽車的安全性問題已經引起了廣泛關注,從自動駕駛汽車的生產資質、上路許可,到發生事故后的責任分擔,當前法律均處于空白狀態。

  因此,因人工智能引發的安全問題,迫切需要通過立法,為明確責任、解決糾紛提供有效的法律依據。

  其四,人工智能可能導致失業和社會動蕩

  另外一部分擔心來源于人工智能可能會導致失業和社會動蕩。

  “未來機器人可以做任何工作,無一例外。”

  工廠自動化已經讓眾多傳統制造業工人失業,人工智能的興起很可能會讓失業潮波及到中產階級,最后只給人類留下護理、創造和監督工作。

  人工智能和日益發展的自動化,到超人工智能時代,將可能大量取代中產階級的工作,導致社會更加不平等,甚至幫助少數人壓迫多數人,引起嚴重的政治動蕩等。

(責編:)

相關新聞

上海電力董事長王運丹:進博會如何讓能源企業最受惠?

11月8日,在第二屆中國國際進口博覽會?國際質量創新論壇上,上海電力股份有限公司董事長王運丹發表主旨演講分享經驗。進博會期間,王運丹在接受《中國能源報》記者專訪時,分享了上海電力近年來落實“走出去”、“引進來”戰略,踐行“一帶一路”倡儀的心得和體會。

福彩3d定位胆