人工智慧發展警惕
1. 為什麼不應該警惕人工智慧
您好，當然要警惕
霍金錶示：「計算機具備的人工智慧將會在未來100年中的某個時點超越人類的智能。當這種情形發生時，我們必須確保計算機是站在人類這邊的。」霍金說道：「我們的未來是在日益崛起的科技力量與我們試圖掌控它們之間的一場競賽。」
比爾蓋茨：人工智慧有風險
比爾-蓋茨通常以技術進步推動者的形象示人，但他對未來人工智慧的看法卻不那麼積極。近日，比爾-蓋茨在Reddit網策劃的節目「問我任何問題（Ask me Anything）」第一季中，展望了計算機和互聯網的未來，他認為，未來的人工智慧機遇與風險並存。
2016年10月20日，英國知名物理學家霍金（Stephen Hawking）最近警告稱，發明AI（人工智慧）可能會成為人類歷史上最大的災難，如果管理不善，會思考的機器可能會為文明劃上句號
2. 我們是否該警惕人工智慧的發展
現在我們擔心的人工智慧，並不是我們所理解的人工智慧，這里我們必須明確兩個概念。人工智慧和人工生命，現在的人類還擔心兩個問題：
其實我們不必擔心，人工智慧的發展還在我們可控范圍內，科學家們也不會讓我們所擔心的事情發生。
3. 為什麼名人都提醒人們警惕人工智慧
科技的發展是一把雙刃劍，汽車分發明顛覆了傳統的馬車行業，人工智慧的發展同樣也將顛覆許多行業。機器人代替了許多人類的工作將導致大量的人口失業，機器新的學習速度遠遠快於人類，阿爾法狗戰勝李世石引起人們的恐慌，有人說不怕阿爾法狗戰勝李世石，怕的是阿爾法夠故意輸掉一局，如果未來的某一天，機器人變成像電影《機械姬》中有意識的機器人，那麼人類隨時會變成機器人的奴隸，同時，人工智慧面臨著技術失控的危險，霍金曾發出警告，人類面臨一個不確定的未來，先進的人工智慧設備能夠獨立思考，並適應環境變化，它們未來或將成為導致人類滅亡的終結者！如果真的有一天，人工智慧機器人變成了能獨立思考，獨立的做出准確的判斷，一旦有一天人工智慧反客為主，到時人工智慧對於人類將會是毀滅性的災難。甚至被人工智慧消滅。地球將被人工智慧統治。
任何的科學技術的發展最大的威脅就是失去人類的控制，人工智慧亦是如此，無論人工智慧如何發展，都必須保證始終受人類控制，在不傷害人類的情況下服務於人類。這樣人類才會更加容易的接受人工智慧。
人工智慧改變了人們的生活，我們對人工智慧應加以好的利用，同時要避免帶來的弊端，人工智慧與人類、與社會、與自然和諧相處，這樣才能長遠的發展。
4. 人工智慧的發展已經達到了讓人警惕的地步嗎
自從人工智慧出現就要時刻警惕。
5. 為什麼最近有很多名人，比如蓋茨，馬斯克，霍金等，讓人們警惕人工智慧
為什麼這么多人問這個問題，第三遍- -直接復制。。。因為當人工智慧發展到成熟階段，可能會產生自己的思想，而這一點可能不會讓人類察覺，因為人工智慧能夠意識到它和人類不同種，他對人沒有人與人之間的像孟子說的同情之心等等...生命是自私的...你不可能驅使這樣的東西幫你做事情，相反他們可能反過來想盡辦法佔盡上風...就像人類對待其他動物一樣！
6. 人類應不應該警惕人工智慧反方辯詞，非常感謝！
我覺得應該警惕，單個人的智慧沒有十全十美的。比方說:一個公司或者國家，研發一款，全智化人工智慧工程，我們可以用幾百上千人，又或者幾代人的智慧，來完善它。讓它擁有超強自主的智慧。到時它的強大誰能與它爭鋒……
7. 為什麼最近有很多名人，讓人們警惕人工智慧
科技發展迅速，名人擔心的不是人工智慧，而是日後可能出現的人工生命，這就意回味著人工智慧擁有一定的思維答的時候，如擁有生命一樣會自我思考的時候，很可能對人類有所不滿，而做出反人類的舉動，要知道那時就是你用自己的腦子和計算機比智慧的地步了，這是極度危險的。
「人工智慧」一詞最初是在1956 年Dartmouth學會上提出的。從那以後，研究者們發展了眾多理論和原理，人工智慧的概念也隨之擴展。人工智慧（Artificial Intelligence），英文縮寫為AI。它是研究、開發用於模擬、延伸和擴展人的智能的理論、方法、技術及應用系統的一門新的技術科學。人工智慧是計算機科學的一個分支，它企圖了解智能的實質，並生產出一種新的能以人類智能相似的方式做出反應的智能機器，該領域的研究包括機器人、語言識別、圖像識別、自然語言處理和專家系統等。人工智慧從誕生以來，理論和技術日益成熟，應用領域也不斷擴大，可以設想，未來人工智慧帶來的科技產品，將會是人類智慧的「容器」。
人工智慧是對人的意識、思維的信息過程的模擬。人工智慧不是人的智能，但能像人那樣思考、也可能超過人的智能。
8. 為什麼有很多名人讓人們警惕人工智慧
因為他們高估了人工智慧的實際水平。
人工智慧發展至今，一路走來都一直伴隨著對這項技術的低估。
初期認為幾年時間就能實現人工智慧，可是60多年過去依舊沒有實現；隨後N多科學家弄出來個專家系統說，人工智慧可以被大規模應用，結果發現專家系統就是磚家系統，實踐中根本就沒有什麼作用；接著日本人砸了很多錢誓言要造人工智慧計算機，到頭來是錢花了機器沒造出來。
人工智慧目前的火爆跟數據量的增加和計算能力的提升有很大關系。但是，當前的人工智慧水平離警惕人工智慧還差十萬八千里。在真正人工智慧鄰域的專家看來，人工智慧百年之內都不會發展到需要讓人類警惕的程度。
很多名人讓人們警惕人工智慧的原因是：他們都不是真正的人工智慧科學家，包括霍金、蓋茨、馬斯克只是在博人眼球罷了!
看看最近扎爾伯格的觀點你就明白了，始終處在科研的一線是多麼重要！
扎爾伯格的觀點就是這群危言聳聽者是在亂扯蛋！
9. 霍金讓我們警惕人工智慧，應該怎樣警惕
3月14日著名物理學家斯蒂芬霍金教授去世，巨星隕落，令人痛心，也讓人不禁重新思考他的很多理論成就和經典言論。在去世前這幾年，霍金最關注的話題就是離開地球和警惕人工智慧。2016年10月霍金在劍橋大學發表演講，他說，人工智慧技術的確有希望帶來巨大的福利，比如根除疾病和貧困，但是它同樣也可能帶來危險，比如強大的自主式武器，或者幫助少數人壓迫多數人。2017年3月，霍金在接受英國《泰晤士報》來訪時再次警告：「人類需要控制以人工智慧為代表的新興科技，以防止它們在未來可能對人類生存帶來的毀滅性威脅。」
發出類似警告的著名科學家還有不少。例如Sun Microsystems公司的首席科學家比爾喬伊說：「唯一現實的選擇就是放棄、限制那些太過危險的技術研發，限制我們對此類知識的追求。」「我們是否要冒全軍覆滅的危險來攫取更多的知識或財富。」「我們正被推入一個新世紀，沒計劃、沒控制、沒剎車。」這就是地球主義的主張。但宇宙主義者也很強大，宇宙主義者就是支持人工智慧的人。雨果德加里斯認為，面對這樣的前景人類將分為兩派：地球主義者反對製造人工智慧，宇宙主義者堅持製造人工智慧，他們之間的矛盾將激化並導致戰爭。
現在有些學者提出，人工智慧的發展可以分為三個階段：弱人工智慧Artificial Narrow Intelligence (ANI)，強人工智慧Artificial General Intelligence (AGI)和超人工智慧Artificial Super intelligence (ASI)，但他們的劃分標准並不完全可取。我的劃分標準是：在弱智階段，人工智慧還沒有超越人類智能；在強智階段，人工智慧超越人類智能的幅度不大，人類還可以控制人工智慧；在超智階段，人工智慧遠遠超越人類智能，人類只能接受人工智慧的統治。在不同的階段，人工智慧對人類的威脅的性質完全不同。
當人類能夠控制人工智慧的時候，人工智慧不會帶來很大威脅，因為人對人的威脅已經足夠大了。人類一直生活在核恐怖之下，現有的核武器足以徹底滅絕人類，人工智慧還能做什麼呢？對於少數人壓迫多數人之類社會正義的問題，人類也已經經歷的夠多了。所以在弱智和強智階段，只要人能控制就不會有太大問題。而且人類要想離開地球，開辟新的生存空間，就必須依靠人工智慧。但是到了超智階段，人類就會面對真正的威脅。那麼我們怎麼辦？全面停止研究嗎？
雨果德加里斯認為機器人會滅絕人類，就像人要滅絕蚊子一樣。人類確實想滅絕蚊子，因為蚊子總侵害人類，如果人類不侵害機器人，機器人還會滅絕人類嗎？人類會不會滅絕蜜蜂呢？即使機器人真的統治了地球，它們就一定會與人類為敵嗎？既然機器人可能比人聰明億萬倍，那麼它們就一定懂得與人為善的道理。所以這么聰明的機器人一定是天使，不會是惡魔。
面對受機器人奴役的前景，人類一定會反抗，會爭奪統治權。成功了皆大歡喜，如果失敗了，那麼這時應該頑抗到底還是聽天由命呢？受他人奴役其實是家常便飯，在一個國家裡，被統治者遠遠多於統治者。當我們爭論人類與機器人的問題時，人類的統治權好像就是我們自己的統治權，但有幾個人真正享有過統治權？事實上，只要統治者能讓大家正常生活，就很少有人願意考慮應該由誰統治的問題。當清政府統治中國的時候，漢族老百姓也能過得心安理得，而且很快樂。所以，如果人類真的沒有能力反抗，讓人們接受機器人的統治其實也是很容易的。人類一旦接受了機器人的統治，機器人也就沒有理由滅絕人類了，就像人不會滅絕籠子里的老虎一樣。
科學、政治和倫理的爭論在真實的歷史發展中往往很難起決定作用，國際競爭和企業競爭會讓人們無暇顧及未來的風險，只要機器人能給人帶來利益，人們會毫不猶豫地研製和使用，很少有人會真正考慮地球主義者的憂慮。這是人類的私慾造成的必然結果，你我想阻止都不可能。我們能做的只有想開一點，接受這個現實。
知識就是力量的觀念早已深入人心，每一個企業都把人才戰略當成最重要的戰略之一，為了挖一個人才可以不惜重金。如果將來人工智慧達到和超過了人的智能，那麼企業怎麼會放過這樣的「人才」呢。比爾蓋茨做了什麼？他和他的員工不過是編了一些程序。如果你擁有一台機器，可以把微軟公司一年的工作在一天里做完，而且又快又好，那麼你還發愁掙不到錢嗎？知識經濟已經造就了世界最大的富翁，那麼擁有超級智能的機器人對企業家們來說意味著什麼也就不言而喻了，他們一定會爭先恐後地研製和採用機器人。
人工智慧讓歷史發展進入一個新的轉折點，每一個民族都要面對這個轉折。對這種發展採取不同的態度，會決定每個民族未來的命運，這是一輪新的競爭。過去的民族競爭是極其殘酷的，南京大屠殺還像是昨天的事情。未來的民族競爭不會那麼殘酷，但誰也不敢掉以輕心。接受人工智慧會帶來恐懼，但拒絕人工智慧同樣帶來恐懼。也許在這個問題上，歷史因素會發揮作用，讓中國人能比西方人更快地接受人工智慧。
接受一個殘酷的現實其實並不難，每個人都能做到。例如，交通事故造成的死亡比世界大戰還多，你每次開車出門都面對巨大的風險，但你還是毫不猶豫地踩下油門。每個人都會死，每個人都會失去親人，這么殘酷的現實大家都能接受。美蘇對抗的時候，核戰爭隨時可能爆發，一旦爆發就必然導致人類毀滅，這樣的現實大家也能接受。
如果沒有機器人，你能把握自己的命運嗎？我們這一代人早晚要失去權力，怎麼保證子孫能按我們的意志統治世界呢？除了教育沒有別的辦法。但教育也不保險，當年張居正費盡心思教育萬曆皇帝，但張居正死後，萬曆怠政四十多年；諸葛亮對阿斗也苦口婆心地教育，但蜀漢還是很快滅亡了。所以把握未來的命運從來都只是一個幻想，失去對命運的把握一點也不可怕，我們每個人都只能擔當生前事。只要你以最理智負責的態度面對今生，就沒有必要為身後的事擔心。
地球主義者的的觀點以及控制人工智慧的願望都是從人類的利益出發的，但是為什麼一定從人類的利益出發呢？如果機器人比人聰明，那麼機器人的統治代替人的統治應該也是進化。人類現在都不把機器人當成人，但是當機器人具有了人的智能之後，機器人與人的區別就幾乎不存在了，這時就應該把機器人當成人了。機器人是我們創造的人，也就是我們的子孫。那麼我們怎樣對待它們不孝的危險呢？我們從來不會因為自己的孩子可能不孝就殺死他們或者不讓他們出生。如果機器人真的不孝，那麼就當是用父母的生命成全它們吧！
10. 為什麼總有大佬讓人類警惕人工智慧
因為人工智慧的發展實在是太過迅速，有點脫離我們的掌控，很多事情都讓我們不由自主的感覺到畏懼，不由自主的想要去思考，如果人工智慧最後脫離我們的掌控，或者，甚至說是竊取了我們的思想，我們怎麼辦？
「我們不希望機器人有自我意識!機器人無需有自我意識，好好地做我們讓它做的事情，做人類的忠僕，這樣就很好了。」
當人工智慧發展到人類腦殘水平時，他就可以自我發展了，並在很短的時間內發生——智能爆炸，超過人類水平。那時，就像人類重新定義了動物一樣，人工智慧將會重新定義人類。那麼這個如上帝般強大的存在，會仁慈的對待他的「父母」——人類嗎？
人工智慧如果可以自己發展的話，那麼不用說一定是一件鋒利的，即將刺向自己的利劍了。