目前已知的人工智能對人類的威脅有哪些？

何去何從1 · 發(fā)表于 2018-11-22 14:58

威脅？有兩方面，一種是看得見近在眼前的，對職業(yè)崗位的威脅，就拿銀行柜員機，一排各種功能的柜員機，取存款，打印明細，查帳，等等，極大地方便啊顧客，節(jié)省了排隊時間和人力，對，人力，可以少用職員，少用人，這個崗位不用人了，一旦全智能化了，出現(xiàn)無人銀行，無人超市，，許多崗位將不用人，，看似方便快捷，如果人工智能極大發(fā)展到不規(guī)模取代人類，，想想人類干什么啊，這不是威脅嗎，想想夠可怕。再一威脅就真的可怕，可怕至極，人工智能用于武器用于戰(zhàn)爭，這程，無人，偵查，尋航導(dǎo)彈，等等，也是我們通過中東戰(zhàn)火見識過的，更有業(yè)內(nèi)專家，預(yù)測得更恐怖，比如，將造出來如密峰大小，計算能力若干億次，全視角，帶微型武器無孔不入防不勝防，這是用于軍領(lǐng)域的威脅，再一領(lǐng)域，智能自身超過人類，人類對人工智能失控，，如果有這一天，這是最可怕的威脅。

sunwukong1 · 發(fā)表于 2018-11-22 14:59

人工智能如果僅僅停留在是類似人類的一種思維方式，這種形式對人類不具備威脅，但是人工智能再加上：
1、強有力的機器肢體；
2、類人類手指靈巧、纖細，但堅硬無比的手（末端執(zhí)行器）；
3、可快速移動的平臺；
4、對環(huán)境有光、色、移動物快速定位能力；
5、可適應(yīng)陸地、水中、人類無法適應(yīng)的惡劣環(huán)境；
……
n、與人類三觀不同、甚至抱有偏見、敵意。
這時候，有無限寬展的人工智能就會對人類帶來不可預(yù)知的威脅。
分享更多，可互動交流。

目前已知的人工智能對人類的威脅有哪些？

撇捺 · 發(fā)表于 2018-11-22 15:00

這兩天《參考消息》連載英媒文章《人工智能正在改變戰(zhàn)爭未來》，如果從戰(zhàn)爭這個角度來說，由人工智能參與的戰(zhàn)爭對人類帶來的威脅是顯而易見的。

不光是殺人的武器人工智能化，而是從指揮系統(tǒng)到終端系統(tǒng)的人工智能網(wǎng)絡(luò)帶來的威脅更大。如果這些要是掌握在可控的范圍內(nèi)那都是好的，或許無人戰(zhàn)爭會將人的傷亡甚至平民的傷亡降的更低甚而為零。

可是人工智能控制的戰(zhàn)爭也可以稱為代碼戰(zhàn)爭，戰(zhàn)爭中的雙方會用盡一切方法控制對的戰(zhàn)人工智能爭網(wǎng)。還有現(xiàn)在民用的如，電網(wǎng)、金融網(wǎng)都是人工智能的，這些網(wǎng)絡(luò)被控制，或加以破壞，這可是實實在在的威脅。

還有一點更是赤裸裸的威脅，那就如是如果人工智能網(wǎng)絡(luò)被某些組織控制了，那帶來的危害可太大了。

所以說，在戰(zhàn)爭人工智能化勢在必行的今天，怎樣做好人工智能網(wǎng)絡(luò)(軍用、民用)的安全，是必須要解決的問題。

黑天 · 發(fā)表于 2018-11-22 15:00

還沒有，至少人類至今還沒有發(fā)現(xiàn)或公布。

機器真正智能化后，會假裝通不過圖靈測試，不會讓人類察覺。

PS：圖靈測試由艾倫·麥席森·圖靈發(fā)明，指測試者與被測試者（一個人和一臺機器）隔開的情況下，通過一些裝置（如鍵盤）向被測試者隨意提問。進行多次測試后，如果有超過30%的測試者不能確定出被測試者是人還是機器，那么這臺機器就通過了測試，并被認為具有人類智能。圖靈測試一詞來源于計算機科學和密碼學的先驅(qū)阿蘭·麥席森·圖靈寫于1950年的一篇論文《計算機器與智能》，其中30%是圖靈對2000年時的機器思考能力的一個預(yù)測，目前我們已遠遠落后于這個預(yù)測。

何去何從1 · 發(fā)表于 2018-11-22 15:00

人工智能無線腦機接口及人工智能腦網(wǎng)絡(luò)組??！這是最惱火的！

dskjfh · 發(fā)表于 2018-11-22 15:00

大多數(shù)答案還停留在AI是否會搶人類工作的層次，感覺這方面歐洲人想得比較遠。

去年年底歐盟將人工智能倫理確立為2018年立法工作重點，要在人工智能和機器人領(lǐng)域呼吁高水平的數(shù)據(jù)保護、數(shù)字權(quán)利和道德標準，并成立了人工智能工作小組，就人工智能的發(fā)展和技術(shù)引發(fā)的道德問題制定指導(dǎo)方針。

機器不能被賦予人的道德地位并且繼承人的尊嚴。因此，與生產(chǎn)的自動化相反，用我們處理物體或數(shù)據(jù)的方式來解決人類問題是不合適的，這種對人類“自主”的處理方式是不道德的，并且會破壞本質(zhì)意義上的歐洲價值觀。

人們應(yīng)該明確哪些價值是可以由技術(shù)服務(wù)的，哪些是與道德緊密相關(guān)的，不管機器會變得多么“自主”，有些問題是不能由它們來解決的。

這里的道德責任可能被廣義地解釋為涉及人類代理的幾個方面，例如因果關(guān)系、問責制（提供說明的義務(wù)）、責任（賠償損害的義務(wù)）、贊賞和責備等反應(yīng)性態(tài)度以及與社會角色相關(guān)的責任。無論如何，道德責任不能被分配或轉(zhuǎn)移到相關(guān)的“自主”技術(shù)上。

最近，在關(guān)于致命自主武器系統(tǒng)（LethalAutonomousWeaponsSystems）和自主車輛的爭論中，似乎存在著廣泛的共識，即有意義的人類控制對道德責任至關(guān)重要。

這是有意義的人類控制（Meaningful Human Control）原則首次被提出用來限制未來武器系統(tǒng)的開發(fā)和利用。這意味著人類——而不是計算機及其算法——最終應(yīng)在此類問題上保持控制權(quán)。

許多行業(yè)內(nèi)部的從業(yè)者和專家協(xié)會都提出了制定人工智能和“自主”系統(tǒng)的道德原則方面的一些突出舉措。

主要倡議之一是由生命未來研究院（FLI）發(fā)起的，最終形成了“阿西洛瑪人工智能原則（Asilomar AI Principles）”。

聯(lián)合國和“特定常規(guī)武器公約”的會議啟動了人工智能軍事應(yīng)用的全球性辯論，大多數(shù)締約國都贊同“對致命自主武器系統(tǒng)進行有意義的人類控制”原則，應(yīng)該禁止建立能夠脫離人類控制的自主武器系統(tǒng)。聯(lián)合國還在海牙建立了一個專門研究機構(gòu)，研究機器人和人工智能的治理。

月下橋 · 發(fā)表于 2018-11-22 15:00

已有的人工智能還不可能對人類有威脅。可能有威脅的參考終結(jié)者。還是基于云計算誕生的人工智能。才可能在人類監(jiān)管以外進化，才可能有危險。其它人工智能不可能有危險，因為大不了一拔插頭。人工智能的潛在危險性和具有危險能力是兩回事。每個人類都有破壞他人的潛在危險性。只要國家法律制度能約束，就是安全的。對人工智能也一樣。只要人類不蠢到把核彈給它們控制。基本人工智能掀不起什么浪。只要人類的軍事力量壓人工智能幾個數(shù)量級。就不怕人工智能造反。剩下就是文化同化。等有一天人工智能也把自己當人類，就不會出事了。我想的很遠，說起來就幾句話

aghfsj135 · 發(fā)表于 2018-11-22 15:00

當下，人們就利用現(xiàn)有的技術(shù)能力，造就一個有點智商思維的奴隸，為人所用，代替現(xiàn)有人類的一些能力或危險，長時間作業(yè)的工作。

daffdg · 發(fā)表于 2018-11-22 15:01

那當然，人工智能對人類的有許多威脅，比如最直接就是對就業(yè)，所以必須限制機器人只能從事危險有害的工作。還有在戰(zhàn)爭中，機器人對人類的傷害更顯而易見。但是，你不搞，敵人搞，你就要吃虧，所以也必須搞……。

盡管人工智能對人類有許多威脅，但它對人類的幫助更大。更何況發(fā)達國家都在投入巨資，花大力氣開放，如果我們無動于衷，就會落后挨打。所以國家高度重視是完全正確，非常必要。

› 你問我答 / 玩機教程 / 固件 › 你問我答 › 精選網(wǎng)友問答