根據墨菲定律，凡是可能出錯的事必定會出錯。武器的智能化程度越高，其內部電腦控制軟件的規模就越大、越復雜，出現故障的概率也就越大。在成千上萬條命令代碼中，即使搞錯一個符號，在特定條件下一旦觸發這個錯誤，整個系統就可能要么停止運行，要么出現意外舉動。試想一下，智能武器一旦“腦子”出了問題，就像人發了瘋一樣，拿著武器不分青紅皂白地一頓狂掃，那會是一幅多么可怕的場景！

智能武器受到復雜電磁環境干擾而失控。據一名剛從伊拉克歸來的美軍軍士描述，他的“魔爪”機器人如果受到無線電干擾，就會出現“行為異?！?。另一名軍士講述，如果他的機器人沒有信號，就會“變得古怪”。按理說，如果由于某種原因使得信號受到干擾或被中斷，機器人應該停止行動才對。當追問軍士“古怪”究竟是什么意思，他回答說：“它會偏離道路，沖你而來，四面旋轉等等?！蔽磥響馉幹?，戰場電磁環境只會變得越來越復雜，智能武器能不能適應復雜電磁環境，能不能在強烈電子干擾條件下，實時接收人類指令并精準執行作戰任務，這都需要經過大量的試驗和實戰檢驗后才能得出結論。

智能武器也可能因為判斷失誤而出現失控。戰場上的敵我識別不僅對于人類士兵來說是件難事，對于智能武器來說同樣也不好解決。美國軍方一位機器人項目負責人說：“機器人戰士可以發現一個人并確定他的位置，然后殺死他。但問題是，怎樣才能不誤傷自己人。對于人類來說，區分敵人和自己都很難，更何況機器人?！?/p>

事實上，人工智能控制的武器由于判斷失誤，已經造成巨大慘案。1988年7月3日的波斯灣，美國海軍“文森尼斯”號巡洋艦正在海上游弋執行巡邏任務。該艦因裝備了自動化程度極高的新型“宙斯盾”防空系統，綽號為“機器人巡洋艦”。這時，該艦突然發現一架伊朗民航的A300客機將飛過上空。雖然艦上防空系統處于半自動模式，但電腦系統將客機識別為伊朗空軍的F-14戰斗機，結果艦長授權開火，發射“標準”防空導彈擊落了客機，造成機上290人全部遇難，包括60多名12歲以下的兒童。無獨有偶，發生在伊朗客機身上的悲劇，在近20年后的2003年伊拉克戰爭中又再次復現。當時，美軍“愛國者”導彈把兩架盟軍飛機，當成伊拉克的“飛毛腿”導彈擊落。

智能武器因無限自我繁殖而失控。自我繁殖可能是未來納米級智能武器的一種高級功能。納米機器人借助陽光、塵土、海水等物質和能量，可像細菌一樣自我繁殖。殺不絕的納米機器人軍團自然是威力無窮，但一旦失去控制，后果也是不堪設想的。據專家估計，一個失去控制的正在自我復制的納米機器人，完成130個復制周期只需要3個半小時，考慮到納米機器人向外移動擴張等因素，最多只需數周時間就可以摧毀地球上的一切生物。

智能武器因具備獨立意識反叛人類而失控。從目前來看，普通電腦的運算結果仍然是明確和可以預見的，因而是可控的，但未來隨著人工智能水平的持續提高，特別是具備自學習和自進化能力后，電腦的“智商”不斷提高，極可能出現類似人類“思想”的高級思維活動，以及只有人類才具備的喜怒哀樂、自我認同、妒忌羨慕、征服欲望等復雜情感。那么，運算結果就可能是不確定和不可預測的，正是這種隨機的不確定性思維，潛伏著機器人威脅人類安全的危險因素。這就是未來高級智能武器可能失控的內在技術原理。目前，科學家正在制造可以產生類似人類無意識反應的機器人，機器人在緊張時會出汗，聽到恐怖故事時甚至會起雞皮疙瘩，這或許是機器人邁向具備人類思想意識的第一步。

科幻電影《終結者》中的“天網”，原本是軍方的作戰網絡，后來由于具備自我意識，演變為未來世界機器人的首領，指揮著機器人到處消滅人類。據媒體報道，美國科學家公布了一項“機器人大腦”計劃，擬制造巨型中央知識處理器以支持世界各地的無數機器人。研究人員稱，“機器人大腦”是一套大型計算系統，可以將互聯網資源、計算機模擬以及機器人試驗中得到的機器人知識，積累成一套全面互聯的知識庫。世界各地的機器人可以與之聯網，學習如何倒飲料、如何收拾餐具等一些機器人基本技能。設想一下，一旦這臺“機器人大腦”通過不斷進化，功能越來越強大，具備了獨立的自我意識，以及戰術設計和戰略決策能力，完全有可能將與之相聯的其他機器人控制并組織起來，形成強大的機器人軍事力量，一起反叛人類。

需要指出的是，智能武器的全面失控，首先應該是由局部失控開始的，有一個漸變過程，這就為人類覺察和控制失控局面提供了機會。如果人類及時采取各種措施，如啟用機器人自毀程序，或用其他機器人“鎮壓”反叛機器人，就可以避免全面失控的出現。科幻作品描述的人類在城市廢墟中到處被機器人追殺的世界末日場景，成為現實的可能性不大。

轉載請注明：北緯40° » 智能武器是人類的福祉還是災難？