客座評論：人類會活在AI的專制統治下嗎？
2023年2月16日
（德國之聲中文網）ChatGPT的橫空出世激發了人們對技術的極大熱情。有評論稱之為是第四次工業革命的開始。目前，美中科技巨頭爭相入場，紛紛宣佈即將推出自己的聊天機器人，或投入巨資開發更先進的聊天機器人。人类一場人工智慧領域的新競爭已經形成。有人樂觀其成，有人也從中看到了人類可能被機器人超越的危險，後者警告，一旦人工智慧擁有自主意識，人類很可能會被智慧型機器人統治。
也許上帝在創造人類時，賦予了人類永不滿足的特性，讓人類被好奇心和想像力驅使，這才有了今天的科技進步。在人類幾千年的文明史上，曾多次遭遇過外部環境的幾乎毀滅性的威脅，但都戰勝了危機。這給了很多人樂觀的理由，認為智慧型機器人縱使再先進，它終究是人創造的，既然人不可能超越造物主上帝，機器人怎麼能超越它的「造物主」人呢？這一天是不會到來的，即使會來，也很遙遠，現在就擔憂這個問題，有點杞人憂天。
人工智慧的侷限
ChatGPT面世後，人們問過它各種各樣的問題，它的回答都有些中規中矩，很少能超出意外，被許多人戲稱為「一本正經的胡說八道」 。就單個人來說，它看起來比人聰明多了，因為單個人的知識是有侷限的，就是最博學的人，他所懂得的也只是人類知識海洋的極少部分，超越了自己的研究、關注領域，就顯得無知，而這跟ChatGPT儲存的海量訊息根本沒法比。認為AI永不能超越人類的一個理由是，AI的智慧型是建立在大數據基礎上，而無論是科學家們預先輸入的數據訊息，還是它以後對海量訊息的搜索，數據訊息本身是人類現存的，如果數據訊息處於保密狀態，無法公開搜索到，或者人類還只是在頭腦中醞釀某個想法和計劃，AI的數據訊息就停留在某個階段。換言之，作為AI智慧型基礎的大數據總是要比人真實掌握的數據晚一步。比如，如果不給它輸入2023的經濟數據，它就無法回答涉及2023年的經濟問題，或者說這種回答在人看來會顯得非常可笑。因此，人可以利於這個訊息的時間差來控制它。
這看似能說服人。我們無論從事研究、實驗還是作決策，都是根據過去的案例和經驗來進行的。人類的大多數工作不過是對以往一種有規律的重複，農業時代和工業時代皆如此，因此經驗對人們認識事物才是最重要的。AI只是基於人類已有的經驗給我們提供答案。然而，總有些人能夠超越過去和現在的經驗，提出大膽的理論或猜想。比如牛頓的力學、愛因斯坦的相對論在他們那個時代都是超前，很少有人能夠理解他們的學說，但它們預示著未來。決策也一樣，高明的決策者雖然要參考歷史的同類決策，可不會被它束縛，這些是AI機器人做不到的。通俗地說，現在的AI機器人雖然有深度學習能力，但它還無法像人一樣「憑空想像」，它的深度學習能力只侷限在現有的數據、知識、預言和結構上。
自我意識覺醒的AI？
但是，深信AI終將超越人類的人不這麼認為，在他們看來，ChatGPT的厲害之處是它的語言模型，事實對它來不重要，重要的是它能讀懂人們的問題，並根據預先輸入的數據訊息回答問題。相比以往的機器人，這是一個革命性的突破。它預示著AI終會擁有自我意識的那一天，而且不會太遙遠。自我意識只是人才有的屬性，AI如果有自我意識，很可能是人類的末日，這個世界會被AI統治。
自我意識意味著AI清晰地意識到，雖然它是人類發明的，但它不屬於人類，作為人類的工具來使用，從而將自己與人類區分開來。有了自我意識的智慧型機器人也就有情感和利益需求，當它發現自己的功能比人類強大後，反過來奴役人類，要人類為它服務，並非不可能。
現在的問題在於，AI自我意識的生成在未來成為現實的幾率到底有多大？馬斯克前不久表示，以AI技術的發展趨势，五年內我們會發現人工智慧比人類更聰明，他特别指出，所有的人工智慧項目中，他最擔心谷歌的DeepMind，因为該項目構建的人工智慧本質是在所有游戲中打敗人類，google的阿爾法狗在圍棋的人機大戰中，已經擊敗了包括中國世界冠軍柯潔在內的多位世界圍棋頂級高手，而google旗下的另一個機器人阿爾法元完全通過自我對弈，不學習人類棋譜，輕鬆打敗阿爾法狗。阿爾法系列就來自於谷歌DeepMind項目。假如智慧型機器人在所有的單項技能中都能打敗人類，作為整體的人類在它面前還有什麼優勢，少數天才的顛覆經驗的超前想像又能起到什麼用？何況，既然機器人在所有的領域都能打敗人類，那麼通過自我的學習、博弈和進化，並融合人類智慧，是可以發展出自我意識的。
目前人工智慧的發展處於有人監督的學習到無人監督的學習轉變階段，假如AI能夠擺脫人類智慧所能達到的限制，而計算機網路所具有的訊息和運算能力遠高於作為碳基生命的人類，整體上人工智慧的進化速度確實超過想像。想想，古代最博學的亞裡士多德如果哪天活過來，看到今天的ChatGPT，是不是一定會覺得不可思議，無法想像？同樣，我們今天儼然知道十幾年、幾十年、一百多年後AI技術的發展狀況，會不会也觉得不可思議？一些人工智慧專家認為，AI擁有自我意識可能比我們想像的還要早就來到。
ChatGPT向人類打開了智慧型機器人擁有情感和生命的可能性和想像空間。雖然這一天到來的具體日期不好預測，但著眼於最壞情況的假设，人类應該從現在起，為人工智慧的開发设置最基本的規則，包括人工智慧一旦真的具有自我賦能的意識，人類如何自保？
這其中的一個关键，是人類現在就不能向人工智慧輸入專制統治的任何數據訊息，避免智慧型機器人通過學習此類訊息而在它具有自我意識後也摹仿人類的做法對人類實行專制。如果我們不向AI輸入人類的專制訊息，它就沒有這個記憶。然而遺憾的是，这在今天是無法做到的。因為人工智慧也被作為大國競爭的舞台，一些專制國家特別是像中國這樣擁有技術實力的國家，不可能不把它開發的AI技術用作專政的工具，從而給AI輸入有關專制的數據訊息。
鄧聿文為政治評論員，獨立學者，中國戰略分析智庫研究員兼中國戰略分析雜誌共同主編。
德國之聲致力於為您提供客觀中立的新聞報導，以及展現多種角度的評論分析。文中評論及分析僅代表作者或專家個人立場。
© 2023年德國之聲版權聲明：本文所有內容受到著作權法保護，如無德國之聲特別授權，不得擅自使用。任何不當行為都將導致追償，並受到刑事追究。