人類智慧和人工智能的未來

人工智能領域非常令人著迷，也很奇幻，發展過程充滿了起伏波折，每次高潮都有名人預測一段時期后會發生不可思議的奇跡，而之后又總是讓人有點失望卻無法放棄。這樣的故事情節是大數據、算力和算法發展的結果。如今大數據已經不再成為問題，算力也在日新月異地快速提高，多種量子計算原型機已經設計完成，不遠的未來即可投入商業使用。

英國數學家馬庫斯·杜·索托伊《天才與算法》是一本詳細了解人工智能算法最新發展狀況的很有價值的科普書。作者通過分析算法在棋類比賽、數學證明、繪畫、作曲、內容創作、翻譯等需要人類創造力領域的進展，對比了人類思維與AI數學思維的異同點，幫助讀者客觀地了解和評估AI技術的發展路徑和對人類的影響。

人們對AI未來發展能否達到人類智慧的一個主要爭議是認為機器學習的結果是個“黑箱”，人類無法了解智能機器正確解答問題所依據的原理是什么。還有人堅持認為機器不會自動學習，它們只能在人類的安排之下學習和工作，因此AI永遠無法趕上人類智慧。這些觀點已經落后于AI實際進展了。以AlphaGo為例，人們本來認為這種沒有固定棋路的博弈與國際象棋不同，AI無法勝任，結果是它戰勝了圍棋九段高手。新版本AlphaGo Zero可以在沒有學習任何人類對戰數據的情況下，在幾十天內變得比AlphaGo強大得多。這代表著AI可以從一無所有開始，通過學習或訓練自己來打敗人類專家。對于很多人來說，幾十天的學習大概只能達到圍棋入門水平。

人類不能解釋AI根據機器學習做出的行為，其實并不是一件很令人驚訝的事情。仔細想想，我們其實在很多情況下也不明白自己會這樣想或者那樣做。但是人類不同之處在于擅長“歸納總結”，會編造一套理由解釋自己的想法或行為。而人工智能機器不具備這樣的動機去和人類互動。只是它不會說話，人們不知道它總結出來的“模式”或原因是什么。而很多時候，人類認定的理由或解釋也并不正確，這就是認知的發展過程。另一個人機差異是人類隨時都在利用外部輸入和自己感知的信息在進行模式學習和識別，這就是總結歸納和推理以及記憶過程。擅長這樣做的人顯得比別人有知識或者更聰明。機器學習其實也是采用同樣原理和過程，但是大多數人工智能學習還處于被動階段。如果機器和人類一樣不斷接受外部信息，自動學習、反饋調整和總結，AI顯然比人類更勝一籌。

從書中提供的AI在創造力方面的實際案例可以看出，智能機器和人類思維的一個不同點是機器沒有不可涉足的思維盲區。而人類因為大腦受到千百萬年進化的影響，形成了必須依賴情緒和動機的思考模式，這種依賴又變成了一套固定模式，限制了人類可以探索的很多領域。AI算法走出的棋步、作畫和譜曲的風格、形成的文字內容，會讓人們在吃驚之余，認識到那些被人類忽略的可能性，可以說，人類從中認識到了自身的局限性和不足。這種不斷突破原有系統的約束而得到的無窮創意超過了人類能力。

人工智能算法已經侵入最依賴人類智慧的領域，以作者的數學專業來看，通過算法進行數學證明已經完全沒有實質性障礙。人工智能近年來在人類擅長領域的突飛猛進開始引發人類深深的憂慮。人工智能在作曲、文學、繪畫等方面不受任何局限的創造力，可以創作出很多超現實作品。在實驗室里，研究人員發現一種新算法可以在與數據交互時做出動態調整，一段時間之后，連當初開發它的程序員可能都無法理解算法所做的選擇了，智能機器之間甚至可以形成一種人類無法理解的交流方式。

如果機器和機器，或者機器和人類之間可以交流，那時候，在智力層面將無法區分人類和機器，而且機器在很多方面會超越人類。這就是庫茲韋爾說的“奇點”，這一奇跡的到來似乎并不特別遙遠。人類的群體行為是受到倫理和法律限制的，而機器既沒有情緒和同理心，也沒有任何形成規范的客觀環境。如果人類失去了對機器自主學習算法的控制，智能機器是否能夠形成和人類社會兼容的行為規范？人類是否能夠對機器自主學習算法設定更高層次的限制，劃定一個機器無法逾越的行動界限呢？隨著人工智能算法的快速發展，這些問題變得越來越緊要了。