反思人工智能的進化：機器是如何超越人類能力的。

無論您的背景如何，您可能都想知道人工智能是什么，它如何影響您的工作、業務或社會。這是一個沉重的話題。

人工智能對社會經濟產生的影響日益成為公眾討論的焦點。今年夏天，亨利·基辛格對這個話題進行了反思，揭開了一場熱烈討論的序幕。在《大西洋》2018年6月刊中，美國政治家、前美國國務卿基辛格先生對人工智能做出了非常精彩的論述。他著重強調了他的擔憂，認為我們毫無準備，而啟蒙時代即將結束。

人們可以看到，同樣的恐懼和警告在夏天重復發生并得到進一步闡述。在一本出版物中，表達了AI可能使思維變得無關緊要的觀點。另一份出版物關注的則是 AI 是否以及如何最終結束民主。

在您詳細閱讀之前，我分享一下我的觀點吧：很多公眾討論都是基于今天的能力廣泛的推斷不久的將來。由于許多作者最終做到了將算法人性化，因此這些推斷很容易這一觀點。所以，這些說法可能都很好的表述了事實，但并沒有良好的判斷基礎。

類似的，許多人同樣將 AI 視為某個領域的單一產物。但事實并不是這樣。更糟糕的是，您的其他信息可能來源于提供 AI 產品或服務的組織的營銷部門。

事實上，正是這次公開討論促使我寫了這篇文章。當您注意到，您已經開始為機器賦予人類特征，您可能不會開啟啟蒙之旅。

要從技術的潛能中受益，您最好先努力理解它。我會盡力幫助您了解什么是 AI。我會讓您自己得出進一步的結論。

我們首先了解 AI 的定義（有點無聊？）

從非正式定義角度，人們可能會說人工智能是機器表現出來的智慧，或機器模仿與我們人類相關的“認知”功能。它可能涉及玩戰略游戲、自然語言處理、車輛駕駛等主題。

這個定義可能令人驚訝的一點，就是它隱含時間限制。1990 年或 2000 年人工智能傳遞的內容都已經不再符合今天的宣傳，因為它已經變得司空見慣。我們不會把 OCR（光學字符識別）當作 AI。即使它搭載了深度學習和 TensorFlow 也不例外。

一旦我們熟悉某項新技術后，就不再認為它需要人類認知。該領域的人甚至創造了 AI 效應一詞：“AI 就是我們尚未完成的一切。”

如果您查找更科學的定義，您的教材（或維基百科）可能會將其稱為智能代理研究。如果您的教材較新，可能會將其解釋為理性智能代理。這樣的智能代理可以是任何實體，或者說是一個能夠感知其環境，并采取行動使其在某個目標上的成功最大化的設備。這樣的智能代理可能能夠學習，機器學習 (c. 1959) 隨之誕生。他們可能能夠利用先驗知識，知識表示和推理隨之誕生?；蛘咂渌芰?– 我們稍后會細細講到。

經過一番思考后，您可能會注意到上述更科學的定義實際上相當廣泛。也理應如此。您不希望基于特定方法或單一方法定義研究區域。更明智的做法是從研究目標出發，創造具有理性行為的智能代理。

無論如何，一個簡單的反射智能代理 – 比方說一個自動水龍頭 – 就符合這個定義。它現在不是領先技術，但它曾經是。

這就使得“人工智能”這個詞聽起來有點模糊？

我們對人工智能的非正式定義是，幾乎沒有任何東西符合標準，而更正式的描述似乎又認同幾乎所有東西都可以稱得上是人工智能。

當然，人們可以使用當前的尖端技術，并列出您認為屬于 AI 方法的清單。遺憾的是，這可能并不會加深我們的理解（這只是一個清單）。此外，該清單依然存在時間限制。當前的領先技術在未來數年內可能就過時了。

AI 不是一個單純的概念

AI 絕不是一個單純的概念。字面來看：AI 并不是單純的超級智能大型機。

它還存在更進一步的闡釋。您可能不會將 AI 視為單個研究領域或特定方法。實際上，AI 領域吸納了許多廣泛的研究領域，最突出的是數學和計算機科學。許多方法來自其他更深入的研究領域，如心理學、語言學和經濟學或者神經科學等。

是的，生物神經系統學科為人工神經網絡提供了靈感。而如果將這些學科網絡與靈長類大腦進行比較，就會發現二者在結構和功能屬性上存在清晰、明顯的差異。

繼續列出研究領域可能也不會增加我們的理解。最好的辦法應該是觀察可能應用 AI 的不同目標，以及在研究人員和工程師心中 AI 所具備的能力。

推理與規劃

仔細審視 AI 的目標，建立能夠推理和解決問題的機器可能是其首要任務?？梢哉f，這二者都有所裨益。如果您能夠使用先驗知識，它們也將更容易實現，因此應包括知識表示方法。如果您的機器能夠執行部分活動，規劃功能將非常有用。我們還沒有實現學習功能，但我們將需要從博弈論、概率論或決策理論等廣泛的學科中汲取經驗。也許您需要貝葉斯網絡或進化算法來滿足您的目標。當前已經存在廣泛的方法，其中許多方法已經過試驗和測試。

學習

從經驗中學習也可能對我們的智能代理非常有益。實際上，過去幾年，機器學習發展非常迅速。換言之，這是一切模糊的源頭。公眾和學術界都在談論深度學習。也就是說，機器學習具有多層非線性處理單元的級聯，通常采用人工神經網絡的形式。“深度”意味著除了輸入和輸出層之外，還有不止一個處理層。

您可將此類網絡視為一種具有高度表達能力的函數，可將其應用于表示復雜非線性現象。訓練部分實際上是一種優化問題 – 您希望最小化網絡產生的輸出與期望結果之間的誤差。

如果您擁有相關知識，就能夠選擇結構合適的學習任務以及與之匹配的合適的網絡構架。此外，如果您擁有合理、數量可觀的訓練數據（正確的輸入和輸出數據集），即使對于之前未見過的輸入，您的網絡也可學會產生正確的結果。

人們可能將這種能力描述為“習得”，以與“推理”進行區分。網絡能夠學會習得您訓練的任何項目或概念。我們后續再詳細討論。

自然語言理解與感知

事實證明，學習可廣泛用于諸多其他功能方面，例如，自然語言理解或感知。

有趣的是，許多機器視覺問題可能比將人類語音轉換為文本更為容易。結構更簡單的前饋網絡（信息傳播到網絡中的一個方向，即前饋）可能能夠學習對圖像進行分類。先進的語音識別工具則通常基于所謂的遞歸神經網絡（網絡也將信息反饋回其自身）。

要理解單詞或句子，則需要重復這種情況。您可以將其視為一種具有短期記憶的算法，由于能夠提供更多輸入（音節、單詞），因而可以更準確地識別正確的單詞。事實上，在將語音轉錄到文本方面，機器比我們做得更好。

機動性與自主操控

機動性與自主操控功能也可能對智能代理有所助益。它們也是機器人領域的關鍵目標。它可能是觸覺智能或隨機路線圖，也可能包括機器人映射。

傳統上，機器人領域可能與機器學習的關系不大。從控制理論和其他領域借鑒的方法更加成效。您可以使用這樣的方法來創建一個即便在崎嶇地形中行走也不會跌倒的機器人。換句話說，您在 YouTube 上看到的機器狗視頻可能與機器學習關聯不大，它更多是在需要時啟動的預編程算法。

但有一個領域叫做策略學習。在這個語境下，它不是指政治領導人或公職官員。而是說，我們希望我們的智能代理能夠學習一種最佳策略，使其能夠在復雜的動態環境中實現其性能最大化。

強化學習、尤其是 Q 學習等機械學習方法可能適用于這種情況。Q 學習中的智慧是使用一個深層神經網絡來近似得到一個所謂的 Q 函數。這個 Q 函數的預期目的是在給定環境的感知狀態情況下評估特定動作的效用值。如果您已對該 Q 函數已實現充分逼近，則只需要能夠生成所有可能的下一個動作。

要構建一個能夠學習的更復雜的機器人，我們可以使用某種策略學習作為控制機器人動作的更高層次。這將有助于機器人針對不同的場景更好地學習動作。然后我們可能會使用其他技術來執行這些操作，例如“向前邁出一步，不要跌倒”。這些功能都非常復雜，需要大量不同的組件協同工作。

順便一提，如果您嘗試與合適的機器人研究人員談論機器人過程自動化，并且您的機器人沒有考慮物理方面，他或她會對您嗤之以鼻。關鍵的挑戰通常就在于其物理方面 – 如何感知或如何操縱現實世界。不可否認，更復雜的業務流程的自動化也可能涉及許多研究領域，并利用復雜的機器學習模型。

社會認知和創造力

人們仍然會提到一些目前非常明顯的目標，例如創造出具有社會認知和創造力的機器。

幾十年來，我們已經擁有了能夠為數學定理提供堅實證明的算法。這些證據可能是堅實的，但通常不夠簡單、有效 – 也許不是很有創意，存在相當多的試驗和錯誤。

今天更突出的技術是各種推薦引擎，它們使用機器學習向我們推薦新產品和服務。聊天 AI 平臺旨在提供實現簡單對話的工具，例如理解人類情緒或對行為分類。甚至還有一個專門的計算設計領域 – 該領域的工具可用于創建復雜的圖形用戶界面。

當然，我們也看到過一些方法，比如生成對抗網絡，這些方法可用于創建逼真的虛假名人面孔。而更重要的是，類似方法在欺騙其他機器學習模型（例如用于分類圖像的模型）方面非常有效。

例如，考慮一下用于處理保險索賠或金融交易的 AI 工具。如果您的 AI 應用程序容易受到對抗性攻擊并且收益/風險比較高，那么您可能需要仔細考慮如何檢測這些攻擊。它看起來是一個難以攻堅的難題。

初步結論

我們考慮的重點是，構建 AI 系統存在各種不同的方法，如果您希望為現實生活環境創建新的復雜應用程序，就需要研究人員和工程師團隊對這些方法進行精心組合。它不是偶然的。

同時，您還務必要了解到，當前許多相當通用的功能直接適用于您的問題。如果現有方法與您的目標完全匹配，可以直接將其應用到組織的環境中。問題在于您是否熟悉當今可用的各種潛能 – 這是快速發展領域的一大挑戰。

機器在圍棋、DOTA 方面都打敗了我們…

基辛格先生和許多其他作家的論點是，算法已經在很多領域打敗了人類，比如圍棋游戲或者多人視頻游戲（基辛格先生提及了圍棋，而未說起 DOTA）。

這里似乎存在某種的緊急行為，另一方面，似乎沒有什么能阻止這些機器更快地學習。因此，它們將很快在所有人類冒險中超越并戰勝我們，而我們在世界上的角色將逐漸減弱，直至相對無關緊要。

誠然，AI 最近取得的成就非常驚人。由于目前的成績，人類很容易開啟技術人性化研究。但是，這可能無法提高近期功能的外延質量。

如果您詢問這個領域的頂尖研究人員，就會得知我們距離機器在日常工作方面遠超人類還有很長一段距離。

為進一步理解，我們首先考慮一下智能代理未來的運行環境。這些環境的復雜性可能會極大地影響智能代理需要的復雜程度。

復雜還是簡單環境?

Russell 和 Norvig（人工智能 – 現代方法，2009）提出了一種對此類環境進行分類的模型。例如，環境是否具有確定性 – 智能代理是否可以根據它將選擇的操作完全預測環境的下一個狀態？

它是否是靜態的 – 即智能代理考慮下一個行動時環境是否會發生變化？智能代理能否完整觀察此環境？此環境中存在多少智能代理？此環境中是否存在隱藏規則？您是否需要記住過去的動作？它是離散的（更容易）還是連續性的（更難）？

您猜對了：雖然圍棋是一款了不起的游戲，簡單的規則衍生出極端的復雜性；但作為 AI 系統需要掌握的環境，它幾乎符合所有的條件。

不可否認，圍棋是一個多智能代理環境（AI 玩家及其對手），但是它在輪流執子之間不會發生隨機事件，它是離散的，沒有任何隱藏規則，環境則完全可以觀察。

最后，這個游戲無需記憶移動的步驟，因為當前的游戲狀態為您提供了所有的必要信息，可以確定最佳下一步行作。如果是一個大師或 AlphaGo 的某種變種，都可以做到這一點。

簡而言之，您可能會認為 AlphaGo 是一種窮舉方法。AlphaGo用窮舉來實踐和學習更多的人類選擇的可能性，而不是使用窮舉來計算人能力范圍之內的動作。換句話說，在這個相對單純的環境中，機器學習算法能夠比人類更好地評估可能出現的下一步動作。

快速還是慢速思考?

Daniel Kahneman 的系統 1 和系統 2 思維模型為我們提供了更多有趣的觀點（《思考，快與慢》(Thinking, Fast and Slow)，2011）。提醒一下，Kahneman 憑借在行為經濟學方面的成就榮獲 2002 年的諾貝爾獎。

在 Kahneman 的著作中，系統 1 指的是快速、本能和情感思維，而系統 2 則是緩慢、更加慎重的邏輯思維。當然，有人會質疑這是否代表所有人類認知的有效模型，但 Kahneman 的方法確實有其優點。它還為我們提供了一個簡單的框架，讓我們考慮當今可用的機器學習能力。

現代的機器學習系統更注重識別而非推理。也就是說他們專注于系統 1 的思維。例如，機器學習模型可以準確識別游戲中可能出現的下一步動作。它將根據過去學到的知識來實現。但是，它不會進行推理或系統 2 思維。所有工作重點在于培訓 – 應用此模型后，智能代理只需直接識別。

換句話說，如果環境沒有提供良好的學習機會，或者如果沒有預先存在的數據集來幫助識別正確的策略，我們的智能代理將會不知所措。

系統 2 思維在 AI 領域并非全新概念。想想幾十年前，專家系統曾是多項研究的重點。實際上，有些人希望此類系統能夠為辦公室的高度自動化鋪平道路。而事實證明，部署此類系統需要大量的人類工程學。

推斷近期活動功能

現在可能更容易看出推斷錯誤是如何發生的。事實上，我們能夠創建一個基于識別的 AI 系統，在狹窄、有限的環境中贏得人類；但這并非意味著我們能夠將它與其他類型的思維相結合起來，部署到更復雜的環境中，并使其仍然與人類能力相匹配。

當然，我們人類正在挑戰極限。我們希望在不久的將來看到自動駕駛汽車在比圍棋游戲更復雜的環境中運行。這是一個整個巨大的工程和研究挑戰，需要所有行業共同應對。由于其高價值和隨之而來的高投資，我們正在相對復雜的現實生活環境中推進這個單一任務的自動化進程。

我們還希望整合學習過程和學習路徑規劃，或識別和推理等功能。換句話說，構建出能夠有意義地整合系統 1 和系統 2 思維的系統和模型。

然而，這可能比建造自動駕駛汽車更加困難。我們需要循序漸進。

我現在該怎么辦？

目前，我們還沒有具備人類思維層面的 AI 系統。我們離這個目標還相差甚遠?？梢哉f，我們只是比 AI 領域誕生之時更近了一步。可以斷言，路漫漫其修遠兮，充滿了各種未知的坎坷險阻。

我們唯一擁有的，是在特定環境和任務中超越人類能力的機器和算法。這本身并不是新聞，但在過去幾年中，這些環境的范圍和任務的范圍都在迅速增長。我們擁有大量的機會，可以利用這些技術來改善我們的工作和休閑。

盡管前沿技術開發前路曲折，但一旦它出現，后續可能非常容易應用。解決一個您認為不可自動化的問題，或者可能難以應付的問題，只需要短短幾周的時間。

關鍵在于確定哪些可以自動化，哪些則需要動用人類動力。還記得您的老板第一次提及“二八原則”嗎？如果將這些算法和機器用于大部分工作，并將其與人工監督結合起來，用于更有趣的案例，就會取得更有成效的成果。讓機器學習模型完美運行并非易事，但要找準大部分則相對簡單。

機器和算法能夠以更高的速度和質量處理高度重復的任務。它們還可以進行人類無法做到的大規模數據處理。擁有合適技能的合適人選可毫不費勁地完成大部分任務。

需要將創意與經驗結合？存在歧義，沒有先例？輪到我們大施拳腳了。

我們關注的并非機器已經取得優勢的領域。問題在于如何將人類工作和機器能力結合起來。

更多思考 – 不是啟蒙的終結！

與許多人的擔憂相反，我相信，用人類自己的頭腦思考在未來會變得更加重要，而不是相反。另外，這個結論適用于所有類型的工作和社會各個層面 – 而非僅適用于能夠建立和利用領先優勢的少數人。

理由林林總總，我們也在上方討論了許多。仔細想想吧。

制作軟件副本成本很低。計算的成本越來越低，效率越來越高。我們可以將軟件應用到越來越多的繁瑣、無聊的海量任務中。我們正在大幅提高生產力，而不會增加環境負擔。

此外，我們仍然需要人為監督，甚至需要更多人為監督，因為我們的技術仍然無法做到很多對我們來說非常基礎的事情。

這并不是啟蒙的終結。相反，我們可將更多的時間專注于我們喜歡的事情，以及對我們來說真正重要的事情。