編者按：計算機視覺與AI專家FilipPiekniewski不久前的一篇《AI凜冬將至》的文章在網(wǎng)上引起了熱議。該文主要對深度學習的炒作提出了批評，認為這項技術遠算不上革命性，而且正面臨發(fā)展瓶頸。各大公司對AI的興趣其實正在收斂，人工智能的又一次凜冬可能要來了。經(jīng)過幾周的反思之后，他又把自己對AI的看法進行了歸納總結，提出AI首先必須what的問題，然后才能考慮how的問題。里面的觀點非常值得深思。
最近幾周我被迫重新系統(tǒng)性地論述和提煉我對AI的看法。在我的AI凜冬將至那篇文章火起來之后，很多人通過電子郵件或者Twitter聯(lián)系我，提出了很多很好的建議。由于現(xiàn)在大家對我的東西關注更多了，我決定以緊湊的形式將我認為我們AI解決方案中錯的東西以及哪些是可以修復的寫下來。以下就是我的10點摘要：
我們被圖靈對智能的定義給束縛住了。圖靈有關智能的提法很出名，但他把智能限制為跟人玩的一場文字游戲。這尤其把智能設定為(1)一個游戲的解決方案，(2)將人放在判斷的位置上。這種定義是極其具有迷惑性的，并不是很適合這個領域。狗、猴子、大象甚至嚙齒動物都非常智能但不會說話因此圖靈測試是過不了關的。
Ai的核心問題是莫拉維克悖論。跟1998年首次闡述時相比，這個問題已經(jīng)顯得突出許多了，而在過去30年間我們在這方面所做的事情至少是非常令人尷尬的。這個悖論的中心論點是顯然最簡單的現(xiàn)實卻要比最復雜的游戲還要復雜。我們癡迷于游戲(以及其他有限制且定義明確的論域，如數(shù)據(jù)集)中的超人表現(xiàn)作為智能的標志，這種態(tài)度跟圖靈測試是一致的。我們完全忽視了一個事實，那就是現(xiàn)實本身而不是人類委員會才能對智能的執(zhí)行者做出終極判斷。
我們的模型可能甚至也能起作用，但往往是出于錯誤的原因。我已經(jīng)在我的其他文章[1]、[2]、[3]、[4]里面詳細闡述過這一點了，深度學習就是一個信手拈來的例子。我們看起來似乎解決了對象識別，但是無數(shù)研究表明深度網(wǎng)絡識別對象的原因跟人類能檢測對對象的機制有著巨大的差異。對于一個本著圖靈測試的精神只關心是否能愚弄人類的人來說這個也許并不重要。對于關心人工主體處處理非預期(域外)現(xiàn)實的人來說這是至關重要的問題。
現(xiàn)實不是游戲。如果說有什么不同的話，現(xiàn)實是規(guī)則不斷變化的游戲的無限集合。任何時候出現(xiàn)了重大發(fā)展，游戲規(guī)則都要重寫，然后所有玩家都得跟著調(diào)整否則就會死掉。智能是一種機制，會演變從而讓主體解決這個問題。由于智能是一種幫我們玩“規(guī)則不斷變化的游戲”的機制，作為一種副作用它讓我們能玩有著固定規(guī)則的實際游戲也就不出奇了。不過反過來卻是不對的：開發(fā)玩固定規(guī)則的游戲超過我們能力的機器跟開發(fā)能玩“規(guī)則不斷變化的游戲”的系統(tǒng)差得遠了。
物理現(xiàn)實當中有些特定規(guī)則是沒有變化的——就是那些物理定律。我們已經(jīng)把那些定率語言化，做出讓我們建立文明的預測。但是這個星球上的每一種生物體為了能在這個物理環(huán)境中行動也都掌握了這些規(guī)律，雖然是以非語言化的形式。小孩在學會牛頓定律之前就知道蘋果會從樹上掉下來。
我們的視覺統(tǒng)計模型其實是非常不足的，因為它們僅依賴時間凍結的事物外表以及人類分配的抽象標簽來識別。深度網(wǎng)絡可以看幾百萬張樹上的蘋果的圖像，但永遠也發(fā)現(xiàn)不了引力定律(以及許多其他對我們而言絕對是很明顯的東西)。
常識的困難在于它對我們實在是太明顯了，以至于非常難以用語言表達出來進而給數(shù)據(jù)打上標簽。對于一切“明顯”的東西我們存在著巨大的盲點。因此我們無法教計算機常識，這不僅是因為這么做可能不切實際，但更根本是在于我們甚至都沒意識到常識是什么。只有在我們的機器人做了某件極其愚蠢的事情之后我們才意識到這一點，我們才“哦原來機器人不理解這個[把任何明顯的事實填進去]啊……”
如果我們希望解決莫拉維克悖論(在我看來這應該成為今天任何嚴肅的AI努力的焦點)，我們多少就得模仿生物體純粹靠觀察世界來學習的能力，而不是需要標簽的輔助。實現(xiàn)這一目標的一個比較有希望的想法是開發(fā)對未來事件作出臨時預測的系統(tǒng)，然后通過將其預測與實際情況進行對比來學習。無數(shù)實驗表明這的確是生物大腦中發(fā)生的事情，而且從各種角度來說這樣做會非常有意義，因為這些系統(tǒng)除了其他方面之外還必須學習物理定律(因為它們顯然是通過主體來觀察的，也就是所謂的樸素物理觀)。預測性視覺模型是朝著這個方向邁出的一步，但肯定不是最后一步。
我們極度需要在圖靈的定義以外框定“智能”的質量。可以從非平衡態(tài)熱力學找到一些好點子，這與預測性假設也是一致的。我們需要這個是因為我們需要開發(fā)出一定會通不過圖靈測試的智能主體(既然它們不會展現(xiàn)出語言智能)，但盡管如此我們?nèi)孕枰粋€衡量進展情況的框架。
幾乎我們今天所做的一切事情以及叫做AI的東西都是可以語言化的東西某種形式的自動化。在很多領域這個也許能起作用，但其實跟用Excel代替紙張表格來幫助會計沒有太大的不同。有問題的領域是(且一直是)自主。自治不是自動化。自主不是自動化。自主意味的東西比自動化多多了，而且如果這種自主(就像無人車一樣)需要比人類更安全的話意味的東西還要多得多。自主應該幾乎等同于寬泛定義的智能，因為它假設的是處理非預期的、未經(jīng)訓練的、眾所周知的未知的未知的能力。
這些就是我希望傳達的核心觀點。這些觀點有著各種微妙差別，這就是我要寫這篇博客的原因。不過如果你承認這些觀點的話，我們基本上就算達成共識了。還有很多經(jīng)過激烈爭論的細節(jié)，雖然我認為這些細節(jié)并非必不可少的，但出于完備性還是讓我表述其中的一些：
先天還是習得?當然有些生物體具備天生能力，但無疑有些東西我們是學來的。然而這是個實現(xiàn)相關的問題，我并不認為這個問題會有絕對的答案。在我們未來的開發(fā)中我敢肯定我們會結合兩種一起使用。
學習特征還是人工構建特征?這是一個相關問題。我的看法是“corticalcomputation(皮質層計算)”的絕大部分特征都是習得的，這是在AI與自主的背景下(但這并不意味著我們不能人工構建某樣東西，如果這個東西被證實是有用的或者出于某種原因難以學習的話)。大腦里面還有很大一部分很可能是預置好的。在自動化更加具體的應用中，這兩種情況可能都會有。會有學習來的特征顯然比人工構建的特征出色的情況(這是深度學習的全部賣點所在)，但也會有無數(shù)精心構建發(fā)展出來的特征絕對、毫無疑問比任何習得的東西出色的情況。一般而言我認為這是個偽命題。
尖峰、連續(xù)，數(shù)字化還是模擬?也許量子?對此我沒有非常強烈的立場，因為各自都有優(yōu)缺點。數(shù)字化簡單、確定并且是現(xiàn)成的。模擬難以控制但是用電要少很多。尖峰也是一樣，但是后者還有更接近生物體的額外好處，這也許說明這是個更好的解決方案。量子?我不敢確定用量子計算解決智能問題的必要性有任何的有力證據(jù)，不過也許今后我們能發(fā)現(xiàn)這一點。這些都是“怎么做?”的問題。我的主要興趣還是“是什么?”的問題。
180-0586-8797