人類可能會越來越看不懂深度學習

作者特倫斯·謝諾夫斯基是全球人工智能十大科學家之一、深度學習先驅及奠基者，美國四大國家學院（國家科學院、國家醫學院、國家工程院、國家藝術與科學學院）在世僅 3 位的「四院院士」之一，全球 AI 專業會議 NIPS 基金會主席。

人工智能發展到今天，不到60年的時間，就至少經歷了三次嚴重的危機。

研究人工智能的先驅們，分成了兩個派別。

一派我們可以稱之為「設計派」。設計派認為，人工智能是可以自上而下設計出來的。只要給出明確的符號、規則和方法，編寫程序輸入計算機，就能讓計算機擁有理性思考的能力。

而另一派我們可以稱之為「學習派」。學習派認為，在大部分實際問題中，我們其實很難找到「設計派」想要的那種明確的符號、規則和方法，所以我們可以借助大量的樣本，讓計算機通過不斷學習的方式，慢慢擁有智能。

在人工智能的早期時代，大多數研究人工智能的先驅，不太關心人類大腦是如何工作的，他們更傾向於設計派。

直到 2016 年，「積木問題」才通過深度學習算法被解決。

經過了這樣的挫折，學習派才開始慢慢被重視。因為任何人工智能領域的難題，自然界都已經通過進化解決了。不管是搭積木還是打乒乓球，我們的大腦已經有了一套高效處理的程序，所以，人工智能只要通過模仿人類學習的過程，就一定能找到一種行得通的算法。

根據目前的人工智能的發展來看，下一次人工智能的危機，很有可能問題不會出在計算機那邊，而是出現在我們人類這裡。因為人類可能會越來越看不懂深度學習。深度學習越來越像是「煉丹」。我們知道計算機能給我們一個好結果，可是這樣的結果是怎麼出來的，越來越難以解釋。既然連解釋都很難，想要調整參數、定向優化就更難。這可能是人工智能的下一次危機，當我們越來越不理解人工智能的結果時，我們就不敢將人工智能放到更多的領域。