經(jīng)典統(tǒng)計(jì)學(xué)只關(guān)注總結(jié)數(shù)據(jù)，而因果關(guān)系可解釋如何在不實(shí)際實(shí)施干預(yù)的情況下預(yù)測(cè)干預(yù)的效果，表達(dá)形式稱為“反事實(shí)（counterfactual）”。反事實(shí)推理涉及假設(shè)分析（what-if），反映了現(xiàn)實(shí)世界運(yùn)行模式的特有結(jié)構(gòu)。

當(dāng)試圖回答反事實(shí)問題，即：“加入采取了相反的行動(dòng)會(huì)發(fā)生什么”，因果模型的重要性就引人注目。對(duì)于任何人工智能來(lái)說(shuō)，反事實(shí)問題都是最具挑戰(zhàn)性的問題，解釋效果的機(jī)制的問題，以“為什么”為典型，就是經(jīng)過偽裝的反事實(shí)問題。

人類經(jīng)過500萬(wàn)到600萬(wàn)年的時(shí)間從類人猿進(jìn)化而來(lái)，但是在大約5萬(wàn)年前，人類經(jīng)歷了認(rèn)知革命（Cognitive Revolution），又稱為“大躍進(jìn)”，人類以神奇的速度獲得了改變環(huán)境和提升自身能力的能力。學(xué)者們認(rèn)為：人類祖先想象不存在之物的能力是一切的關(guān)鍵。想象和因果關(guān)系之間的聯(lián)系是不言而喻的。而心理模型是施加想象的舞臺(tái)，使我們能夠通過對(duì)模型局部的修改來(lái)試驗(yàn)不同的情景。

因果關(guān)系的三個(gè)層級(jí)的認(rèn)知能力：觀察能力、行動(dòng)能力、想象能力。

1. 觀察能力：要求基于被動(dòng)觀察做出預(yù)測(cè)，統(tǒng)計(jì)學(xué)家通過收集和分析數(shù)據(jù)給出發(fā)生時(shí)間的概率。“條件概率”用于測(cè)算兩種行為之間的關(guān)聯(lián)程度。典型的關(guān)聯(lián)度量方法，即“相關(guān)分析”或“回歸分析”，具體操作就是將一條直線擬合到數(shù)據(jù)點(diǎn)集中，確定直線的斜率。深度學(xué)習(xí)的成果確實(shí)舉世矚目，但是主要認(rèn)為任務(wù)實(shí)際并不困難。深度學(xué)習(xí)黑只是讓機(jī)器具備了高超的能力，而非智能。DNN為擬合函數(shù)的復(fù)雜性增加了更多的層次，但其擬合過程仍然是由原始數(shù)據(jù)驅(qū)動(dòng)。

2. 干預(yù)：干預(yù)比關(guān)聯(lián)更高級(jí)，不僅涉及被動(dòng)觀察，還涉及主動(dòng)改變現(xiàn)狀。預(yù)測(cè)干預(yù)結(jié)果的一種非常直接的方法是在嚴(yán)格控制的條件下進(jìn)行實(shí)驗(yàn)。準(zhǔn)確的你因果模型允許利用第一層級(jí)的數(shù)據(jù)來(lái)回答第二層級(jí)的問題。

3. 反事實(shí)：數(shù)據(jù)顧名思義就是事實(shí)，但是數(shù)據(jù)無(wú)法告訴我們?cè)诜词聦?shí)或虛構(gòu)的世界里會(huì)發(fā)生什么，在反事實(shí)情況下，觀察的事實(shí)被直截了當(dāng)?shù)姆穸ā＠樱骸霸趶椥韵薅葍?nèi)，假如加在這根彈簧上的砝碼重量是原來(lái)的兩倍，彈簧伸長(zhǎng)的長(zhǎng)度也會(huì)加倍”（胡克定律）”，這樣的物理定律可視為反事實(shí)斷言。這一斷言是從諸多研究者在數(shù)千個(gè)不同場(chǎng)合對(duì)數(shù)百根彈簧進(jìn)行的實(shí)驗(yàn)中推導(dǎo)出來(lái)的，得到了大量試驗(yàn)性（第二層級(jí)）證據(jù)的支持。

哲學(xué)家使用“概率提高”概念定義因果關(guān)系，如果X提高了Y的概率，說(shuō)X導(dǎo)致了Y。我們很清楚，前者只是增加了后者發(fā)生的可能性，而并非必然讓后者發(fā)生。哲學(xué)家無(wú)一例外地使用條件概率來(lái)表示“X提高了Y的概率”，記做P(Y|X)>P(Y)，但是“提高”是一個(gè)因果概念，意味著X對(duì)Y的因果效應(yīng)；而“P(Y|X)>P(Y)” 只涉及觀察和手段，表示的是“如果我們觀察到了X，那么Y的概率就提高了”。但是，這種概率提高完全可能是由其他因素造成的，比如Y是X的因，或者其他變量（Z）是它們二者的因——這就是癥結(jié)所在！這一形式表述將哲學(xué)家們打回原點(diǎn)，讓他們不得不再一次嘗試消除可能存在的“其他原因”。