近日，微軟與卡耐基梅隆大學(xué)的一項(xiàng)研究發(fā)現(xiàn)，生成式人工智能可導(dǎo)致知識(shí)工作者的認(rèn)知和批判思維能力下降。以下為報(bào)告內(nèi)容摘要：

生成式人工智能(Generative AI,GenAI)工具正在迅速滲透知識(shí)型工作者的日常工作流程，為他們提供文本生成、數(shù)據(jù)分析、代碼編寫等各類智能輔助。然而，隨著這類工具的普及，人們開始擔(dān)憂它們是否會(huì)影響用戶的批判性思維能力。歷史上，每當(dāng)新技術(shù)出現(xiàn)，總會(huì)引發(fā)關(guān)于人類思維能力退化的討論，例如蘇格拉底曾反對(duì)書寫，認(rèn)為它會(huì)削弱記憶力，而今天的人工智能則面臨類似的爭(zhēng)議。

微軟的研究通過(guò)對(duì)319名知識(shí)工作者的調(diào)查，探討他們?cè)谑褂肎enAI工具時(shí)的批判性思維實(shí)踐，以及GenAI對(duì)他們認(rèn)知努力的影響。研究發(fā)現(xiàn)，知識(shí)工作者在使用GenAI時(shí)，批判性思維主要表現(xiàn)為信息驗(yàn)證、內(nèi)容整合和任務(wù)管理，同時(shí)用戶對(duì)人工智能和自身能力的信心會(huì)影響其批判性思維的水平。

1、研究方法

研究采用在線問(wèn)卷調(diào)查的方式，向319名知識(shí)工作者收集了936個(gè)真實(shí)的GenAI使用案例，并衡量他們?cè)趫?zhí)行這些任務(wù)時(shí)的批判性思維程度。調(diào)查問(wèn)題圍繞兩個(gè)核心研究問(wèn)題：

何時(shí)以及如何在GenAI輔助的工作中展現(xiàn)批判性思維?

何時(shí)以及為何GenAI會(huì)影響批判性思維所需的努力程度?

研究采用布魯姆分類法(Bloom’s Taxonomy)對(duì)批判性思維活動(dòng)進(jìn)行分級(jí)，包括知識(shí)回憶、理解、應(yīng)用、分析、綜合和評(píng)估六個(gè)層面，并通過(guò)統(tǒng)計(jì)回歸模型分析影響因素。

主要研究發(fā)現(xiàn)：

1.知識(shí)工作者如何展現(xiàn)批判性思維?

受訪者的批判性思維主要體現(xiàn)在以下三個(gè)方面：

目標(biāo)設(shè)定與查詢優(yōu)化：知識(shí)工作者在使用GenAI工具前，會(huì)明確自身目標(biāo)，并優(yōu)化查詢方式，以提高AI的輸出質(zhì)量。例如，有些用戶在調(diào)整DALL-E的圖像生成提示詞，以確保AI生成的圖像符合特定需求。

響應(yīng)檢查與信息驗(yàn)證：知識(shí)工作者會(huì)對(duì)GenAI的輸出進(jìn)行審查，包括檢查內(nèi)容的邏輯性、可行性和相關(guān)性。有些受訪者會(huì)與外部資源(如技術(shù)文檔或行業(yè)標(biāo)準(zhǔn))交叉驗(yàn)證AI輸出的正確性。

內(nèi)容整合與調(diào)整：知識(shí)工作者并不會(huì)完全接受GenAI的生成內(nèi)容，而是會(huì)選擇性地整合或調(diào)整。例如，部分用戶會(huì)修改AI生成的文本，使其更具個(gè)人風(fēng)格或更符合專業(yè)寫作規(guī)范。

2.何時(shí)會(huì)展現(xiàn)批判性思維?

受訪者在約60%的任務(wù)中報(bào)告使用了批判性思維。研究發(fā)現(xiàn)，以下因素顯著影響知識(shí)工作者是否在GenAI輔助任務(wù)中實(shí)施批判性思維：

對(duì)GenAI的信心：當(dāng)用戶對(duì)GenAI的能力越信任，其批判性思維的可能性越低。換言之，越信任AI，越傾向于直接接受其輸出，而不加審視。

對(duì)自身能力的信心：相反，如果用戶對(duì)自身完成任務(wù)的能力更自信，則更有可能主動(dòng)批判性地思考AI的輸出，而不僅僅是被動(dòng)接受。

用戶的反思傾向：那些習(xí)慣于在工作中進(jìn)行反思的知識(shí)工作者，在使用GenAI時(shí)也更可能展現(xiàn)批判性思維。

3.GenAI如何影響批判性思維?

研究發(fā)現(xiàn)，在大多數(shù)情況下，GenAI降低了知識(shí)工作者在批判性思維活動(dòng)中的認(rèn)知努力。然而，這種影響在不同認(rèn)知活動(dòng)之間存在差異：

對(duì)知識(shí)回憶、理解和應(yīng)用的努力減少：由于GenAI可以提供快速的信息檢索和內(nèi)容摘要，用戶在記憶和理解方面的努力明顯減少。

對(duì)分析和綜合的努力減少：AI提供的現(xiàn)成內(nèi)容使得用戶在分析和綜合信息時(shí)的認(rèn)知負(fù)擔(dān)降低。

對(duì)評(píng)估的努力增加：由于AI的輸出可能包含錯(cuò)誤或偏見，用戶需要投入更多精力去評(píng)估其內(nèi)容的真實(shí)性和準(zhǔn)確性。

此外，研究還發(fā)現(xiàn)，任務(wù)的復(fù)雜性、用戶的AI信任度以及任務(wù)的重要性都會(huì)影響GenAI如何改變批判性思維的努力程度。例如，在高風(fēng)險(xiǎn)任務(wù)(如法律或醫(yī)療咨詢)中，用戶更可能謹(jǐn)慎評(píng)估AI的建議。

2、討論與設(shè)計(jì)建議

微軟的研究揭示了GenAI在知識(shí)工作中帶來(lái)的機(jī)遇和挑戰(zhàn)。一方面，GenAI提高了工作效率，并減輕了某些認(rèn)知任務(wù)的負(fù)擔(dān);另一方面，它也可能導(dǎo)致批判性思維的下降，使用戶容易過(guò)度依賴AI。

為避免GenAI削弱用戶的批判性思維能力，我們提出以下設(shè)計(jì)建議：

增強(qiáng)AI透明度：提供詳細(xì)的來(lái)源信息和不確定性提示，幫助用戶更好地評(píng)估AI輸出的可靠性。

促進(jìn)用戶參與：引導(dǎo)用戶進(jìn)行反思性互動(dòng)，例如在生成內(nèi)容前，要求用戶輸入目標(biāo)或標(biāo)準(zhǔn)。

避免自動(dòng)化陷阱：在關(guān)鍵任務(wù)(如醫(yī)學(xué)或法律咨詢)中，加入強(qiáng)制性的人類審核環(huán)節(jié)，以確保AI輸出的準(zhǔn)確性。

培養(yǎng)長(zhǎng)期批判性思維能力：鼓勵(lì)用戶通過(guò)GenAI進(jìn)行自主學(xué)習(xí)，而不僅僅是依賴AI提供答案。

3、警惕AI導(dǎo)致的認(rèn)知“鈍化”

生成式人工智能正在深刻改變知識(shí)工作的方式，同時(shí)也產(chǎn)生了鈍化人類認(rèn)知能力，尤其是批判性思維能力的新威脅。微軟的研究發(fā)現(xiàn)，用戶的批判性思維水平受到AI信任度、自身信心以及反思習(xí)慣的影響。同時(shí)，GenAI在減少認(rèn)知努力的同時(shí)，也可能導(dǎo)致認(rèn)知依賴。

未來(lái)，GenAI工具的設(shè)計(jì)應(yīng)當(dāng)更加關(guān)注如何支持用戶保持和提升批判性思維，而不是簡(jiǎn)單地提供答案。只有這樣，我們才能在享受AI帶來(lái)的便利的同時(shí)，保持人類獨(dú)有的思辨能力和創(chuàng)造力。