為什麼 ChatGPT 是不適合教育的人工智慧

大多數大學在人工智慧（AI）的議題上仍停留在錯誤的爭論。在教職員會議和政策委員會中，問題往往流於二分法：我們應該允許學生使用 ChatGPT，還是應該禁止？這兩個答案都沒有太大幫助。禁止是無法執行的，因為學生已經在使用了，且檢測工具也並不可靠。而在缺乏引導的情況下允許使用，則會讓學生使用一個不太適合教育的工具，其方式甚至可能會積極損害他們的學習。

更好的問題，也是大多數政策討論尚未觸及的問題，是哪種 AI 適合教育，而哪種 AI 卻會適得其反。

通用聊天機器人在教育中的三個問題

ChatGPT 和類似的通用 AI 工具在用於學習時，有三個根本性的限制。

它們會胡說八道（幻覺）。 通用語言模型無論內容是否準確，都會生成聽起來合理的文本。在學術背景下，這意味著學生可能會收到看似自信、詳細，但部分或完全錯誤的解釋。學生向 ChatGPT 詢問政治學模組中的一個概念，可能會得到一個聽起來權威但錯誤歸納理論、引用不存在的論文或將有爭議的主張呈現為既定共識的答案。因為不理解材料而向 AI 求助的學生，根本無法評估該答案是否正確，這意味著他們可能會學習並複製錯誤。

它們不了解課程大綱。 ChatGPT 的回答來自其訓練數據，即整個網際網路。它不知道學生的教學大綱、指定閱讀材料、講師強調的重點，或者課程如何界定特定的爭論。當學生詢問國際關係中的主權概念時，ChatGPT 會從其訓練語料庫中給出一個通用的答案。但學生的課程可能會通過特定的理論視角來界定主權，指定主張特定立場的特定閱讀材料，並期望學生在論文中融入該視角。通用答案充其量是無濟於事，最壞的情況是誤導，因為它與學生實際被要求學習的內容不相符。

它們不提供學生可以驗證的來源引用。 當 ChatGPT 提供參考文獻時，它通常是虛構或近似的。學生無法點擊進入指定閱讀材料中的原始段落，無法對照講義投影片檢查該主張，也無法在課程材料中驗證該引用。這對學術研究來說是一個嚴重的問題，因為將論點追溯到其源頭的能力是整個學術研究的基石。

基於課程的 AI 導師有何不同

一個基於學生自身課程材料的 AI 導師，在運行模式上截然不同。學生上傳他們的教學大綱、課程錄音（已被轉錄且可搜尋）、PDF 格式的指定閱讀材料或電子書，以及他們的課程投影片。AI 對這些特定內容進行索引，並從中回答問題。

當學生詢問國際關係中的主權時，答案來自於他們指定的閱讀材料和講師的解釋。回答會引用特定閱讀材料中的特定頁面，或特定課堂錄音中的特定時間戳記。學生可以點擊引用並查看原始文本或聆聽原始解釋。

如果學生的材料中不包含答案，AI 會直接說明，而不是從其通用訓練數據中生成一個。這是設計上的限制：導師的範圍被限制在學生的課程材料中，這意味著它不會產生使通用聊天機器人在學術環境中變得不可靠的那種看似合理的幻覺。

這種區別之所以重要，有三個原因。

準確性。 每個答案都基於機構本身指定的材料。AI 是從已知良好的來源中提取和合成，而不是從龐大、無法驗證的訓練語料庫中生成。

相關性。 答案符合課程的框架、術語和理論方法，因為它們是從課程的實際材料中提取的。準備論文的學生可以獲得直接適用的幫助，而不是一般的相近內容。

可驗證性。 每個主張都包含一個指向原始來源的引用。學生可以對照閱讀材料或課程講義來檢查 AI 的回答。教授們可以信任這個工具，因為每個答案都是可追溯的。

學術誠信問題

教職員對教育中 AI 的擔憂，在很大程度上且可以理解地是關於學術誠信。擔憂在於學生會使用 AI 來生成他們提交的作品，從而繞過了評量旨在產生的學習過程。

當這種擔憂應用於生成論文、產生考試答案以及創建原創文本並將其冒充為學生自己思考的通用聊天機器人時，是完全合理的。這些用途積極地破壞了學習，因為學生外包了評量旨在培養的認知工作。

而基於課程的 AI 導師則不同。它幫助學生瀏覽並理解他們已經被指定的材料。它使用講師的框架來解釋概念。它為他們自己正在撰寫的論文尋找相關段落。它生成練習題，以便學生在考試前測試自己的理解。它在不同閱讀材料和課程之間建立概念聯繫，以加深理解。

這更接近於針對學生個人圖書館的優秀搜尋引擎，而不是 ChatGPT 的功能。導師幫助學生更好地理解他們的來源。它不會用生成的文本取代這些來源。學生仍然必須進行思考、分析和寫作，但他們是在對所用材料有更好理解的情況下進行的。

一個思考此問題的實用框架：如果學生使用真人導師來做完全相同的事情，教授會感到安心嗎？如果答案是肯定的，那麼 AI 版本也同樣適用。真人導師解釋概念，幫助學生尋找相關來源，並就材料對他們進行測驗。這正是基於課程的 AI 導師所做的，且成本僅為一小部分，並隨時可用。

正向激勵循環

對於自己策劃課程材料的教職員來說，還有一個次要效應值得注意。因為基於課程的 AI 導師的品質取決於其訓練材料，所以輔導的品質會隨著課程品質的提高而提升。

一門擁有精心挑选的閱讀材料、結構良好的課程和清晰輔助材料的課程，能產生一個提供優秀、有根有據答案的 AI 導師。而一門閱讀材料模糊、投影片混亂的課程，產生的導師也會反映出那種混亂。這創造了一個正向激勵循環：在材料上投入的教授，可以從學生獲得的 AI 輔助品質中直接看到該投入的直接成效。

對於考慮採用 AI 的學系來說，這將對話從「AI 會破壞我們的教學嗎？」重新建構為「AI 是否給了我們一個投資教學材料品質的新理由？」

政策啟示

在政策中將所有 AI 工具視為等同的大學，忽略了該領域中最重要的區別：即從訓練數據中生成的通用聊天機器人，與從指定材料中提取內容的基於課程的導師之間的區別。

一項規定「學生不得使用 AI」的政策將兩者都禁止了，因為第一種的風險而失去了第二種的好處。而一項規定「學生可以使用 AI」的政策則允許兩者，未能區分適當與不適當的使用方式。

更實用的政策框架區分了：生成學生提交為自己作品的 AI（顯然不適當）、幫助學生理解指定材料的 AI（顯然適當），以及需要明確引導的灰色地帶。基於課程的 AI 輔導牢牢屬於第二類，明確這一區別既能保護學習成果，也能維護學術誠信。

常見問題

學生可以直接把 AI 導師的回答複製到他們的論文中嗎？ 導師的回答是基於課程材料的解釋和參考，而不是修飾好的論文散文。複製對概念的解釋與複製教科書段落沒有區別，且機構已經對此設有抄襲檢測。導師旨在幫助學生理解，而不是產生可提交的文本。

如果學生同時使用 ChatGPT 和基於課程的導師怎麼辦？ 許多學生會這樣做，一個明確的 AI 政策應該直接解決這個問題。關鍵區別：使用基於課程的導師來理解指定的閱讀材料是學習。使用 ChatGPT 來生成論文則不是。工具不同，用途不同，政策也應該反映這一點。

我們如何知道 AI 導師的回答是準確的？ 因為每個回答都是從機構本身指定的材料中提取的，且每個主張都包含指向特定來源文件和段落的引用。準確性受到課程材料品質的限制，而這正是機構所控制的。

這適用於所有學科嗎？ 它適用於任何學習涉及閱讀文本、聽課和參考源材料的學科，這涵蓋了絕大多數高等教育。具有重度實踐成分的學科（實驗室工作、臨床實習、工作室實踐）可以從 AI 導師中受益，以在實踐工作的同時學習理論內容。

相關閱讀：布魯姆的 2 Sigma 問題、學生為什麼退學、只從你的課程材料中回答問題的 AI、適用於大學的實用 AI 政策。相關頁面：AI 導師、致學生、Fabric 對比 ChatGPT、Fabric 對比 Khanmigo。