部落格
只根據您的課程教材回答問題的人工智慧

教職員最常對教育中的人工智慧(AI)提出的擔憂是,學生會接收並信任錯誤的資訊。這種擔憂在應用於通用語言模型時是完全合理的,因為這些模型無論準確性如何,都會生成聽起來合理的文本,且無法區分有證據支持的論點和它們虛構的內容。
大多數機構的反應要麼是禁用 AI,要麼是接受風險並希望學生能發展出評估輸出的批判性思考能力。這兩種方法都沒有解決根本問題,即把錯誤的 AI 用於錯誤的目的。
完全基於學生自己課程材料進行回答的 AI 導師在根本不同的架構上運行,這種差異從源頭上消除了幻覺問題。
它是如何運作的
當學生將他們的課程材料上傳到 Fabric 時,系統會對所有內容進行索引:教學大綱、指定的 PDF 閱讀材料、授課簡報、教科書章節、課堂錄音(會自動進行 轉錄 並加上時間戳記),以及學生寫下的任何 筆記。
當學生提問時,AI 助手會從這些索引內容中檢索答案。它會根據 語義 搜尋每個文檔,找到相關章節,合成答案,並為每個論點提供引用來源,指向具體出處:PDF 中的頁碼、簡報中的幻燈片,或課堂錄音中的時間戳記。
學生可以點擊任何引用並查看原文或聆聽原始解釋。該答案可以對照機構本身指定的材料進行驗證。
如果學生的材料中不包含答案,AI 就會直接說明。它不會退而求其次地從其通用訓練數據中生成內容。這種限制是最重要的一個架構決策,因為這意味著系統不會產生那種讓通用聊天機器人在學術環境中變得不可靠的、自信的幻覺。
這對教職員意味著什麼
對於那些出於合理原因對教育中的 AI 持懷疑態度的教授來說,基於課程的導師完全改變了風險特徵。
每個答案都是可審計的。 教授可以提出與學生相同的問題,並確切地看到 AI 從哪些來源中汲取內容,以及其合成是否合理。這與通用聊天機器人有著根本不同的問責結構,因為後者的推理是不透明的,且其來源無法驗證。
AI 強化了您的教學,而不是取代它。 當學生要求導師解釋一個概念時,該解釋會使用教授課堂上和指定閱讀材料中的框架,因為這些是該 AI 可以存取的唯一來源。學生正更深入地與教授選擇的材料進行互動,這與學生詢問 ChatGPT 並獲得可能與課程方法相衝突的通用解釋的情況恰恰相反。
導師的品質反映了課程的品質。 這也許對課程設計者來說是最有趣的啟示。一門擁有精心挑選的閱讀材料、結構良好的課堂以及清晰輔助材料的課程,會培育出一個能提供優秀、有根有據答案的 AI 導師。而一門閱讀材料含糊、簡報混亂的課程,則會培育出反映這種混亂的導師。AI 就像是課程材料的一面鏡子,這創造了一種積極的激勵:投資於更好的材料能直接改善學生獲得的 AI 支援。
學生學習如何與文獻來源合作。 因為每個答案都指向特定文檔中的特定章節,學生會養成追溯論點至其來源的習慣。這與 ChatGPT 的動態恰恰相反,在後者中,學生學會了不加驗證地接受生成的文本。這款導師將基於來源的推理作為其架構的副作用來進行傳授。
對學術誠信至關重要的區別
AI 帶來的核心學術誠信擔憂是學生會將 AI 生成的作品當作自己的作品提交。這種擔憂對應於一個特定的使用場景:學生要求 AI 撰寫他們的論文、製作他們的作業答案,或生成他們提交用於評估的文本。
在設計上,基於課程的導師在架構上並不適合這種使用場景。它解釋指定材料中的概念、尋找相關章節、生成 練習題,並幫助學生在閱讀材料和課堂之間建立觀點聯繫。它不提供修飾好的、可提交的文本,因為這並非它的設計初衷。
這項在 與 ChatGPT 比較 中提到的有用測試是:如果學生使用人類導師來做完全相同的事情,教授會感到安心嗎?人類導師解釋概念、幫助學生尋找相關來源、就材料對他們進行測驗,並在閱讀材料之間建立聯結。沒有教授會認為這是作弊。AI 版本是相同的一系列活動,只是能大規模提供且隨時可用。
機構的 AI 政策框架 可以明確這一區別:幫助學生理解指定材料的 AI 是一種合適的學習工具。而生成學生當作自己作品提交的內容的 AI 則不然。工具的架構——而不僅僅是圍繞它的政策——應該執行這一界限。
對於學生:如何充分利用它
如果您的大學提供了基於課程的 AI 導師,或者您自己設置了一個,以下幾個習慣能讓它變得更加實用。
上傳所有內容。 導師只能根據它擁有的內容進行回答。您的教學大綱給了它課程結構。您的閱讀材料給了它論點。您的 課堂錄音 給了它您教授實際說過的話,包括那些沒有出現在簡報中的強調、澄清和題外話。您的圖書館越完整,導師的答案就越好。
要求它使用講師的框架來解釋。 如果您不理解課堂上的某個概念,請要求導師結合課堂逐字稿和相關閱讀材料來解釋它。解釋將使用您課程的術語和方法,而不是通用的術語和方法。
將其用於 檢索練習。 要求導師就過去三週的材料對您進行測驗,或者根據特定的閱讀材料生成練習題。自我測試是最有效的學習技巧,而導師會根據您的實際內容生成問題。
要求它尋找聯繫。 「第二週閱讀材料中的概念與第七週的案例研究有何關聯?」是那種能產生真正洞察的問題,因為導師可以搜尋您的整個圖書館並呈現您可能遺漏的聯繫。
在閱讀過程中隨時進行 標註。 您在閱讀材料上的螢光筆重點和標註會成為可搜尋圖書館的一部分。當您在寫論文並需要「第三週閱讀材料中關於制度偏見的章節」時,搜尋功能既能找到原始文本,也能找到您關於其為何重要的標註。
常見問題解答
如果即使來源正確,AI 的合成依然是錯誤的怎麼辦? 這確實可能發生,而這正是引用架構之所以重要的原因。學生隨時可以點擊進入原始章節,並對照源文本評估 AI 的解讀。一個帶有可見引用的錯誤合成是具有自我修正能力的,而沒有來源的幻覺答案則永遠無法做到這一點。
AI 能存取其他學生課程的材料嗎? 不能。每個學生的圖書館都是私密且獨立的。AI 只能存取特定學生上傳到其工作區的材料。學生之間的課程材料不會交叉污染,且數據已被 加密,絕不會用於訓練 AI 模型。
受版權保護的課程材料怎麼辦? 這些材料仍保留在學生的私人工作區內,就像教科書的實體副本仍留在學生的房間裡一樣。AI 讀取學生上傳的內容以幫助他們學習;它不會分發、複製或將這些材料提供給任何其他人。
AI 支援手寫筆記嗎? 如果學生拍下他們的手寫筆記並上傳,系統可以對其進行處理和索引。為了獲得最佳的搜尋效果,鍵入的 筆記 或自動轉錄的 語音備忘錄 會更可靠,但也支援手寫筆記。
相關閱讀:AI 導師 vs ChatGPT、學生為何輟學、布魯姆的雙標準差問題、如何記住你所學到的知識。相關頁面:AI 導師、針對學生、AI 輔導使用案例、最佳 AI 導師。
其他部落格文章:

The Creative's Cold Start Problem

How to Stop Losing Momentum Between Study Sessions

Your Future Self Can't Read Your Mind

The Hemingway Bridge: Stop Working So You Can Start Again

Your ERP Has the Answers. Nobody Can Find Them.

The Usability Layer Your Business Systems Are Missing

手寫與數位筆記:你不必做出抉擇

為什麼你的手寫筆記無法搜尋(以及該如何解決)