ChatGPTが教育に不適切なAIである理由

ほとんどの大学は、AIについて未だに誤った議論を続けています。教授会や政策委員会における問いは、「学生にChatGPTの使用を許可すべきか、それとも禁止すべきか」という二者択一になりがちです。どちらの答えも特に役には立ちません。禁止したところで、すでに学生は使っていますし、検知ツールも信頼できないため、実効性はありません。指針なしに許可すれば、教育に不向きな方法でツールを使用することになり、学生の学習を積極的に損なう可能性があります。

より良い問い、つまり多くの政策議論がまだ到達していない問いは、「どの種類のAIが教育に適しており、どの種類のAIが逆効果なのか」ということです。

教育における汎用チャットボットの3つの問題点

ChatGPTなどの汎用AIツールを学習に使用する場合、3つの根本的な限界があります。

ハルシネーション（もっともらしい嘘）を起こす。 汎用言語モデルは、正確かどうかに関わらず、もっともらしく聞こえるテキストを生成します。学術的な文脈においては、学生が部分的または完全に誤った説明を、自信に満ちた詳細な内容として受け取ってしまうことを意味します。政治学の授業で扱った概念についてChatGPTに質問した学生は、いかにも権威がありそうな回答を得るかもしれませんが、その回答は理論の帰属を誤っていたり、存在しない論文を引用していたり、議論の余地がある主張を合意された事実として提示したりしている可能性があります。理解できないからこそAIを頼った学生には、その回答が正しいかどうかを評価する術がないため、誤りをそのまま学習し、再現してしまう可能性があります。

カリキュラムを把握していない。 ChatGPTは、インターネット全体に及ぶ膨大な学習データから回答します。学生のシラバスに何が書かれているか、どのリーディング課題が出されたか、講師が何を強調したか、あるいは講義が特定の議論をどのように枠づけているかを知りません。学生が国際関係における「主権」の概念について質問すると、ChatGPTは学習コーパスから引き出した一般的な回答を返します。しかし、学生の講義では、特定の理論的レンズを通して主権を枠づけ、特定の立場を主張するリーディングを課し、学生がエッセイでその枠組みに沿って論じることを期待しているかもしれません。一般的な回答は、良くても役に立たず、最悪の場合は誤解を招くことになります。学生が実際に学ぶよう求められている内容と一致しないからです。

学生が検証できる情報源を引用しない。 ChatGPTが参考文献を提示するとき、それはしばしば捏造されたものか、大まかなものです。学生は、課されたリーディング課題の元の段落をクリックして確認したり、講義スライドと照合したり、講義資料内の引用を検証したりすることができません。これは、議論の根拠を情報源まで遡る能力がすべての基礎となる学術活動において、深刻な問題です。

講義資料に立脚したAIチューターとの違い

学生自身の講義資料に立脚したAIチューターは、根本的に異なるモデルで動作します。学生はシラバス、（書き起こされて検索可能な）講義の録音・録画、PDFや電子書籍としてのリーディング課題、そして講義スライドをアップロードします。AIはこの特定のコンテンツをインデックス化し、その中から質問に答えます。

学生が国際関係における主権について質問すると、課題のリーディングや講師の説明から回答が導き出されます。回答には、その概念が議論された特定のリーディングの特定のページや、特定の講義の特定のタイムスタンプが引用されます。学生は引用をクリックして、元のテキストを確認したり、元の説明を聞いたりすることができます。

学生の資料に回答が含まれていない場合、AIは一般的な学習データから回答を生成するのではなく、「わかりません」と答えます。これは設計上の制約です。チューターの範囲は学生の講義資料に限定されているため、学術的な場面で汎用チャットボットを信頼性の低いものにしているような、もっともらしいハルシネーションを生み出すことはありません。

この違いが重要である理由は3つあります。

正確性。 すべての回答は、教育機関自体が指定した資料に立脚しています。AIは、検証不可能な膨大な学習コーパスから生成するのではなく、正しいとわかっている情報源から検索・統合します。

関連性。 回答は、実際の講義資料から引き出されているため、講義の枠組み、専門用語、理論的アプローチと一致します。エッセイの準備をしている学生は、単に一般的な関連があるだけのものではなく、直接役立つサポートを受けることができます。

検証可能性。 すべての主張には、元の情報源を指し示す引用が含まれています。学生はAIの回答をリーディング課題や講義と照合できます。すべての回答の出所を追跡できるため、教授もこのツールを信頼できます。

学術的な誠実さ（アカデミック・インテグリティ）の問題

教育におけるAIに対する教員の懸念は、当然のことながら、主に学術的な誠実さに関するものです。学生がAIを使用して自分で作成したかのように提出物を生成し、評価が目的としている学習プロセスをバイパスしてしまうのではないかという懸念です。

この懸念は、エッセイを生成したり、試験問題の回答を作成したり、学生が自分の考えとして提出する独自の文章を作成したりする汎用チャットボットに適用される場合には正当なものです。これらの用途は、評価が開発しようとしている認知的な作業を学生がアウトソーシングしてしまうため、学習を積極的に妨げます。

これに対し、講義資料に立脚したAIチューターは異なる仕組みで動きます。学生がすでに課された資料を読み解き、理解するのを助けます。講師の枠組みを用いて概念を説明します。学生自身が書いているエッセイに関連する一節を見つけます。試験前に学生が理解度をテストできるように、練習問題を生成します。リーディング資料と講義の間でアイデアを結びつけ、理解を深めます。

これは、ChatGPTの動作よりも、学生の個人ライブラリに対する非常に優れた検索エンジンの働きに近いです。チューターは、学生が情報源をよりよく理解するのを助けます。生成されたテキストでそれらの情報源を置き換えることはしません。思考し、分析し、執筆するのは依然として学生自身ですが、取り組んでいる資料をより深く理解した上で行うことができます。

これを考えるための有用なフレームワーク：もし学生が人間の家庭教師を雇ってまったく同じことをさせた場合、教授はそれを容認できるでしょうか？答えが「イエス」であれば、AI版も同様に適切です。人間のチューターは概念を説明し、学生が関連する情報源を見つけるのを助け、教材についてクイズを出します。これこそが、講義資料に立脚したAIチューターが、わずかな費用で、いつでも行うことです。

好循環のインセンティブ

自ら講義資料を構成する教員にとって、注目に値する副次的な効果があります。講義資料に立脚したAIチューターは、学習させた資料の質に比例するため、チューターの質はカリキュラムの質に応じて向上します。

厳選されたリーディング課題、よく構成された講義、明確な補足資料を備えたコースからは、優れた、しっかりと根拠のある回答を提供するAIチューターが生まれます。曖昧なリーディング課題や整理されていないスライドのコースからは、その無秩序さを反映したチューターが生まれます。これにより、好循環のインセンティブが生まれます。資料に投資する教授は、学生が受け取るAIサポートの質に、その投資の直接的な成果を見出すことになります。

AIの導入を検討している学部にとって、これは会話を「AIは私たちの教育を損なうか？」から「AIは私たちの教材の質に投資する新たな理由を与えてくれるか？」へと再定義します。

政策への影響

すべてのAIツールを政策において同等に扱う大学は、この分野における最も重要な区別を見落としています。それは、学習データから生成を行う汎用チャットボットと、指定された資料から検索を行う講義資料に立脚したチューターとの違いです。

「学生はAIを使用してはならない」とする方針は、両方を禁止してしまい、前者のリスクを恐れるあまり、後者のメリットを失うことになります。「学生はAIを使用してもよい」とする方針は、両方を許可してしまい、適切な使用と不適切な使用を区別できなくなります。

より有用な政策フレームワークは、学生が自分のものとして提出する作品を生成するAI（明らかに不適切）、指定された資料を学生が理解するのを助けるAI（明らかに適切）、そして明確な指導を必要とするグレーゾーンを区別することです。講義資料に立脚したAIチューターは明らかに2番目のカテゴリーに属し、その区別を明確にすることは、学習成果と学術的な誠実さの両方を守ることになります。

よくある質問

学生はAIチューターの回答をそのままエッセイにコピー＆ペーストすればいいだけなのでは？ チューターの回答は、洗練されたエッセイの文章ではなく、講義資料に立脚した説明や参照先です。概念の説明をコピーすることは、教科書の一節をコピーすることと何ら変わりはなく、大学にはそのための盗用検知システムがすでに存在します。チューターは学生の理解を助けるように設計されており、提出可能なテキストを生成するためのものではありません。

学生がChatGPTと講義立脚型チューターの両方を使ったらどうなりますか？ 多くの学生がそうするでしょう。明確なAIポリシーでこれに直接対処すべきです。重要な区別は次のとおりです。課されたリーディング課題を理解するために講義立脚型チューターを使用することは「学習」です。エッセイを生成するためにChatGPTを使用することは学習ではありません。ツールが異なり、用途が異なるため、ポリシーもそれを反映すべきです。

AIチューターの回答が正確であるとどうやってわかりますか？ すべての回答は、大学自身が指定した資料から検索され、すべての主張には特定の情報源の文書や一節を指し示す引用が含まれているからです。正確さは、大学が管理する講義資料の質に制限されます。

これはすべての科目に有効ですか？ テキスト、講義、情報源資料を扱う学習が含まれるすべての科目に有効であり、これは高等教育の大部分をカバーしています。実技要素の多い科目（実験、臨床実習、スタジオ実習）でも、実技と並行して理論的なコンテンツにAIチューターを活用することでメリットが得られます。

関連記事： ブルームの2シグマ問題、学生が中退する理由、あなたの講義資料からのみ回答するAI、大学のための実践的なAIポリシー。関連ページ： AIチューター、学生向け、Fabric対ChatGPT、Fabric対Khanmigo。