※ChatGPT3.5(無料版)を使って検証しています。
人口知能AIのChatGPTがあまりにも凄く、語学学習に役立つので、【ChatGPT】語学学習は人口知能 AI で!語学学習のオススメの使い方7選!中国語学習で検証!という記事で使い方を紹介しました。しかし、やはりまだまだ限界があるので、その限界を中国語検定の問題を解かせることで検証してみました。
目次
ChatGPTに中国語検定の問題を解かせてみた検証結果!
中国語検定4級 第100回 の文法問題の一部を解かせた検証(2023年1月時点)です。
- 結果は”不合格”!
- 質問方法を工夫する必要あり!
- 問題形式を変更すれば合格点を取ることも可能!
具体的に問題ごとに正答を確認すると
大問2 | 内容 | 正誤 | 得点 |
大問2(1) | 穴埋め問題 | 〇 | 2点 |
---|---|---|---|
大問2(2) | 穴埋め問題 | 〇 | 2点 |
大問2(3) | 穴埋め問題 | × | 0点 |
大問2(4) | 穴埋め問題 | × | 0点 |
大問2(5) | 穴埋め問題 | × | 0点 |
大問3 | 内容 | 正誤 | 得点 |
大問3(1) | 正文判定問題 | 〇 | 2点 |
---|---|---|---|
大問3(2) | 正文判定問題 | × | 0点 |
大問3(3) | 正文判定問題 | 〇 | 2点 |
大問3(4) | 正文判定問題 | 〇 | 2点 |
大問3(5) | 正文判定問題 | 〇 | 2点 |
大問3(6) | 正文判定問題 | △ | ※0点 |
大問3(7) | 正文判定問題 | △ | ※0点 |
※ △で0点というのは、出題文や出題形式をAIが理解できるように問題文を言い換えたら正解したのですが0点としました。
ChatGPTに中検4級問題を解かせた問題別状況
問題2:文法穴埋め問題
《問題2(1)》 正解!
裤子(ズボン)の量詞を選ぶ問題です。”条”が正解ですね!ChatGPTも正解しました。
《問題2(2)》 正解!
”对…感兴趣”で「…に興味がある」となります。これも正解しました!
《問題2(3)》 間違い!
《問題2(4)》 間違い!
《問題2(5)》 間違い!
穴埋め文法問題では、5問中2問正解!つまり、100点換算すると40点です。かなり間違いの回答をしてきます。
AI(ChatGPT)が間違う選択肢が作られているというのは、問題を作成している出題者が、間違いやすい語句を熟知していて選択肢に入れているという見方もできますね。
問題3前半:正文判定問題
《問題3(1)》 正解!
《問題3(2)》 間違い!
《問題3(3)》 正解!
《問題3(4)》 正解!
《問題3(5)》 正解!
正文判定問題では、5問中4問正解!つまり、100点換算すると80点です。かなり正確に回答してきます。
問題3後半:整序問題
《問題3(1)》 まずは、問題文をそのままの形式で質問してみました。
[*]内に入るものを1つ選ぶ問題なのに、2つ選んでしまいました。
よくみると[*]と[*]が混在していたので、ともに[*]に変更してみます。きちんと指示をしないと意味を正しく読み取ってもらえないことが大変ですね。この点については、人間のほうが曖昧な表現でも理解してくれたりするので良い場合もあります。
次に、問題文の聞き方を少し変えて質問してみます。日本語訳を問題文の中に組み込んで言い換えてみました。
やはり回答が間違っているので、さらに問題文を書き換えてみます。
”都”という単語を使っていません。たしかに使わなくても意味が通じるのですが、試験問題では、与えられた単語をすべて使うというのは暗黙の了解のため、問題文を、AIでも理解しやすい形式に修正して質問してみます。つまり、単語を「すべて」使って答えるように指示します。
この形式で質問すると、「正解」の回答が得られました。偶然かもしれないので、次の問題でも同じ形式で質問してみます。
正解!この形式で質問すればAIも問題の意味を理解しやすく、正しい答えを導きだしてくれます。
まとめ
今回は、中国語検定4級の第100回の大問2、大問3の一部をChatGPTに解かせてみました。すべての問題を解かせていませんが、AI(ChatGPTなど)は問題の意図をきちんと読み取れない場合もあるので、やはり合格点を取るのは難しいですね。
しかし、以下のような記事もあります。
ペンシルバニア大学ウォートン校の教授が、人工知能(AI)チャットボット「ChatGPT」に一般的な経営学修士課程(MBA)の最終試験に解答させて採点したところ、「B」評価の合格点に相当すると報告した。
今回、中国語検定の問題をChatGPTに解かせてみて、AIが理解できるように、問題形式を変更すれば、正しい回答を出してくる確率が格段に上がることもわかりました。この観点から、筆記試験では問題文をわかりやすく変更すれば、満点を取ることは難しくても、AIが合格点(中検4級の場合は60点以上で合格)を取ることは可能です。
実際の試験問題では、並べ替え問題の本文にも単語が含まれていたり、長文読解では下線が引かれていたり、さらには試験によっては図の読み取りなども必要です。その上、中検の問題ではリスニング試験もあるので、ChatGPTはリスニング問題を聞いて回答することはできません。
やはり、AIが発達しても、まだまだ人間が必要な部分は多々あることを感じました。しかし、使い方によっては、AIが人間の能力をはるかに超えた能力を発揮することも事実です。これらのことを理解し、こういう道具を知っておくことで、今後、うまくAIを利用しながら語学学習にも取り入れていきたいですね。
語学学習へのChatGPTの利用については、、【ChatGPT】語学学習は人口知能 AI で!語学学習のオススメの使い方7選!中国語学習で検証!という記事で紹介しているので、興味のある方はぜひご覧ください。
中国語検定4級の過去問を徹底解説!
中国語検定受験者は過去問をチェックして得点力アップ!
随時更新中です!