その他

【ChatGPT】人口知能 AI の精度検証!中国語検定の文法問題で合格点は取れるのか?語学試験で検証!

※ChatGPT3.5(無料版)を使って検証しています。

最近注目されているChatGPTで中国語検定4級の問題を解かせてみました!
合格点は取れましたよね?

人口知能AIのChatGPTがあまりにも凄く、語学学習に役立つので、【ChatGPT】語学学習は人口知能 AI で!語学学習のオススメの使い方7選!中国語学習で検証!という記事で使い方を紹介しました。しかし、やはりまだまだ限界があるので、その限界を中国語検定の問題を解かせることで検証してみました。

ChatGPTに中国語検定の問題を解かせてみた検証結果!


中国語検定4級 第100回 の文法問題の一部を解かせた検証(2023年1月時点)です。

検証結果
  • 結果は”不合格”
  • 質問方法を工夫する必要あり!
  • 問題形式を変更すれば合格点を取ることも可能!

具体的に問題ごとに正答を確認すると

大問2内容正誤得点
大問2(1)穴埋め問題2点
大問2(2)穴埋め問題2点
大問2(3)穴埋め問題×0点
大問2(4)穴埋め問題×0点
大問2(5)穴埋め問題×0点
10点満点中「4点」で不合格!
大問3内容正誤得点
大問3(1)正文判定問題2点
大問3(2)正文判定問題×0点
大問3(3)正文判定問題2点
大問3(4)正文判定問題2点
大問3(5)正文判定問題2点
大問3(6)正文判定問題※0点
大問3(7)正文判定問題※0点

※ △で0点というのは、出題文や出題形式をAIが理解できるように問題文を言い換えたら正解したのですが0点としました。

14点満点中「8点」でボーダーライン!問題文を言い換えれば合格点も可能!

ChatGPTに中検4級問題を解かせた問題別状況

問題2:文法穴埋め問題

《問題2(1)》 正解!

裤子(ズボン)の量詞を選ぶ問題です。”条”が正解ですね!ChatGPTも正解しました。

《問題2(2)》 正解!

”对…感兴趣”で「…に興味がある」となります。これも正解しました!

《問題2(3)》 間違い!

画像の上部が問題文、下段がChatGPTの答え(不正解)ですね

《問題2(4)》 間違い!

《問題2(5)》 間違い!

穴埋め文法問題では、5問中2問正解!つまり、100点換算すると40点です。かなり間違いの回答をしてきます。
AI(ChatGPT)が間違う選択肢が作られているというのは、問題を作成している出題者が、間違いやすい語句を熟知していて選択肢に入れているという見方もできますね。

問題3前半:正文判定問題

《問題3(1)》 正解!

《問題3(2)》 間違い!

《問題3(3)》 正解!

《問題3(4)》 正解!

《問題3(5)》 正解!

正文判定問題では、5問中4問正解!つまり、100点換算すると80点です。かなり正確に回答してきます。

正文判定問題はChatGPTは得意みたいですね!

問題3後半:整序問題

《問題3(1)》 まずは、問題文をそのままの形式で質問してみました。

[*]内に入るものを1つ選ぶ問題なのに、2つ選んでしまいました。
よくみると[*]と[*]が混在していたので、ともに[*]に変更してみます。きちんと指示をしないと意味を正しく読み取ってもらえないことが大変ですね。この点については、人間のほうが曖昧な表現でも理解してくれたりするので良い場合もあります。

次に、問題文の聞き方を少し変えて質問してみます。日本語訳を問題文の中に組み込んで言い換えてみました。

やはり回答が間違っているので、さらに問題文を書き換えてみます。

”都”という単語を使っていません。たしかに使わなくても意味が通じるのですが、試験問題では、与えられた単語をすべて使うというのは暗黙の了解のため、問題文を、AIでも理解しやすい形式に修正して質問してみます。つまり、単語を「すべて」使って答えるように指示します。

この形式で質問すると、「正解」の回答が得られました。偶然かもしれないので、次の問題でも同じ形式で質問してみます。

正解!この形式で質問すればAIも問題の意味を理解しやすく、正しい答えを導きだしてくれます。

まとめ


今回は、中国語検定4級の第100回の大問2、大問3の一部をChatGPTに解かせてみました。すべての問題を解かせていませんが、AI(ChatGPTなど)は問題の意図をきちんと読み取れない場合もあるので、やはり合格点を取るのは難しいですね。

しかし、以下のような記事もあります。

ペンシルバニア大学ウォートン校の教授が、人工知能(AI)チャットボット「ChatGPT」に一般的な経営学修士課程(MBA)の最終試験に解答させて採点したところ、「B」評価の合格点に相当すると報告した。

今回、中国語検定の問題をChatGPTに解かせてみて、AIが理解できるように、問題形式を変更すれば、正しい回答を出してくる確率が格段に上がることもわかりました。この観点から、筆記試験では問題文をわかりやすく変更すれば、満点を取ることは難しくても、AIが合格点(中検4級の場合は60点以上で合格)を取ることは可能です。

実際の試験問題では、並べ替え問題の本文にも単語が含まれていたり、長文読解では下線が引かれていたり、さらには試験によっては図の読み取りなども必要です。その上、中検の問題ではリスニング試験もあるので、ChatGPTはリスニング問題を聞いて回答することはできません。

やはり、AIが発達しても、まだまだ人間が必要な部分は多々あることを感じました。しかし、使い方によっては、AIが人間の能力をはるかに超えた能力を発揮することも事実です。これらのことを理解し、こういう道具を知っておくことで、今後、うまくAIを利用しながら語学学習にも取り入れていきたいですね。

語学学習へのChatGPTの利用については、、【ChatGPT】語学学習は人口知能 AI で!語学学習のオススメの使い方7選!中国語学習で検証!という記事で紹介しているので、興味のある方はぜひご覧ください。

【ChatGPT】語学学習は人口知能 AI で!語学学習のオススメの使い方7選!中国語学習で検証!※ChatGPT3.5(無料版)を使って検証しています。 ChatGPTとは? ChatGPT(https://...
ABOUT ME
minhe
30代後半の2008年、1週間の一人旅で初めて台湾へ行く。会う人みんな親切、かつ、この年に北京オリンピックがあったこともあり、中国語を勉強することを決意。仕事で使う機会なし、あくまでも趣味。2010年に中国語検定3級合格。その後、台湾の友人もたくさんできてSNSで交流しながら、あまり勉強せず。2018年くらいから、中国語学習を再開。2019年にHSK5級に合格。2023年3月に中国語検定2級に合格。今後は、HSK6級の合格を目指しつつ、中国語勉強関連のニュースを発信します。
中国語検定4級の過去問解説一覧!


中国語検定4級の過去問を徹底解説!
中国語検定受験者は過去問をチェックして得点力アップ!
随時更新中です!

中検4級の過去問解説一覧