見出し画像

Chat GPTチャレンジ:GPT-4は経済官僚になれるか?

 昨今巷を騒がせているChat GPTに、2022年度(令和4年度)の公務員試験を解かせ、合格点を取ることができるかどうか調査してみた。

読み込ませたデータ:2022年度国家公務員総合職採用試験、経済区分一次試験(ミクロ経済学、マクロ経済学)から選んだ6問
使用したAIのバージョン:GPT-4

 まずは試験について説明しておく。国家公務員総合職採用試験とは、昔は国家一種試験と呼ばれていた、将来いわゆる「高級官僚」となることが期待される人材を採用するための試験である。その中でも春に行われるいわゆる春試験では、法律区分、経済区分、政治・国際区分、デジタル区分など全部で11の区分に分け、それぞれの専門性を持つ人材を選り抜く仕組みになっている。
 さらに試験は一次試験と二次試験に分かれ、一次試験では基礎能力試験と呼ばれる知能と教養を問われる問題と、専門試験と呼ばれる各区分及び周辺分野の専門性を問う問題が5択の選択問題として課される。二次試験では記述式の専門試験、政策論文試験に加えて、人事院の面接による人物試験が行われる。
 そしてこれら試験ごとに平均点と標準偏差を用いて満点がほぼ1000点となるように算出される「標準点」(詳しくはリンクの人事院発表資料へ)をベースに最終的な合否が決定される。ここでの合格を「最終合格」と言う。
 そして最終合格すれば必ず官僚になれるというわけでもない。ここから、各省庁を回って説明会・面接を受ける官庁訪問がはじまる(正確には官庁訪問は人事院面接と同時並行的に行われる)。官庁訪問の結果、特定の省庁から「内定」をもらうことができなければ、官僚になることはできない。というわけで、官僚になるまでの道はとても長く険しいものだ。

 今回はそんな総合職試験の中で、経済区分の専門試験、ミクロ経済学とマクロ経済学から選んだ6問をGPT-4に解かせてみた。プロンプトとしては事前に「五択の選択肢1から5の中に必ず正答がある」旨を学習させて、あとは問題文をそのまま投げた。そして特にミスを指摘して修正させることなく、最初に出てきた回答を利用して正誤の判定をすることとした(ただし、回答が長くなって途中で切れた場合は続きを生成させている)。6問の選出の際には、まずグラフの読み取りを必要としない問題であること(Chat GPTは記事執筆時点で画像認識機能が提供されていないため)と、難易度にバラつきを与えることに留意した。

 なお、2022年度の経済区分の最終合格点は502点(人事院発表資料による)であった。専門試験はミクロ経済学とマクロ経済学以外の科目もあるし、また最終合格=内定というわけでもない(むしろ最終合格からが総合職試験の本番とも言える)のだが、ミクロ・マクロの6問中4問に正解できれば、とりあえずは最終合格得点率の50.2%を超えることになるので、ここでは勝手に「GPT-4が経済官僚に合格」と認定することにする。

 ここから先は有料部分になるが、有料部分の内容は読み込ませた問題と、それに対するGPT-4の回答、そしてその回答に対する解説からなる。解説では正解できている問題に対しては正しいロジックで正答を導いているかを確認し、間違えた問題に対してはどこで間違えてしまったのかを明らかにするとともに、間違えた原因を探ってみた。GPT-4の凄さとその限界を垣間見ることができるので、単に結果が気になる方だけでなく、Chat GPTの適切な利用法を探りたいと思っている方は続きをご覧になってほしい。意図せずドラマティックな展開になってしまったので、経済学に詳しくない方でもそれなりに楽しんで読めるはず。

ここから先は

15,424字

¥ 100

この記事が気に入ったらサポートをしてみませんか?