社会的インパクト評価のはじめかた③~信頼性と妥当性編~

★はじめに

こんにちは。りっきーです。

再掲になりますが、「支援を実施した結果、子どもたちの自己肯定感があがった」という報告には、いろいろと疑うべき点があります。

この自己肯定感の根拠となる質問項目が「わたしはじぶんのことを大切にしている」などという思い付きのような単一項目である場合は質問票として不十分です。

なぜ、どのように不十分なのか。それを説明するために、信頼性と妥当性という概念を紹介します。


★思い付きのような質問票の何が問題なのか

信頼性とは、「測定したい概念を一貫して捉えているか(測定の一貫性)」です。信頼性の高い尺度を用いれば、測定者や測定時期、場所などに影響されることなく、安定した結果を得ることができます。

今回は、「いつ測っても一緒」、「誰が測っても一緒」について紹介します。

・いつ測っても一緒
たとえば、2022年4月に子どもたちの自己肯定感を測定し、2022年5月にも前月と同じ子どもたちの自己肯定感を前月と同じ尺度で測定したとします。

4月と5月のデータの相関分析をして、正の相関関係(4月のときに自己肯定感が高い子は5月のときにも高い子が多い)を確認すれば、気分のムラによって影響を受けていないことを立証できるので、この尺度の信頼性が高いよね、ということになります(再検査信頼性)。

・誰が測っても一緒
たとえば、Aくんの社会性を2人の大人Bさん、Cさんが測定したとします。
BさんとCさんの値について、高い相関関係が認められれば、信頼性が高い尺度だといえます(検者間信頼性)。

妥当性とは、「測定したい概念をきちんと捉えているか」です。妥当性の確認には、さまざまな方法がありますが、今回は2つ紹介します。

・比較して確認する
たとえば、抑うつ傾向を測定する尺度を作成したとすると、うつ病を診断された人々は、この尺度で高得点をとるだろうと予測できます。そこで、うつ病者群と正常者群にこの尺度を実施し、予測通りの差異が認められればこの尺度は妥当であると考えることができます(判別的妥当性)。

・仮説に基づいた予測で確認する
他にも、学習意欲に関する尺度を作成した場合、この尺度が後の中途退学や留年と強い関連を持てば、この尺度は妥当性があるといえます(予測的妥当性)。

なんとなく「自己肯定感はこの質問項目で測れているよね」という思い付きで実施し続けても、このような統計的な裏付けがないのであれば、信頼性・妥当性のない尺度になっているというわけです。

松岡(2019)は、行政がおこなう質問票がこの水準になっていないことについて批判しています。
彼は「本来であればすべての設問に依拠する複数の先行研究があり、文言も完全に一致していなければ、いったい何を測っているのかわからない」「そういった項目を、調査の継続性を理由に使用し続けたところで、何かよくわからない項目の経年変化しかわからない」と述べています。

NPO向けに言い換えると、オリジナルの自己肯定感に関する質問項目を使用してその項目得点が支援の前後において変化しなかったとしても、伴走の方法に改善の余地があるのか、それとも質問票に問題があるのかが区別がつかないので、まるで調査の意味がない、ということが言えそうですね。

このような状態ですと、同じ取り組みをすれば来年も再来年も同じような成果が得られるという再現性の確保も難しくなり、子どもたちにほんとうに効果的な伴走を届けられているかどうか不明瞭になります。

言い換えると、仮説(自ら立てた問い)の答え合わせがきちんとできていない状態になっているのです。


★じゃあ、私たちはどうすればいいのか

調査票をちゃんと価値を生み出すための意思決定に役立てていくには、質問項目の信頼性と妥当性が確認される必要があります。

信頼性と妥当性は、学術論文に掲載されている尺度であれば担保されていることが多いです。自己肯定感に関係する尺度で有名なのは、櫻井(2000)の自尊感情尺度です。

子どもたちの自己肯定感を向上させることがKPIである場合は、こちらを積極的に使用したほうが良いと思います。

標準化された尺度の文章改変は基本的にNGです。先行研究で担保された信頼性と妥当性が、文章を変えた瞬間に崩れます。

オリジナルの質問票をこれから作成する場合は、科学論文で用いられている方法に従えば、それらの信頼性と妥当性を部分的に担保することは可能です。

それではまた👏


★参考・引用文献
松岡 亮二 (2019). 教育格差―階層・地域・学歴 ちくま新書
桜井 茂男 (2000). ローゼンバーグ自尊感情尺度日本語版の検討 筑波大学発達     臨床心理学研究, 12, 65-71.
鎌原 雅彦・宮下 一博・大野木 裕明・中澤 潤 (1998). 心理学マニュアル 質問  紙法 北大路書房

この記事が気に入ったらサポートをしてみませんか?