心の風景 認知的体験

癌闘病記
認知的体験
わかりやすい表現
ヒューマンエラー、安全
ポジティブマインド
大学教育
老人心理

研究評価を妥当なものに

2012-08-18 | 教育

研究評価を妥当なものに


●評価規準さまざま
 研究の評価規準は、さまざまであるが、規準の高低と質が思案のしどころとなる。
 まずは、評価規準の高低。卒論と博論を同一の規準で評価すれば、誰も大学を卒業できなくなる。さらに、これは明示的に言うのははばかられるところもあるが、学会誌間でも---ということは、学会間でも、ということになる---規準の高低はある。ただし、これは、あくまで主観的で暗黙の規準としてである。格づけの好きな(?)アメリカあたりでは、あからさまに、これは格が低い(掲載規準が低い)雑誌である、と言う。投稿者も、「この論文なら、この雑誌へ」との配慮をする。
 その雑誌がどれくらい他の雑誌から引用されるかを指数化したインパクトファクターなる格付けもある。
 次は、研究評価の規準の質、換言すれば、評価の観点。
 もっとも大まかなものは、「掲載可能から掲載不能」「優れているから劣っている」まで、2段階から5段階くらいまでの判断をもとめ、あとは、その理由を付すようなものである。この対極にあるのが、独創性、斬新さ、論理性、方法の完璧性など観点別に点をつけて、それを総合する形式のものである。
 どんな評価規準を採用するかは、学問(学会?)文化や評価する目的によって異なる。そのあたりをつい忘れて「絶対評価」をしてしまうと、評価の「妥当性」が疑われることになる。

●評価が一致しない
 ほとんどの研究評価は、実質的には、2人か3人の専門を同じくする「仲間内」で行なわれる。「仲間内」であっても、しかし、評価者間で判定の一致する割合は、それほど高くはない。したがって、その調整に手間取ることになる。
 ある学会誌で3年間、編集委員をしたときの経験では、最初の段階での3人の査読者間の一致は、採否2分割で言うなら、4割程度ではなかったか思う。
 評価が行なわれるところならどこでもそうであるが、トップレベル(きわめて独創的なものは除く)とボトムレベルの判定は一致する。問題は、採否、合否のボーダーライン近辺である。しかも、これが圧倒的に多い。ここで判定が割れる。
 また、研究費申請の審査では、これからこんな研究をしてみたいという申請についての評価をすることになるが、採用人事と同じような難しさがある。過去の業績のない若手研究者のきわめて独創的な研究申請が落とされがちになる。
 
●妥当な研究評価をめざして
 評価には、評価される人が、評価結果に納得してくれる、ということも結構大事になる。納得してもらえない評価は、やる気を削いでしまうからである。時には、大騒ぎになることもある。
 しかし、評価は、その人が属する組織全体のクオリティを保証するため、という大義がある。個人の納得性のみを重視するわけにはいかない。
 この両者の要請を満たすためには、評価規準を「ある程度まで」透明化した上での、エキスパートや仲間による「主観的な」評価を行なうことになる。
 ここで、「ある程度まで」と「主観的」について一言。
 評価規準を「完璧に」定めることは不可能であるし、また、あまりに細部に渡ってまで定めてしまうと、評価コストがかかるだけでなく、被評価者も目標が見えなくなってしまう恐れがある。
 「主観的」とは、最終的な評価は、評価者の主観に頼らざるをえない部分があることを言いたいためである。「主観」のない評価は、過去の数量的な実績に依存することになりがちで、ともすると、将来への展望をにらんだ評価にならないこれでは、大義にもとる。
<---126行





以下はメモ





 研究開発に投入される税金が格段に増加してきている。たとえば、文部省・科学研究費は1000億を越えて増え続けている。当然、どれだけの成果が上がったかが厳しく問われることになる。短期的かつ限定的な費用対効果だけを考えれば、その低さは、物作りへの公共投資---分母となる額は圧倒的に少ないのだが---の比ではないと思う。
 さてでは、いかにしたら実のある「厳しい」研究評価ができるのであろうか。成果ベースの評価と企画ベースの評価とに分けて、考えてみたい。
 まずは、成果ベースの評価から。
 

成果評価は比較的簡単。発表された論文(誌)からわかるからである。
企画評価が難しいのである。

経常経費としての研究費の重要性を忘れてはならない。
研究費があるときは研究し、ないときは研究しないというわけにはいかないからである。

 最後は、評価規準の透明性である。
 今年度のCOE(*****)も決まり、否にはその理由が簡便ながら当事者に伝えられることになっている。





 奇妙なことには、すべての点において平均よりちょと上という「手がたい」研究が通りやすい。そして、一度通ると、一連の研究は、だいたいが同じ査読者に審査してもらうことになるので、どんどん通ることになる。



これも日本的ではないかと思うが、実質のあとに形式があって、編集委員会とか審査委員会とかが開かれて全員一致の形をとる。



査読者(だいたいが、2、3名)が、この暗黙の規準を知らないで評価をしてしまう、ということが起こると悲劇であるし、そんなことが実は結構ある。
●評価の結果が怖い




●ボーダーライン研究が多い
 一番しんどくて気が重いのは、採否のボーダーラインにある研究である。しかも、これが圧倒的に多い。評価は、心理的には、おおむね正規分布をなしていて、採否の規準は、暗黙裏に平均値あたりを設定しているから、当然、こういうことになる。
 純粋理工系の論文や研究ならこんなことはないと思うが、少なくとも心理学関係だと、記述が完璧に誤りという判断がしにくいことが多い。したがって、確信を持って、ある論文を非とすることができないことが多い。


 審査基準は、諾否、採否の2分法というのはまれで、
 


 ボーダーライン研究は、複数の査読者間で、判断が割れる。


学会によって、いろいろの工夫がなされている。
・まず、採否で判断し、ついで、その理由を書かせるもの
・いくつかの観点別に評定させて、その重みづけ合計点で、採否を決めるもの
・無条件採択から無条件不採択まで、いくつかの段階をおくもの

●研究が評価される
 文系と理系の狭間に位置する心理学の中で研究していると、アカデミズム全体の風潮がよくみえるということがある。学会こそ存在するものの、学会誌もなく学会発表の抄録もない学会から、学会発表にさえ事前審査のある学会まで

 研究の現場でパワーを発揮できなくなってきているのであるから、こんなところで


 年中、そうした仕事を抱えている感じ 



 予算がらみの研究審査以外は、まったくの無料奉仕である。



 
●研究を評価する
 研究開発に投入される税金が増えてきた。それに伴って、研究の「価値」の評価が次第に厳しくなってきた。「価値」のない研究に税金を投入することは、無駄な公共投資と見なされることになる。

●仲間内の評価と仲間外の評価のギャップ
 通産省が絡んだ研究評価だと、「産業界への波及効果はあるか」といった評価項目が入ってくる。基礎研究に携わっている者には、違和感のある評価項目であるが、資金投入をすしようとする当事者からすれば当然の項目ということになろう。

しかし、これまで、実験室でひっそりとやっていた研究

 研究評価の主流は、仲間内評価(peer review)である。 

●研究者のライフサイクル
 研究者にもライフサイクルがある。がむしゃらに最先端をめざしてがんばる20代後半から30代。40代は、自分の研究者としてのアイデンティティの確立。50代になると、研究管理的な仕事をする。
 こんなところが、典型的なライフサイクルであろうか。もちろん、へそ曲がり?もいる。50代、60代になっても、研究の最先端にいて一人で学会発表をするような研究者も数は少ないが、いることはいる。
 


















































































































































































































































くたばれ、マニュル」評判

2012-08-18 | わかりやすい表現
★『くたばれ、マニュアル!』(海保博之/新曜社)をほぼ読了。お笑い本かと思って手に取ったら、かなりマジメな認知心理学を駆使したマニュアル分析本。良い意味で期待を裏切る。幾つか面白い記述があった中でああそう言えばと思ったのは、例えば「マクロ的説明にもミクロ的説明にも偏ってはいけない」ということ。マクロ的とは喩えて言えば「このフロッピーをセットしてください」であり、ミクロ的とは「フロッピーディスクを持ちパソコン本体の壁面にある横長の投入口(これをスロットといいます)に向きに注意しながら・・・」というような説明のこと。どちらも詳しい人が書いてしまうとユーザーの知識レベルを忘れてしまい、説明不足か説明過剰のどちらにも陥ってしまう。これ、日常生活というか仕事の面でもそういう場面ってあるな。
2002年09月27日(金)
*********************
■くたばれ「マニュアル」(海保博之著、新曜社)☆
認知心理学の海保博士の著書。題名こそ過激であるが、本書のスタンスは「ユーザ側からわかりにくさを告発する」ものであると同時に、「制作にかかわる側の実践を促すメッセージ」を発するものにもなっている。認知心理学の視点から、マニュアルの抱える問題点や改善の指針を示しているので、マニュアル制作に携わる人には参考になる。特に「5章 文書によるユーザ支援が不十分」は、お勧め。
********************************
* 海保博之 2002 くたばれ、マニュアル!-書き手の錯覚、読み手の癇癪- 新曜社 1,800円
 「くたばれ」とありますが、むしろ、マニュアルに対する「応援歌」です。こんなまずい例があるけれど、こんな風に書けばわかりやすくなるということを認知心理学的立場から解説されています。この本を読むと、マニュアルだけではなく、わかりやすい文章を書くにはどうすればいいのかということがよくわかります。具体例も面白く、「そう、そう、その通り」と思わずうなづきたくなります。
 わかりやすく書くにはどうすればいいかの本ですから、当然、この本もわかりやすくするようにいろんな工夫がされています。そして心理学の勉強にもなるのですから、読まない手はないでしょう。
************************
No.184 『くたばれ、マニュアル!』を読む

 『くたばれ、マニュアル!』(海保博之著、新曜社)を読みました。センセーショナルな題名ですが、内容は真面目で、パソコンなどのマニュアルのわかりにくさを、パソコンそのもののわかりにくさ、ユーザーの心理、書き手の問題などいくつかの角度から解説し、問題解決の方向を示したものです。認知心理学の専門用語がいろいろと出てくるものの、噛み砕いて解説したうえで使われているので、難しくはありません。マニュアルに関心のある方なら面白く読めるのではないでしょうか。
 興味深く感じた部分がいくつかあるのですが、その一つが、教育に関する話題です。わかりやすいマニュアルを作れるようになるには、その基礎となる書く力を学校教育で学ぶ必要があるという話で、実際の小学校教科書の例も紹介されていました。それは「せつ明書を作ろう」という単元で、自分で選んだスポーツ、遊び、楽器などについて、人にわかるように説明書を作るという内容なのです。それを読んで思い出したのですが、うちの次男が学校の宿題として「ドッジボールがうまくなる方法」とかいう説明書を作っていました。もしかすると、本書で紹介されているあの単元の授業だったのかもしれません。こういった教育が小学校でなされているのであれば、日本のマニュアルの未来は明るい……かもしれませんね。(2002.11.9)

[過去のコラムを読む]
お問い合わせ先:kunio-i@ops.dti.ne.jp
Copyright (C) 1999-2002 ITO Kunio. All Rights Reserved.



認知心理学シラバス例

2012-08-18 | 認知心理学
認知心理学b(Cognitive psychology)


-----------------------------------------------------------------------------------
授業概要 認知心理学/認知科学をベースに、ヒューマンエラーの発生要因、発生メカニズム、事故予防について講義する。
評価方法:出席 試験
教科書:海保著「ワードマップ ヒューマンエラー」(新曜社、
 1900円)
-----------------------------------------------------------------------------------

授業計画
ヒューマンエラーにまつわる、以下のようなトピックについて、体験実験もまじえながら講義する。

●1学期
情報化社会  認知的人工物コンピュータ ブラックボックス化
インタフェース問題 完璧人間像 エラーをおかしやすい人
ミステイク モードエラー  うっかりミス 不注意 パニック
外化 アフォーダンス

●2学期
安全文化 多層防護 監視 表示 生態的インタフェース
ニーズ適応型支援 トレードオフ  ユーザビリティテスト
マニュアル  情報公開 事故分析  悪魔の代弁者 
安全教育


蛍光灯がかえられない!!

2012-08-18 | 心の体験的日記
蛍光灯が切れた
スペアーは買ってある
さて、とりかえようとしたら、
とてもではないが、できない
まず、切れた蛍光灯がはずせない
はずせても、それをかさの外に出せない
結局、たぐちさんにヘルプ
なんと脚立をつかって全部、天井からはずして交換
これからはなんでもシンプルなものを買うに限る

そうそう、ひさしぶりにステレオを聞こうとしたら、
全然だめ
こんなものが壊れるかねー

メタ認知

2012-08-18 | 認知心理学
     
●頭の中にもう一人の自分がいる
 ホムンクルス(Homunculus頭の中の小人)の話は、ゲーテの「ファウスト」に出てくる。
  「僕は完全な意味で発生したいのです。1日も早くこのガラスを割って、飛び出   したいのです。」(大出定一訳、人文書院、p235)
 自然の脅威もままならないが、それ以上に自分の頭のままならなさに我々は悩まされる。じゃじゃ馬を自分の頭の中にかかえこんでその制御に腐心させられているような感じは、誰もが抱いている。「頭の中に小人がいてそれが悪さ?をしている」という感じと言ってもよい。
 しかし、実感は、文学の対象にはなっても、科学の対象にはなかなかなりえない。ホムンクルスも、その存在を痛切に実感はできるもののひとたび心理学の中に取り込んでしまうと、今度は、科学の世界で悪さをすることになるので、慎重であった。なぜなら、人の頭の中にホモンクルスを認めてしまうなら、ホモンクルスの中にさらにホモンクルスを、さらにそのホムンクルスの中にホムンクルスを、---という具合に無限後退が始まってしまうからである。
 ところがである。そのホムンクルスが突如、心理学の論文に出現し(注1)、あれよあれよという間に、時代の寵児になってしまったのである。言葉こそ、メタ認知としゃれたものに変わってはいるが、まぎれもなく、ホムンクルスの出現である。

●メタ認知とは
 メタ認知とは、要するに、ホムンクルスが、人の認知過程において何がどうなっているかを監視し、適応的な活動をするようにコントロールすることである。(注2)
 前述したように、我々の実感としては、ホムンクルスは確かに存在するし、機能している。それを素直に心理学の研究テーマにしたのが、メタ認知研究である。科学方法論的にどうのこうのと考え出したら、怖くて扱えない。しかし、存在するのだから、科学(心理学)は立ち向かうべしとの挑戦心が生み出した産物とも言える。実は、もう一つ、メタ認知研究の研究に向かわしたものがあると思っている。それは、コンピュータである。
 コンピュータには、中央演算装置があり、そこには、OS(Operating System)
というソフトがコンピュータ全体の仕事を管理している。ホムンクルスを、このOSの働きにたとえてみることができることに気づいたのである。コンピュータ・アナロジー(->****)の成果である。神秘的色彩の濃かった、そして、科学方法論的には問題であったホムンクルスが、工学的実体としてイメージできるようになったことで、安心して論ずることができるようになったのである。

●心理学の研究の多くはメタ認知の存在を前提にしている
 心の働きには、その働きをまったく意識できない領域と、意識しようとすれば意識できる領域と、ほぼ完全に意識できる領域の三つがある。例を挙げてみると、
 「意識化不能な領域」
   感覚過程 パターン認識の過程   
 「意識化努力によって意識化可能な領域」
   物を覚える過程 問題解決過程 自分の性格や能力の判断過程 
 「意識化可能な領域」
   プランニングや構想過程 
 このうち、メタ認知が機能しないのは、「意識化不能な領域」である。ちなみに、こうした領域を、心のアーキテクチャー領域と呼ぶ。これ以外の領域では、メタ認知が機能している。したがって、メタ認知を前提にした心理学独特の研究技法が使えることになる。つまり、意識化可能な領域では、被験者に直接/間接に、「心について尋ねる」手法である。
 その際たるものは、内省法(注*)とプロトコル法(注**)である。後者は、何かの作業をさせて終わってから、作業中のことを振り返って心がどうだったかを問う。後者は、作業中に、今あなたは何を考えているかを問う。
 もう少し間接的に心について尋ねる方式もよく使われる。その典型が質問紙法である。たくさんの質問を用意して、それに答えてもらうことで、心に迫ろうというものである。
 いずれも、メタ認知を前提にしてはいるが、メタ認知は完璧には機能しないので、本当に心を語ってくれているかどうかは保証の限りではない。その保証を担保する仕掛けがいろいろ工夫されている。
 研究対象自身に研究対象のことを語らしめたデータを使って科学にしてしまおうという、この心理学独特の研究技法。自然科学の技法と比較すると、本当に大丈夫と心理研究者までもが思う。思うが、ここでがんばることが、心理学が人についての科学の中核になるためには、絶対に必要ではないかとも思う。

  
  
***********
注1 Sternberg(19**) が提案した、人の高速検索モデルの中に、Hという一文字が解説なしに---控え目に?---書き込まれているのをみたとき、「エッ!!」とびっくりしたのを今でも思い出す。


注2 メタ(meta)とは、「越える、あとからついてくる」の意の接頭語である。認知の認知、あるいは、認知活動に伴ってできてくる活動ということ。
 
(注3)話がややこしくなるが、メタ認知そのものについての心理学的な研究領域もある。念のため。A.ブラウン(湯川・石川訳)1978「メタ認知」サイエンス社など参照。
注* W.ティッチェナー(1876-1927)は、感覚領域でも、被験者を訓練すれば内省によって(こそ)心理学の構築に必要なデータが得られるとして、組織的内観法を提唱した。
注** 海保博之・原田悦子編著 19** 「プロトコル分析入門」 新曜社