現代産業システムのリスクアセスメント論議論シリーズ－第1回－
公開日:１．緒言－連載の開始にあたって
日本の産業技術の発展は今や成熟期に達したが，それに要求される品質は，「効率」，「コスト」にもまして最近は「安心・安全」が俄にクローズアップされてきた．例えば，自動車は速く走れるものから始まり，次いで燃費，居住性が求められた。そして最近では，車が道路幅を自動認識して，車が路肩に接近すれば，運転者に警報を出し，注意を促すものや，常時車が路側帯の白線を認識し，居眠り運転して路側帯にどんどん近づけば，車がそれを判断して自動的にブレーキをかけて元に戻そうとする。このような「安全」重視の設計で各社が技術のしのぎをけずっている．
安全重視に伴い，最近では「リスク」という概念が，メディアでも多用されるようになってきた．金融リスク，地震リスク，医療リスク，原子力リスク等々リスクという言葉が氾濫している．しかしよく吟味すると，リスクという概念を明確に定義せず，寧ろ「安全」に代わる言葉として使われているように思われる．
さて，科学的な定義に基づきリスク評価法を体系化した方法にPRA（確率論的安全評価：probabilistic risk assessment）があり、とりわけ大規模複雑システムのリスク評価（アセスメント）に適用されている． PRAは原子力発電所のリスク評価のため発展し，特に1974年のいわゆるラスムッセンレポートでは原子炉配管の大破断事故より小破断事故が引き金で炉心溶融に発展する確率が大きいと予測し、1979年スリーマイル島原子力発電所２号機事故が現実に起こったため，当時，一躍脚光をあびた．特に最近，事故の主原因となっている人間の過誤（human error）もこの方法で評価できる点も大きいメリットである．
諸外国では，PRAの手法について情報公開が行われ，広く他の産業に適用されている．日本では2004年原子力白書でPRAが紹介されたが，原子力に留まらず今後，様々な産業に適用されていくと予想される．しかし大学ではまだカリキュラムに取り入れられているところも少ない．筆者らも適当な参考書を聞かれるが，日本には適当なPRAの参考書がないようである．また最近，原子力以外の化学プロセス産業関係の研究者と議論の機会があったが，そもそもリスク－ベネフィット（便益）の考えや人間信頼性の考えを理解されないことを知って愕然となった．例えば人災を0とすることは不可能で，限りなく0に近づけるには，多大の設備投資が必要なことを述べたが理解に遠かった．確かに原子力産業は，人災，さらに言えば不祥事といったものが多い．しかしながら，リスクへの取り組みは1970年代には既に始まっており，多くの実践的で適用可能な成果が得られている．他産業が原子力産業から学ぶべき点が多いと考えている．
そこでPRAを通じて，リスクの正しい認識を促し，現代の要請であるリスク評価の専門家育成の一助となることを期待して本解説の執筆を試みた．本解説では,現代の複雑・大規模系をどのように捉えればいいのかを先ず説明する．そして，その理解に立って，PRAの進め方についてできるだけ平易な解説を試みる．とくにPRAを行っている一部の原子力関係者にしか理解できない書き方は避けて、一般性のある新たな安全性の評価法の紹介として広く理解して貰うように努める．
本解説から、読者諸氏がPRAについて新たな知見を体得して，多くの産業分野への適用戴くように希望している．
２．リスクの定義とハザード
さて，リスクとは何であろうか．第１回の解説ではリスクの定義を中心に解説する．
現在，リスクという言葉が特にメディアで多く用いられている．それらの一例を図１に挙げる [1] が，リスクとは一体何なのか，その科学的な意味への疑問に行き着く．
図1 ：様々な現代日本語に現れる「リスク」
一方でリスクを意味の共有できる式で表現しようという試みがなされてきた．例えばUNESCOではリスクの定義を次式のように提案している．
-1
上式でのhazard（ハザード）の意味は後で説明するが，一般にその定量化は難しい．vulnerabilityは日本語で言う脆弱性であるが，これも様々な解釈が成立つ．potential lossも非常に曖昧である．実際，この式の解釈を巡って様々な議論が展開されている．要するにリスクを定性的にこのように考えようという提案を便宜的に式で表したものと考えるのが妥当であろう．ギャンブルを巡るリスク計算でリスク定義に若干具体的なものがあるが，汎用性に問題があり，広く現代システムのリスクの定義として引用するのは困難である．
多くの定義が提案される中で，S. Kaplan [2] らによるリスクの定義がより具体的であり，定量化にも馴染むものであろう，本解説では次式によりこの意味のリスクRを定義する．
,（i = 1，2，3，4，･･･, N） (2)
ただし，
si ： i番目の事故シナリオ
pi ： i番目のシナリオの発生確率 (頻度)
ci ： siのシナリオが発生した場合の災害規模
即ち，リスクRは原因と最終的な事象である災害に行き着くまでのシナリオが種々考えられて始めて定義可能となる．この場合，厳密には原因の網羅性も問われるし，最終状態，即ち災害に至るシナリオ（事故シーケンスと呼ばれる）を漏れなく考えなければならない．もし我々がリスクRを(2)式で表現するなら，多少なりとも面倒なステップを経て初めて評価できることを認識して欲しい．
さて、このようにリスクを定義するとそれは定性的な観念ではなく，値を持った「量」である．ここではリスクをより実際的に被る災害に対する被害（金額，被災人数）の期待値として式(3)で定義する．ここで被害には一意の定義は存在しないことに注意してほしい．
(3)
(3)式によるリスクの定義は一般的に言われているように「安全」に対する曖昧な対立概念ではないことに注意を要する．一般にこの式がリスクの定義として，昨今当たり前のように捉えられているが，実はこれは，原子力産業で安全評価の一環として行われている確率論的安全評価或いは確率論的リスク評価（PSA, PRA: probabilistic safety assessment, probabilistic risk assessment 本解説ではPRAを用いる）に深く結びついた定義であることに留意して欲しい．さらにPRAの結果は統計的予測値である．(3)式は本質的に予測に用いるべきものであって，機器の故障率等の最も基礎的なデータを除いて，過去の実績に基づいて計算されるものでないことに注意しなければならない．一方で一般に産業リスクとしてその数値があげられている場合は，過去の実績から数値を求めている場合が多い．例えば自動車によるリスクという場合，過去１年間の死亡事故件数を時間で割って，これをリスクと呼ぶ場合が一般に多く見受けられる．このように実績から求められた値が間違いと断定することはできない．しかし、「リスク」そのものは、元来、質量，長さといった実体を表すものでもなく，また過去の実績に準拠したものでもなく、いわば人工的（artificial）な値である．
実績から計算される値は，信頼性理論の故障率に類似している．故障率とは十分に多くの被験体が，十分に時間が経過した後，n個故障していた場合，全体がm個，試験時間をTとした場合nをm×Tで割った値を言う．例えば「自動車事故率」，「自動車災害率」と呼んでもいいようなものでこれを自動車の事故リスクと呼ぶことは一向に差し支えないが，例えば，(3)により求められた値をもって実績値とすることに，まず誤解がある．例えばPRAにおいて，原子力発電所で，故障が引き金となって炉心が損傷してしまう予想頻度が１つの原子力発電ユニットで１年当たり10-6～10-7程度と評価されている．これを一般産業の実績と比較して，十分小さな値である，或いは同等の値であるということは,本質を見誤ったものであることに注意されたい．
(3)式通りに（予測）リスクを求める場合もあるが，実際に災害規模の定義も曖昧であり，これを同定することは困難なことも多い．又，日本では特に災害やガンによる死亡者数を見積もること自体を，人の不幸を軽んじるというような風潮があり，災害規模を科学的に算定しても一般への流布を控えている場合がある．特に日本では，リスクRという場合，災害規模の項を外し，種々のシナリオの発生する予想頻度の和として次式
-4
で規定する場合がある．この場合でも，リスク算定の場合は，科学的な方法によりシナリオが立てられており，当該の最終状態に至るシナリオの網羅性が主張できなければならない．ここが単なる確率と異なる点である．本解説でもこの定義式でリスクと表すことがある．
このようなリスクを用いて安全を議論する場合は，もし「受け入れ可能なリスク」（acceptable risk）の値が一般公衆によってコンセンサスが得られるならば，リスクと「安全」という概念が関係付けられる．しかし，事故や災害は絶対に起こらないこと（即ち，リスクは0であって欲しいということ）を希求することが日本の公衆の要求である場合が多い．そのような状況下で，「安全」とリスクを関連付ける試みは困難と言える．
一方ハザードという言葉も最近，とみに使われるようになった．リスクが定量的な概念に基づくものであることに対して，ハザードは，あるシステムに内含する「危険性」を全て言う．ハザードを同定する手法としては，Hazop（hazard and operability study）があるが，主要な，またはあらゆるプロセスの正常値からの逸脱に関して，定性推論を中心としたシステムの影響評価を行う手法である．
例えば，図2のような有毒なポリ塩化ビフェニール（PCB）の入ったタンクを考えよう．人間がこのタンクの近くに立っている場合，このタンクはハザードとしてとらえられるが，リスクとしては定義しにくい．何故なら，実際にタンクの毒が人間に及ぼす影響について現実的なシナリオが立てにくいからである．突然，何の外乱もないのに爆発を起こして，人間がPCBを被って，PCBが皮膚から浸入して健康面から傷害が発生するという可能性は考えられるが，そのようなシナリオの生起する確率，又は頻度は極めて低く無視できる．
ところが，一旦，タンクにクラックが生じ，PCBの流出が起こっているところに立つと，これは，健康傷害に対して無視できないと考えるのが自然で，その傷害までの現実的なシナリオを描けるので，リスクの概念が成立する．
図2 ハザードとリスク
「原子力発電所で部品に割れが見つかった，これは大惨事につながりかねない」，「首都圏から離れた原子力発電所で事故があったが風に乗って放射性物質が運ばれるので首都圏に大被害が及ぶ」等々殆どのマスコミの論調はハザードを語っているに過ぎず、リスクの有無とは別である．実際のところリスクアセスメントの結果では，これらの報道のようなシナリオに基づく事故は実質無視し得るものとなる．
本解説でリスクアセスメントという場合，これは予測値であり，必ず評価しようとする災害を引き起こす要因を先ず決定しておく必要がある． PCBタンクの例ではリーク発生という「災害の引き金」がなければ，シナリオも立てることができない．リーク発生から最終的に人命を奪うような災害に拡大するには，様々なシナリオが考え得る．一般産業の場合，それらの災害を予防するような設備が設けられている場合が多い．従ってそれらを無効にするようなシナリオを抜け落ちなく評価しなければならない．最近多く語られるリスクに関し，これらの厳密なステップを踏んでいるものは寡少なので，リスクとしてある値が示された場合は，その値を得るに至った過程を精査する必要がある．
３．リスクアセスメントの意義
人間が，産業活動を行う場合には，人工物（artefacts）である機器の状態が制御されなければならない．[6]後述するように，最近これを自動化する傾向が急激に進んだ．産業革命以降，ガバナによる回転数制御から制御理論が台頭し，目標（設定）からのズレを検出し，状態を一定に保とうとする技術が確立された．効率が徹底的に追及され，科学技術（T）は急激に発展した．21世紀となり，科学技術の発展は遺伝子治療，原子力発電，超高速交通システム，仮想現実，膨大な情報量を短時間で交換できる情報ネットワーク，惑星探査等，留まるところを知らず技術進歩は衰えるどころかさらに加速の様相を見せ、その一方で技術倫理の遵守が問われるところまで来ている．今，我々が直面している問題は，効率，利便性を追い求めてきたこれら科学技術が時として，災害をひきおこすことである．社会のシステムも複雑化した昨今，人間（M），組織（O）との複雑な絡み合いで新手の災害が起こる．
「安全」の維持というものが現在ほど注目されている時代はない．そこで、できればリスクをある一定レベルに制御する要求が出てきても不思議ではない．積極的に人間が考えた指標であるリスクを完全に制御（control）することは困難であるが，これらの要因を検出・分析し，大きさを評価し，これをその組織や企業が受け入れ可能なレベルに低減すべく予め対策を打っておく，「未然防止」を中心とした企業活動は，これからさらに重要性を増すであろう．これは一種のフィードバック制御でもある．生産現場でしばしば行われる品質管理活動のPDCA（plan-do-check-action）サイクルも一種のフィードバック制御である．検出－修正動作の計算－アクチュエータの動作と同じことを行っている．今，リスクの制御を考える場合，その大きさを秤量しないことには，フィードバックの情報も回らない．ここでリスクの秤量，リスクアセスメントがリスクの制御に必要となってくる．これらのスキームを図3 に示す．図のように，リスクアセスメントは，リスク制御の重要な要素である．
図3について，まとめておく．リスクを制御するに当って，まず制限値内に制御すべきリスクが何であるかを決めなければならない．これをリスク方針の決定という．そのリスクがどの程度であるかを知るためにリスクアセスメントが必要となる．リスクの大きさがわかったらそのリスクを低減するための管理が必要となる．これが最近しばしば用いられるリスクマネジメントである．人間は不利益を被るのは好まない．できればそのような可能性は０であればいいと思っている．ところが，何かの便益を得ようとすれば，多少なりともリスクを受容しなければならないのが自然の摂理である．このように，リスクを受ける被害者に対して受容してもらう必要があるので、対象となる利害関係者の間でリスクコミュニケーションが必要となってくる．以上，「リスク方針の決定」，「リスクアセスメント」，「リスクマネジメント」，「リスクコミュニケーション」の4要素を総合的に運用することによりリスク制御が可能となる．
図3 リスクマネジメントのスキーム
さて，リスク方針を決定するといってもこれ自体，複雑化した現代において，容易なことではない．科学技術が素朴な20世紀初頭は機械に目を向けることを中心に行われたが，現代におけるリスクアセスメントにおいて，人間（M），機械システム(T)，組織（O）を十分に考慮に入れる必要性を述べた．さらに組織の風土を形成する社会の要請等を十分に考慮に入れる必要があることは，JCO事故、JR西日本の脱線事故のような昨今の災害事例からも明らかである．災害を引き起こした当事者，対象システム，組織のあり方の裏には，大きく言えば日本の風土の特殊性も潜んでいる．これらが複雑に絡み合い，災害，事故となって発現する．これからのリスクアセスメントに於いても，この背後要因を注意深く，解析の視野に入れることが重要になるであろう．
例えば現代の「人災」と呼ばれる事故・災害の発現の概念図を図4に示す．
図4 災害発現の概念図
このモデルはE. Hollnagel [3] により提唱されたものに著者が若干の手直しを行った図であるが，我々が最近「人災」と呼んでいるものをうまく表している．管理，会社といったような様々な原因（phenotypeと呼ぶ）が相互作用を表して，具体的に記述できる災害が発生する．それは具体的に記述できる程明確なので，英語でmanifestation或いは，genotypeと呼んでいる．しかし災害をもたらした要因は様々であり，非常に広い視点からも原因を探らなければならない．これらの広範囲な原因を「鈍端」（blunt end）呼び，幾つかの条件（この分野の研究者は文脈，contextと呼んでいるが，一般に条件と解釈しても何ら支障はない）の相互作用により災害の発生に至る．図4中，災害の発生に直接に関わる黒い部分である人と技術システムの相互作用を「尖端」（sharp end）と呼ぶ．blunt endからsharp endに至る過程が最近求められる災害，とりわけ人災の解析である．
さらに考察を深めていくとモラル，社会的規範，文化，風土から政府の政策に至るには，同じように様々な条件の組み合わせによって起こる．同じ事が最後の尖端に至るまで言えるであろう．[4] これらいわば，blunt-sharp ends chainと呼ぶべきものを用いて，2005年４月にJR西日本で起こった悲劇的な事故の分析が著者の一人により進行中である．
これらを十分に考慮に入れたリスクアセスメントをというのが当然，社会の要求となろうが，現在のところ，組織因子が人間の行動パフォ－マンスに及ぼす影響は定性的に記述できても，定量的に表すことは極めて困難であろう．PRAの領域では，一部そのような評価フレームワークが提唱されているものの，実証等が手つかずであり，未だアイデア段階と言っても差し支えない．
４ リスクの要因分析
リスクの評価には，評価しようとしている重篤な事象の原因となる事象（起因事象：initiating eventsという）について，システムを解析することにより見いだすことが必要である．リスク評価で抜け落ちが指摘される場合も多く，リスク評価を現実的なものとするには，マンパワーを要することを頭に入れておく必要がある． 災害をもたらすリスク評価は，起因事象の選定から網羅性を要求されるために，非常に手のかかるやっかいな仕事である．理想的には，FMEAや，Hazopその他の方法で災害に至るような「種」となる起因事象を選定すべきである．ここでごく簡単にHazopと，FMEAについて説明しておこう．
Hazopは特に化学プロセスプラントの事故．故障の予測や同定に広く適用されている．設計者があらゆる想定される運転からの起こりうる偏差を仮定し，これらに関連するハザードを同定する方法である．Hazopにはプロセスに与える偏差に関して予め見出し語（ガイドワード）が定められている．それらの代表的なものが次の通りである．
NO, NOT, NONE（想定したプロセスが発現しないことあるいは失われること）;
MORE;（設計値より大きめのプロセスが生ずること，量的な増加）
LESS;（設計値より小さめのプロセスが生ずること，量的な減少）
AS WELL AS; （想定したプロセスの変化が得られると同時に別の想定外のプロセスの変化が現れること，質的な増加）
PART OF; （一部のプロセスが設計値に達していない，質的な減少）
REVERSE; （プロセスが想定したこととは反対の挙動を示す，人間が設計に反した運転を行う）
OTHER THAN（想定外の挙動をプロセスが示す，人間が代替手段を講ずる）
ガイドワードを使用して,各々のガイドワードの偏差を生む事象が起こった場合のプロセス中の影響を分析・評価する．さらに当該の事象の原因を推定・評価する．ガイドワードの偏差を検知することができるか，結果の推定・評価，それが破局的な結果となるならば，これを防ぐことができるかを考察し，その事故防護はコストに見合うかを考察するのがHazopのフルスコープの作業であるが，対策の立案を行うことはもちろんのこと，リスク評価の起因事象として，選定しておくことも重要である．
FMEAも発想としてよく似た方法である．基本的な考えとして，機器およびそれらの失敗モードをすべてリストアップする．その上で，各失敗モードについては,システムと同様に全体として他の機器に対する影響を決定する．最後に各失敗モードの可能性および重要性を決定するのが，FMEAの基本的なフローである．これは何も特別な工夫を要しない方法でマンパワーとの兼ね合いで，FMEAの善し悪しが決まると言っても過言ではない．一般に図5 のような表形式でまとめて分析を進めていき，重大な結果を招くおそれのあるものだけを選定し，リスク評価のシナリオの起因事象とすることで，ある程度の起因事象の網羅性を担保することが可能となる．FMEA自身も教科書的に書き下すのではなく，問題に応じて，リスク評価の対象となる起因事象を見つけるような表の作成を評価者グループが考えればよい．
図5 FMEAのワークシート
原子力発電所のPRAでは，リスクを求めるまでのステップが余りに膨大なので，起因事象の選定にあたっては，安全設計指針で定める「異常な過渡状態」，「事故」を起因事象として選定している．一般のプロセスプラントや交通システム，航空・宇宙分野でも指針，法令の類に考慮，想定すべき異常状態が定められている場合には，それらを起因事象と見なす簡便方法もあるが，「想定外の事象」が問題となっている昨今，リスク評価にあっても多少の時間をかけても，起因事象の網羅性を分析者自らが担保しながら評価するのが望ましい．
５ リスク曲線
リスクという概念の可視化に役立つものがリスク曲線と呼ばれるものである．(3)式のリスクの定義式に立ち戻ると、積の各項，生起頻度を縦軸に，災害規模を横軸にプロットしたものがリスク曲線と呼ばれるものである．様々なインフラストラクチュアや交通手段，災害のリスク曲線を描いてリスクの比較が行われる．注意しなくてはならないのは，各々が異なるデータベースで，異なる方法で秤量されているのでその結果を単純に比較することは注意が必要である．被害規模の大きな事故は様々な産業で起こっている．それらを観測し，観測から得られる感触とリスク曲線が大きく異なる場合は，リスク曲線を得た過程を精査する必要がある．とはいえ各々のリスク曲線が得られた過程を詳細に記述したドキュメントを見つけることは困難であるが，要は相対比較をそのまま鵜呑みにしないことが肝要である．
例えば，原子力発電所のリスク曲線が，他の産業災害のリスク曲線に比べて，被害規模，生起頻度共に非常に小さいことがしばしば示される．図6 にその結果を引用して示す．
図6 様々な産業のリスク曲線の比較 [5]
これを見る場合に注意すべきは，このリスク曲線は古いものであり，実績のデータから得たものと予測によって得た曲線が，混在していることである．原子力発電については，この曲線は発表された1981年では，多分，PRA等による予測値が中心であり，実績値ではない．その後，ウクライナで起こったChernobyl黒鉛減速型原子力発電所で，破局的な事故を人類は経験している．アメリカのスリーマイル島での事故も含めて，被害甚大なものは，上記２件だけであるが，実績値を考慮したリスク曲線を原子力発電でも評価し，公表することが求められるであろう．日本でも直接の原子力発電事故ではないが，JCOの燃料転換工場で起こった過剰反応度添加による即発臨界による人身事故，原子力災害ではないものの関西電力美浜発電所３号機の人身事故等を経験し，このリスク曲線への信頼性そのものが揺らいでいる．
簡便なリスク曲線の書き方を卑近な例を示して説明する．読者が，自分自身や自分の周囲を見渡して，内科の関わる病気にかかるという例をとってみよう．ある家庭で大体50年の実績を見てみて，大体家族の病気の頻度とそれに要した医療費を計算した結果が，表1 のようになったとしよう．
表1 ある家庭の医療頻度とそれに係った医療費
この家庭の年間の内科疾患に関わるリスクは，定義より
10×700＋4×1,500＋1×5,000＋0.05×10,000＋0.02×1,000,000=38,500（円）／年となる．
簡便なリスク曲線の書き方をまとめると、以上のような損失を両軸対数グラフの縦軸にプロットし，頻度を横軸にプロットする．より一般的には，ある時間間隔で，シナリオsi（i=1,2,･･･,N）で起こった事故の被害規模を，時間を横軸として棒グラフを描いておき，評価時間が経過した後，閾値を最小被害規模のものから被害規模の大きい方にスライドさせ，それらを順次加算していく．これは縦軸がある被害規模以上を超過したものの和で表すからである．これを最小のものから順番にデータを並べる．各々のシナリオsiについて，頻度は計算，或いは何らかの方法で評価できるので，これを両軸対数グラフにプロットして曲線でフィットすれば，図７のように簡便なリスク曲線を描くことができる．
一般のリスク曲線では，被害規模が大きくなればなるほど，曲線の接線の傾きが大きくなる傾向がある．即ち，頻度が少し違うだけで，被害規模が大きく変化する傾向がある．実は日常的に起こる小さな事故による被害は少額であり，社会構造を変える程の影響は社会に及ぼさない．交通事故は日常的に起こっており，不幸なことに人命が殆ど毎日といってよい程失われているが，ニュースで報じられても，自動車そのものを無くそうとか，交通システムを直ぐに変えるべきだとの声は上がって来ない．ところが，2004年12月で起こったスマトラ沖大地震による津波被害では，通報警戒システムをインフラストラクチュアとして整備しようと世界が動き出す．地震そのものは確率過程ではないが，どこで起こるかは予測不可能なので，この場合は，同じ俎上で議論してもいいであろう．
図7 簡単なリスク曲線の例
このように現代社会が恐れるのは，低頻度で滅多に起こらないが，一旦起こってしまうと，社会のシステムそのものに変化を与えてしまう程の被害が及ぶ事象である．リスク曲線でも縦軸，被害規模の大きな方（リスク曲線テイル部）に注目する．一般のリスク曲線でテイル部は直線に近くなる傾向がある．この傾きの絶対値は安全指数（safety index）と呼ばれ，安全管理の指標に用いられることがある．
同じ産業でリスク評価が同じ方法で行われている場合，例えば各国のリスク曲線や上記の安全指数を比較することは，安全管理の方法を改善すべきかどうかの意思決定材料になる可能性がある．しかしながら異なった産業間で比較は，評価プロセスの相違，評価値か実績値の違い等，色々考慮すべき点が多く十分に注意して行う必要がある．
参考文献
[1] 小島重雄 ミマツコーポレーション・シンギュラーセミナー"、予稿「大型・複雑化する産業システムのリスク管理 第一部 リスク、安全、リスクインフォームドアプローチ」1894/07/06
[2] S. Kaplan & B. J. Garrick:, On the Quantitative Definition of Risk, 1 Risk Analysis 11 (1981).
[3] E. .Hollnagel:. "Barrier analysis and accident prevention." , Aldershot, UK: Ashgate (2004)
[4] E. Hollnagel: 横浜国立大学安心・安全の科学研究教育センター第2回公開セミナー予稿（2005）
[5] H. Wolf, IIASA Energy System Program, Program Leader, "Energy in a finite world" -1981
[6] Y. Niwa, T. Washio and M. Terabe: An Agent-based Emergency Operating Procedure in Nuclear Power Plant, Cognitive System Engineering in Process Control, Journal of European Society for the Study of Cognitive Systems, pp.130-137, Groningen, The Netherlands (1998)
現代産業システムのリスクアセスメント論議論シリーズ－第1回－ 丹羽 雄二,Yuji NIWA,吉川 螢和,Hidekazu YOSHIKAWA