1. 研究室ホームページ
    (個人の個所に記載)

  2. 研究組織
    3. 研究分担者氏名 中野 良平
    所属機関・部局・職 名古屋工業大学知能情報システム学科・教授
    現在の専門 学習・適応・最適化
    学位 工学博士
    所属＆アドレス： 〒466-8555 名古屋市昭和区御器所町
    名古屋工業大学
    電話番号 052-735-5590
    FAX番号 052-735-5590
    Email： nakano@ics.nitech.ac.jp
    URL address： http://www-nkn.ics.nitech.ac.jp/nakano/index-j.html

  3. 研究協力者
    4. 研究協力者氏名 斉藤 和巳
    所属機関・部局・職 NTTコミュニケーション科学基礎研究所・ 主任研究員
    現在の専門 神経回路網、機械学習
    学位 工学博士
    所属＆アドレス： 〒619-0237 京都府相楽郡精華町光台２-４
    NTTコミュニケーション科学基礎研究所
    電話番号 0774-93-5137
    FAX番号 0774-93-5155
    Email： saito@cslab.kecl.ntt.co.jp
    URL address： http://www.kecl.ntt.co.jp/as/members/saito

  4. 研究課題

    5. 多変量データからの多項式型法則の発見

  5. 研究目的

    6. 多変量データにおいては、変量間に非線形の依存関係（線形関係含む） が存在することが多いと思われる。一般に、非線形の依存関係はモデル を複雑にすれば精度が上がり、簡単にすれば精度が下がるので、モデル の複雑度と適合精度とのトレードオフを考える必要がある。そのトレー ドオフのもとで、適切な精度とモデル複雑度を持つ依存関係を多項式型 法則として、計算機を用いて短時間で求める方法を開発し、その有効性 を検証することを目的とする。研究の進め方としては、多変量データを 構成する変数が量的変数（比例尺度、間隔尺度による変数）だけから成 る場合をまず研究し、次いで質的変数（名義尺度、順序尺度による変数） を含む場合にも対処できるよう枠組みを拡張する。

  6. 研究計画

    7. 共通的な方法論：
    非線形の依存関係として多変量の多項式回帰を考える。ただし、各変量 の巾は整数に限定せず、実数まで認める。実際、ケプラーの法則では、 巾は 1.5となるので、巾を整数に制限しない方が幅広く法則を探すこと ができる。そうした実数巾の多項式を求める問題は、神経回路網（ニュ ーラルネットワーク）の学習問題に帰着できる。また、モデルの複雑度 と適合精度とのトレードオフは MDLなどの情報量基準を用いて解決を図 る。なお、この神経回路網学習問題は非常に収束が困難であることが知 られているので、強力な学習アルゴリズムが必要となる。すでに、数値 データだけからなる小規模データに対しては、多項式型法則発見法 RF5 を開発済みである。

    第１ステップ：多変量データがすべて数値データ（比例尺度）で構成さ れる場合を考える。データ規模増大に対処するためサンプル数が数万か ら数十万までを対象に法則発見法 RF5の有効性を評価した。また、変量 の変数変換と発見した法則との関係について考察した。

    第２ステップ：多変量データが数値データだけでなく質的データ（名義 尺度、順序尺度）を含む場合に拡張する。具体的には、法則発見法 RF5 を幾つか複合した混合 (mixture)モデルによる法則発見法を開発する。

    第３ステップ：法則発見混合モデルを本格的な例題に適用して、その有 効性を評価するとともに、必要ならば改良を加える。

  7. 発見科学に関する研究成果(開発ソフトウェアを含む)

    8. 1. 斉藤和巳, 中野良平: コネクショニストアプローチによる数法則の 発見, 情報処理学会論文誌, 37巻, 9号, pp.1708--1716, 1996.

    2. K. Saito and R. Nakano: Partial BFGS update and efficient step-length calculation for three-layer neural networks, Neural Computation, Vol.9, No.1, pp.239--257, 1997.

    3. K. Saito and R. Nakano: Law discovery using neural networks, Proc. of 15th International Joint Conference on Artificial Intelligence (IJCAI '97), pp.1078--1083, 1997.

    4. 斉藤和巳, 中野良平: MDL原理に基づく新正則化法, 人工知能学会誌, 13巻, 1号, pp.123--130, 1998.

    5. 斉藤和巳, 中野良平: HMEの構成的学習アルゴリズム, 電子情報通信学会論文誌, J81-D-2巻, 2号, pp.404--411, 1998.

    6. R. Nakano and K. Saito: Computational characteristics of law discovery using neural networks, Proc. of the 1st International Conference on Discovery Science (DS '98), LNAI Vol. 1532, pp.342--351, 1998.