すずかけ台情報統計力学セミナー

場所: 東京工業大学 すずかけ台キャンパス (すずかけ台キャンパス案内) 会場についてはセミナー情報を御参照下さい． 外部からの御来聴を歓迎致します．

　

当セミナーは，文部科学省 科学研究費補助金・特定領域研究 「情報統計力学の深化と展開」(DEX-SMI) の活動の一環として 行われます．

　※当頁に掲載されている資料の著作権は著者自身に帰属します．

今後のセミナー予定

現在予定は有りません．

過去のセミナー

以下，２００８年度のセミナーです．

[２００８年度 第１回] 講演タイトル： Cavity approach to the spectral density of sparse symmetric random matrices 講演者： Isaac Pérez Castillo 氏　(Department of Mathematics, King's College London) 日時： ２００８年 ７月８日（火）１５：００〜 会場： すずかけ台キャンパス　Ｇ５棟１階　１０３会議室 概要： In this talk, we tackle the problem of evaluating the spectral density of sparse random matrices by using the cavity method. As we will show, this approach may offer new theoretical and practical advantages: from a theoretical point of view, it offers an alternative method to (re)derive the spectral density; practically, the resulting cavity equations can be interpreted as a belief-propagation algorithm on single instances, which can be then easily implemented. The resulting spectral density is a clear improvement over those obtained by approximative schemes. * 講演ファイル(pdf形式)

[２００８年度 第２回] 講演タイトル： Shannon Meets Carnot: Mutual Information Via Thermodynamics 講演者： Ido Kanter 氏 (Bar Ilan University, Israel) 日時： ２００８年 ８月８日（金）１４：００〜 会場： すずかけ台キャンパス　Ｇ５棟１階　１０３会議室 概要： The current scientific conception is that the theory of information is a creature of mathematics and has its own vitality independent of the physical laws of nature. We generalize the second thermodynamic law to encompass systems with temperature-dependent energy levels, and it enables us to show that information theory is a consequence of the fundamental laws of nature- the laws of thermodynamics. The laws of thermodynamics describe the transport of heat and work in macroscopic processes and play a fundamental role in the physical sciences. However, the classical thermodynamic laws fail to capture the behavior of systems with energy Hamiltonian which is an explicit function of the temperature. Such Hamiltonian arises, for example, in modeling information processing systems, like communication channels, as thermal systems. This generalized second law of thermodynamics enables to quantitatively bridge between the realm of thermodynamics and information theory. * Available manuscripts: http://xxx.lanl.gov/abs/0806.3763 http://xxx.lanl.gov/abs/0806.3133 http://xxx.lanl.gov/abs/0807.4322

以下，２００７年度のセミナーです．

[２００７年度 第１回] 講演タイトル： Clustering by soft-constraint affinity propagation: Applications to gene-expression data 講演者： Martin Weigt 氏　(Institute for Scientific Interchange, Italy) 日時： ２００７年 ９月４日（火）１４：００〜 会場： すずかけ台キャンパス　Ｇ５棟１階　１０３会議室 概要： Similarity-measure based clustering is a crucial problem appearing throughout scientific data analysis. Recently, a powerful new algorithm called Affinity Propagation (AP) based on message-passing techniques was proposed by Frey and Dueck. In AP, each cluster is identified by a common exemplar all other data points of the same cluster refer to. Since the exemplars in AP are itselves data points, they have to refer to themselves. Albeit its proved power, AP in its present form suffers from a number of drawbacks. The hard constraint of having exactly one exemplar in each cluster restricts the applicability of AP to classes of regularly shaped clusters, and leads to suboptimal performance, e.g., in analyzing gene expression data. By relaxing the AP hard constraints, we introduce a parameter controlling the algorithm's greediness. This parameter controls the importance of the constraints compared to the aim of maximizing the overall similarity, and allows to interpolate between the simple case where each data point selects its closest neighbor as an exemplar and the original AP. The resulting soft-constraint affinity propagation (SCAP) becomes more informative, accurate and leads to more stable clustering. It is easier to interpret the statistical meaning of the tuning process. Even though a new a priori free-parameter is introduced, the overall dependence of the algorithm on external tuning is reduced, as robustness is increased and an optimal strategy for parameter selection emerges more naturally. SCAP is tested on biological benchmark data, including in particular microarray data related to various cancer types. We show that the algorithm efficiently unveils the hierarchical cluster structure present in the data sets. (日本語概要：画期的なクラスタリング手法として最近脚光を浴びているAffinity Propagation (AP)の遺伝子解析への応用です．) ＊協賛： 東工大グローバルCOE「計算世界観の深化と展開」

[２００７年度 第２回] 講演タイトル： A statistical mechanics approach to combinatorial problems 講演者： Federico Ricci-Tersenghi 氏 (Dip. di Fisica, Univ. di Roma "La Sapienza") 日時： ２００７年 １１月１日（木）１５：００〜 会場： すずかけ台キャンパス　Ｇ５棟１階　１０３会議室 概要： Solving constraint satisfaction problems (CSP), like K-SAT, is a fundamental issue in Artificial Intelligence and Computer Science in general. When defined on random structures, these problems undergo phase transitions of the same kind of spin glasses. The use of ideas and methods from the statistical mechanics of disordered system has lead, in recent years, to a deep understanding of typical properties of these problems. As a consequence, powerful solving algorithms have been proposed. I will present a summary of the results obtained in this field of research. (日本語紹介：制約充足問題（Constraint Satisfaction Problem:CSP）の 統計力学的解析で国際的に活躍している若手研究者，Federico Ricci-Tersenghi 氏に CSPの統計力学に関する初心者向けの解説をお願いしました．) ＊協賛： 東工大グローバルCOE「計算世界観の深化と展開」

[２００７年度 第３回] 講演タイトル： Belief Propagation and Spectral Methods 講演者： 渡辺 治 氏 (東京工業大学 大学院数理・計算科学専攻) 日時： ２００７年 １２月６日（木）１３：２０〜 会場： すずかけ台キャンパス　Ｇ５棟１階　１０３会議室 概要： We investigate an algorithm derived based on the belief propagation method of Pearl applied to the (Min-)Bisection problem under the standard planted solution model (or more preciely the Most Likely Partition problem under the same planted solution model). We first point out that the algorithm (without thresholding) is nothing but the standard power method for computing an eigenvector with the largest eigenvalue used by some spectral method for the Bisection problem. We then show that the thresholding helps to improve an approximate solutoin (by the spectral method) to the exact solution. Through our analysis, we prove that, at least for the Bisection problem, the belief propagation can be regarded as a unified spectral type algorithm for obtaining the exact solution with high probability. (This is a joint work with Masaki Yamamoto) (日本語紹介：確率伝搬法（belief propagation）に関する理論計算機科学の 視点からの講演をお願いしました．) ＊協賛： 東工大グローバルCOE「計算世界観の深化と展開」

[２００７年度 第４回] 講演タイトル： MIMO-CDMA通信路における平均場理論とその応用 講演者： 竹内 啓悟氏（京都大学 大学院情報学研究科） 日時： ２００８年 ３月６日（木）１５：００〜 会場： すずかけ台キャンパス　Ｇ５棟１階　１０３会議室 概要：近年, ランダム拡散CDMA通信路が漸近的にシングルユーザガウス通信路に 分解される(デカップリング原理)という興味深い結果が示された. 我々はその 結果をMIMO-CDMA通信路の場合に拡張する. デカップリング原理の一つの 応用として, MIMO-CDMA通信路における空間拡散方式の設計問題を検討する. また, 応用上重要な問題であるチャネル推定を考慮に入れた場合についても 議論する. ＊協賛： 東工大グローバルCOE「計算世界観の深化と展開」 * 講演ファイル(pdf形式)

以下，２００６年度のセミナーです．

[２００６年度 第１回] 講演タイトル： メッセージ伝播法によるグラフの分割アルゴリズムとその特徴 講演者： 渡辺 治 氏　(東京工業大学 大学院数理・計算科学専攻) 日時： ２００６年 １１月７日（火）１３：００〜 会場： すずかけ台キャンパス　Ｊ２棟２階　Ｊ２２１講義室　（部屋番号 ２０３号室） 概要： ある種のランダムグラフに対するグラフ分割問題 (Graph Bisection Problem) に対して，確率伝播法 (Belief Propagation) に基づいた計算を簡単化するこ とで，単純で決定性のメッセージ伝播型のアルゴリズムを提案した [ISAAC06]． 今回の話では，まず，問題，アルゴリズムの説明を行い現在行っているアル ゴリズムの特徴についての解析について述べる．

[２００６年度 第２回] 講演タイトル： イジングモデルにおけるギブスサンプリングの収束時間の解析 講演者： 白石 友一 氏 (総合大学院大学 複合科学研究科 統計科学専攻 ： 統計数理研究所在籍) 日時： ２００７年 １月９日（火）１３：００〜 会場： すずかけ台キャンパス　Ｇ５棟１階　１０３会議室 概要： マルコフ連鎖モンテカルロ法は画像処理などの空間統計学においてもよく利用 される．しかしその際に，マルコフ連鎖が定常分布にどのくらい速く収束するかが問題 になる．頂点数がＮのIsingモデルにおけるギブスサンプリングについて， Gibbs(2000)は couplingによる方法で収束時間の上限を求めた． しかしそこで得られた結果は非常に緩い ものであり，また適用できるパラメータ領域も狭く，実用に耐えうるものではなかった． 本研究では，Gibbs(2000)の方法に改良を加え，ある程度広いパラメータ領域で適用できる 収束時間の上限を導出した．また，得られた結果が既存の結果に対して優れていることを 数値実験により実証した．

[２００６年度 第３回] 講演タイトル： 分散・統合データ解析のための情報幾何的アプローチ 講演者： 赤穂 昭太郎 氏 (産業技術総合研究所 脳神経情報研究部門 情報数理研究グループ) 日時： ２００７年 １月１６日（火）１３：００〜 会場： すずかけ台キャンパス　Ｇ５棟１階　１０３会議室 概要： センサネットワークなど，多数の分散ターミナルからの情報を統合処理する際に， 一旦各ターミナルで統計処理を行ってからそれをセンターに送って処理をすることが， 負荷分散やプライバシー保護などの観点から有効である． 本セミナーでは，指数分布族や混合モデルに対して， 情報幾何の枠組みで，統計パラメータのデータ解析を行う試みについて紹介する． * 講演ファイル(pdf形式) 参考資料 * 「情報幾何に基づく混合分布パラメータの次元縮小法」, 信学技法 NC105-657, pp.57-62 (2006) * 「情報幾何と機械学習」，計測と制御 Vol.44, No.5, pp.299-306 (2005)

[２００６年度 第４回] 講演タイトル： LDPC復号問題でのPCA眺望 講演者： 井上 真郷 氏 (早稲田大学理工学部 電気・情報生命工学科 確率的情報処理研究室) 日時： ２００７年 １月２３日（火）１３：００〜 会場： すずかけ台キャンパス　Ｇ５棟１階　１０３会議室 概要： 低密度パリティ検査符号の復号問題を，原情報の次元でなく符号語の次元で見てみるとど うなるかということを議論する．具体的にはパリティ検査を温度依存で緩めた系を定義 し，Monte Carlo法により得られた経験分布をPCAにより低次元に落として視覚化すること で，元の系の分布の性質・特徴を論ずる．また，Belief Propagationによる復号ダイナミ クスも併せて議論する．

[２００６年度 第５回] 講演タイトル： 量子揺らぎを用いた確率的情報処理に関する性能評価について 講演者： 井上 純一 氏　(北海道大学 大学院情報科学研究科 複合情報学専攻) 日時： ２００７年 １月３０日（火）１３：００〜 会場： すずかけ台キャンパス　Ｇ５棟１階　１０３会議室 概要： 量子アニーリングをはじめとする量子揺らぎを用いた確率的情報処理の性能を 情報統計力学の方法で評価する際の問題点を議論する． 特に多体系の動的側面から情報処理過程を議論する際， シュレーディンガー方程式の解として位相因子を含む波動関数を陽に求めることは 多くの場合に困難であるが，この際，どのようなマクロな量に着目すれば 処理過程をも含めた確率的情報処理の性能を妥当に評価することができるのかを， いくつかの可解模型を例にとって考察する． （当研究は和歌山工業高等専門学校 雑賀洋平氏との共同研究である．） * 講演ファイル(pdf形式)