Ｃｏｍｐｕｔｅｒ Ｅｎｇｉｎｅｅｒｉｎｇ ａｎｄ Ａｐｐｌｉｃａｔｉｏｎｓ计算机工程与应用 动态贝叶斯网络结构学习的依赖分析方法研究 冷翠平 ，王双成 ，王辉 ＬＥＮＧ Ｃｕｉｐｉｎｇ’，ＷＡＮＧ Ｓｈｕａｎｇｃｈｅｎｇ ～，ＷＡＮＧ Ｈｕｉ １．上海立信会计学院数学与信息学院，上海２０ １ ６２０ ２．上海立信会计学院开放经济与贸易研究中心，上海２０１６２０ ３冲央民族大学信息工程学院，北京１０００８１ １．Ｓｃｈｏｏｌ ｏｆ Ｍａｔｈｅｍａｔｉｃｓ＆Ｉｎｆｏｒｍａｔｉｏｎ，Ｓｈａｎｇｈａｉ Ｌｉｘｉｎ Ｕｎｉｖｅｒｓｉｔｙ ｏｆ Ｃｏｍｍｅｒｃｅ，Ｓｈａｎｇｈａｉ ２０１６２０，Ｃｈｉｎａ ２．Ｏｐｅｎｉｎｇ Ｅｃｏｎｏｍｙ＆Ｔｒａｄｅ Ｒｅｓｅａｒｃｈ Ｃｅｎｔｅｒ，Ｓｈａｎｇｈａｉ Ｌｉｘｉｎ Ｕｎｉｖｅｒｓｉｔｙ ｏｆ Ｃｏｍｍｅｒｃｅ，Ｓｈａｎｇｈａｉ ２０ １ ６２０，Ｃｈｉｎａ ３．Ｓｃｈｏｏｌ ｏｆ Ｉｎｆｏｒｍａｔｉｏｎ Ｅｎｇｉｎｅｅｒｉｎｇ，Ｔｈｅ Ｃｅｎｔｒａｌ Ｕｎｉｖｅｒｓｉｔｙ ｆｏｒ Ｎａｔｉｏｎａｌｉｔｉｅｓ，Ｂｅｉｊｉｎｇ １ ０００８ ｌ，Ｃｈｉｎａ Ｅ－ｍａｉｌ：ｌｅｎｇｃｕｉｐｉｎｇ＠ｌｉｘｉｎ．ｅｄｕ．ｃｎ ＬＥＮＧ Ｃｕｉｐｉｎｇ，ＷＡＮＧ Ｓｈｕａｎｇｃｈｅｎｇ，ＷＡＮＧ Ｈｕｉ．Ｓｔｕｄｙ ｏｎ ｄｅｐｅｎｄｅｎｃｙ ａｎａｌｙｓｉｓ ｍｅｔｈｏｄ ｆｏｒ ｌｅａｒｎｉｎｇ ｄｙｎａｍｉｃ Ｂａｙｅｓｉａｎ ｎｅｔｗｏｒｋ ｓｔｒｕｃｔｕｒｅ．Ｃｏｍｐｕｔｅｒ Ｅｎｇｉｎｅｅｒｉｎｇ ａｎｄ Ａｐｐｌｉｃａｔｉｏｎｓ．２０１１．４７（３）：５１—５３． Ａｂｓｔｒａｃｔ：Ａｔ ｐｒｅｓｅｎｔ．ｔｈｅ ｍｅｔｈｏｄｓ ｏｆ ｌｅａｒｎｉｎｇ Ｄｙｎａｍｉｃ Ｂａｙｅｓｉａｎ Ｎｅｔｗｏｒｋ（ＤＢＮ）ｓｔｒｕｃｔｕｒｅ ｈａｖｅ ｌｏｗ ｅｆｉｃｉｆｅｎｃｙ ａｎｄ ｒｅｌｉａｂｉｌｉｔｙ． Ｌｅａｒｎｉｎｇ ｄｙｎａｍｉｃ Ｂａｙｅｓｉａｎ ｎｅｔｗｏｒｋ ｓｔｒｕｃｔｕｒｅ ｉＳ ｄｏｎｅ ｂａｓｅｄ ｏｎ ｔｈｅ ｂａｓｉｃ ｄｅｐｅｎｄｅｎｃｙ ｒｅｌａｔｉｏｎｓｈｉｐ ｂｅｔｗｅｅｎ ｖａｒｉａｂｌｅｓ ａｎｄ ｄｅｐｅｎ－ ｄｅｎｃｙ ａｎａｌｙｓｉｓ ｍｅｔｈｏｄ．Ａ ｓｋｅｔｃｈ ｏｆ ｄｅｐｅｎｄｅｎｃｙ ｒｅｌａｔｉｏｎｓｈｉｐ ｂｅｔｗｅｅｎ ｖａｒｉａｂｌｅｓ ｉｓ ｂｕｉｌｔ．Ｔｈｅｎ ｔｈｅ ｒｅｄｕｎｄａｎｔ ｅｄｇｅｓ ｃａｎ ｂｅ ｇｏｔ ｒｉｄ ｏｆ ｂｙ ｔｈｅ ｃｏｎｄｉｔｉｏｎａｌ ｉｎｄｅｐｅｎｄｅｎｔ ｔｅｓｔ．Ａｎｄ ｔｈｅ ｅｄｇｅｓ ａｒｅ ｏｒｉｅｎｔｅｄ ｔｈｒｏｕｇｈ ｔｈｅ ｃｏｌｌｉｓｉｏｎ ｉｄｅｎｔｉｆｙ ａｎｄ ｔｈｅ ｒｅｌ￣ｉｖｅ ｃｏｎｄｉｔｉｏｎａｌ ｐｒｅｄｉｃ－ ｔｉｏｎ ｃａｐａｂｉｌｉｔｙ．Ｔｈｅｒｅｆｏｒｅ，ｔｈｅ ｄｙｎａｍｉｃ Ｂａｙｅｓｉａｎ ｎｅｔｗｏｒｋ ｓｔｕｃｔｕｒｅ ｃａｎ ｂｅ ｅｓｔｒａｂｌｉｓｈｅｄ．Ｔｈｉｓ ｍｅｔｈｏｄ ｈａｓ ｈｉｇｈ ｅｆｉｃｉｆｅｎｃｙ ａｎｄ ｒｅｌｉａｂｉｌｉｔｙ． Ｋｅｙ ｗｏｒｄｓ：Ｄｙｎａｍｉｃ Ｂａｙｅｓｉａｎ Ｎｅｔｗｏｒｋ（ＤＢＮ）；ｄｅｐｅｎｄｅｎｃｙ ａｎａｌｙｓｉｓ；ｐｒｉｏｒ ｎｅｔｗｏｒｋ；ｔｒａｎｓｉｔｉｏｎ ｎｅｔｗｏｒｋ；ｓｔｒｕｃｔｕｒｅ ｌｅａｒｎｉｎｇ 摘要：针对现有动态贝叶斯网络结构学习方法具有低效率和低可靠性等问题，基于变量之间的基本依赖关系和依赖分析方法 进行动态贝叶斯网络结构学习。建立变量之间依赖关系草图，通过条件行检验去除多余的边，使用碰撞识别和条件相对预 测能力确定边的方向，便可得到构成动态贝叶斯网络结构的先验网和转换网。该方法在效率和可靠性方面均具有优势。 关键词：动态贝叶斯网络；依赖分析；先验网；转换网；结构学习 ＤＯＩ：１０．３７７８￣．ｉｓｓｎ．１００２—８３３１．２０１１．０３．０１５ 文章编号：１００２—８３３１（２０１１）０３—００５１—０３ 文献标识码：Ａ 中图分类号：ＴＰ３９１ １ 引言 动态贝叶斯网络” （ＤＢＮ）是标准贝叶斯网络的扩展，将时 间因果关系和变量因果联系有机结合在一起，可用于多变量 随机过程的模拟和动态因果分析。ＤＢＮ同标准贝叶斯网络一 样也由结构和参数两部分构成，根据结构和数据集可估计出 参数，因此结构学习同样是ＤＢＮ学习的核心。在平稳性和马 尔科夫性假设下，ＤＢＮ结构学习转化为先验网（ｐｒｉｏｒ ｎｅｔ． 构学习。在实际问题中一般不具有结点顺序的先验知识，现 有的结点排序算法具有与结构学习接近的复杂度，而且不能 保证是因果顺序。 针对上述问题，基于变量之间基本依赖关系和依赖分析 方法进行动态贝叶斯网络结构学习。首先构造用于结构学习 的数据集，并在此基础上，通过变量之间互信息计算建立依赖 关系草图；然后通过条件性检验去除多余的边；最后使用 碰撞识别和条件相对预测能力确定边的方向，实现基于依赖 分析的动态贝叶斯网络结构学习。 用 Ｏ］， １］，…，ｘ［ｒ】表示随机向量序列，ｓｉｔ］＝｛ ［ ， …ｗｏｒｋ）和转换网（ｔｒａｎｓｉｔｉｏｎ ｎｅｔｗｏｒｋ）学习问题 ］。目前建立 ＤＢＮ结构主要依靠专家知识和打分．搜索方法 。第一种方 法，当变量较多时不易实现，而且由不同专家主观知识得到的 ＤＢＮ结构往往具有一定的差异，不便于交流、比较和分析；第 二种方法具有较好的理论基础，但打分函数的计算复杂程度 ， ｝，ｘ［ｔ］＝｛Ｘ１ Ｘ２ …，Ｘｎ［『］｝ 其值，Ｄ Ｄ …， Ｄ［ｔ】表示具有Ⅳ【０】，Ⅳ【１ ．，Ｎ［ｔ】个例子的时间片数据集，在概 和结构搜索空间的大小都随变量增加指数增长，因此一般要 求结点具有顺序，并采用贪婪（ｇｒｅｅｄｙ）或随机搜索方法进行结 率模式中的变量和表示概率模式的图形模式中的结点有时不 加区分 基金项目：国家自然科学基金（ｔｈｅ Ｎａｔｉｏｎａｌ Ｎａｔｕｒａｌ Ｓｃｉｅｎｃｅ Ｆｏｕｎｄａｔｉｏｎ ｏｆ Ｃｈｉｎａ ｕｎｄｅｒ Ｇｒａｎｔ Ｎｏ．６０６７５０３６）；上海市市本级财政部门预算项目 （Ｎｏ．１１３８ＩＡ０００５）；上海高校选拔培养优秀青年教师科研专项基金（Ｎｏ．ｓｉｘ一０７０１０）；上海市教委重点学科“国际贸易”（第五期）。 作者简介：冷翠平（１９７９一），女，博士，讲师，研究领域为智能控制与数据采掘；王双成（１９５８一），男，博士，教授，研究领域为人工智能，机器学习， 数据采掘及其应用。 收稿日期：２００９．０５．２５修回日期：２００９．０７．２６ Ｃｏｍｐｕｔｅｒ Ｅｎｇｉｎｅｅｒｉｎｇ ａｎｄＡｐｐｌｉｃａｔｉｏｎｓ计算机工程与应用 ２动态贝叶斯网络分析 一量条件性检验，分别用，（ ， ）和，（ ， ， ．，，…， ） 般动态贝叶斯网络研究非常复杂，为简化问题，给出马 表示变量 和 之间的互信息和以 ， ，，…， （“ ≠ｆ，Ｊ， 尔科夫和平稳性两个假设。马尔科夫假设使得 【，＋１］／ｘ［ｏ］， ［１】＿…， 嵋）： ［Ｈ １］Ｉｘ［ｔ］），而平稳性假设将对所有的ｔ，转 移概率 ［ｆ＋１］ｘＩ［ｔ］）都相同。这样可以得到联合概率的如下 分解形式： 七＝１，２，…，ｈ）为条件的条件互信息，对给定的小正数ｓ（一般 取８＝０．Ｏ１），如果Ｉ（Ｘｉ， ＩＸ．．，…，， ， ）＜ｓ，就认为 和 ．之间条件。用Ｄ【ｆ一１，ｔ】表示由向量（ｘｌ“Ｉｔ一１】， ’Ｉｔ一１】，…， ｘ Ｉ ’Ｉｔ一１］，ｘ “Ｉｔ］， 【，】，．一， ’【ｆ】）， ｆ≥１，１＜ｋ＜ｍｉｎ｛Ｎ［ｔ一１】，Ⅳ［ｆ】） ｐ（ 【０】， 【１】，…， ［ 】）＝ ｘ【ｏ］）Ｉ Ｉ ｐ（ ［ｆ＋１］ ［ｆ】） ，＝ｌ 构成的数据集，其中ｘ【＾１Ｉｔ～１】，ｘ ｐ—１］，…，ｘ Ｉｔ一１】和 ［ｆ］， 用于分解计算 【０］）和ｐ（ｘＩｔ＋１】 ［ｆ］）的贝叶斯网络分别称为 ｘ ’【ｆ］，…， ｆ］分别是数据集Ｄ［，一１］和Ｄ 中的第ｋ个记录。 先验网（用Ｇ 表示）和转换网（用Ｇ 表示），即 ｐ（ｘ［Ｏ］）－－ｐａｏ 【ｏ］）＝ｌｊ：ｌ Ｉｐ（ ｘ ｏ］ ｌ【０］） ｐ（ ［ｆ＋１】 ｐ］）＝ｐ。一（ 【，＋ｌ】 【 ］）＝ｒ１ｐ（ｘ 】１ 【『Ｊ，ｚｒｊ［ｔ一１】） 其中，７／＊ｉ［ｏ］是先验网中 ［ｏ］父结点集ｎ 【ｏ］的配置，７ｒｉ［ｔ】和 ￣ｒｉ［ｔ—ｌ】分别是 在转换网络中属于｛ ，Ｘ２［ｔ］，…，ｘｏ［ｔ］｝的 父结点集Ⅱ ∽和属于｛Ｘ￣［ｔ－ｌ】，Ｘ２［ｔ一１】，…， ｐ一１】｝的父结点 集Ｈ Ｉｔ—ｌ】的配置。图１是Ｆｒｉｅｄｍａｎ［”给出的一个简单动态贝 叶斯网络结构的构成和展开形式。 （ａ）先验网 （ｂ）转换网 （ｃ）展开后的动态贝叶斯网络结构 图１动态贝叶斯网络结构图 ３动态贝叶斯网络结构学习 在平稳性和马尔科夫性假设下，动态贝叶斯网络结构学 习可转化为先验网和转换网的学习问题，而且两个网络可独 立地进行学习。先验网学习可采用基于依赖分析的贝叶斯网 络学习方法，下面主要研究如何进行转换网学习。 利用贝叶斯网络的信息管道模型［６－７］描述变量之间存在的 三种基本依赖关系（边）：（１）传递依赖（ｔｒａｎｓｉｔｉｖｅ ｄｅｐｅｎｄｅｎｃｉｅｓ）， 结点之间存在直接的信息流动，而且信息流不能被其他结点 所阻塞，结点所表示的变量之间边缘和条件依赖；（２）非传递 依赖（ｎｏｎ．ｔｒａｎｓｉｔｉｖｅ ｄｅｐｅｎｄｅｎｃｉｅｓ），结点之间不存在直接的信 息流动，而是由连接两结点之间的开路嗍（不含碰撞结点的路 径称为开路，否则称为闭路，没有方向的通路称为路径或链 路）产生信息流，这种信息流被切割集 ｌ中的结点所阻塞，两个 结点所表示的变量之间边缘依赖，但条件；（３）导出依赖 （ｉｎｄｕｃｅｄ ｄｅｐｅｎｄｅｎｃｉｅｓ），这种依赖是由Ｖ结构 所导致，结点 之间不存在直接的信息流动，而是由 结构中的碰撞结点诱发 的信息流，结点所表示的变量之间边缘，但条件依赖。结 点之间具有上述三种依赖关系的边分别称为第一、第二和第 三种边。 在转换网中存在两类边，一类是 ｐ一１Ｊ和 们之间的边， 称为时序边；另一类是Ｘｊ［ｔ］和Ｘｊ［ｔ】之间的边，称为非时序边。 建立转换网就是基于数据集Ｄ［ｔ一１，ｔ１确定时序和非时序边并 为其定向的过程。使用互信息和条件互信息进行变量之间定 ３．１增加第一种边 用Ｇ一表示转换网，并初始化为只有结点没有边的平凡 图。依次进行互信息，（ 【卜１】， ［ｔ］ｌＤ［ｔ一１，ｒ】）（ ｌ，２，…， ， Ｊ＝１，２，…， ）和，（ ［ｆ】， Ｄ『ｆ一１，，］）（ １，２，…，ｎ，Ｊ＝１，２， …，ｎ， ）计算，如果Ｉ（Ｘｉ［ｔ一１】，Ｘｉ［ｔ］Ｄｔｔ—ｌ， 】）＞ｅ，在Ｇ 中增 加边时序边 卜１卜 ［ｆ］，如果，（ ［ｆ］． ［ｔ］ｌＤ［ｔ一１，ｆ】）＞ｓ，在 Ｇ 中增加边非时序边Ｌ［ｔ卜Ｌｉｔ］，这一过程需要ｎ（３ｎ—１），２ 次互信息计算。 ３．２去除第二种边 由于在增加第一种边的同时会增加一些第二种边，下面 分别给出去除第二种时序边和非时序边的方法。 对于ｊＥ日寸序边，在Ｇ．＋中，用Ｓｘ［ｄ（ ［ｆ】， ［ｆ］）和Ｓｘ，￣［ｔｌ（ ［ｆ】， ［ｆ］） 分别表示 和Ｘｊ［ｔ】的邻域中在ｘＪｔ】和 ，】链路（两个结点之 间的无向通路）上的结点集， （ ｐ】， ）表示 ｌ『ｆ】 ， ［，】） 和 ｌ，（ｌ 【『］， ｆ】）中具有较少结点的结点集。对存在边的结 点对 Ｘｊ［ｔ］，设Ｓ（Ｘ／［ｔ］， ［ｆ］）＝｛ “’” ［ ，…， 一［ｆ］｝， 如果存在ｊｏ（１ ０ ｖ）使，（ ’［ｆ］，Ｄ［ｔ－１，ｆ】）＜ｓ，在 Ｇ．＋中删除边 小一 ［ｆＪ；否则，选取 ’”［ｆ】：ａｒｇ ａｒｉｎ｛，（ 【ｆ】， 】 “ ［ｆ】，Ｄ［ｆ一１，ｆ］）），１≤ ’≤ｖ ”ｌｆｌ ｖ ’ 如果存在ｊｏ（１ 。 ｖ，ｊ。 ）使 ，（ 【 ， 【，１Ｊ 【『］， ’【ｆ】，Ｄ［ｔ一１，ｆ］）＜８ 在Ｇ 中删除边ｘＪｔ卜 『］；重新确定 （ 【 ， ［ｆ］），由于产生 第二种依赖的信息流往往能被少数结点所阻塞（多数情况是 一个或两个结点），因此，大部分的第二种边已被清除。 （ ［ｆ】， ｆ］）将具有很少的冗余结点，如果 ，（ Ｉｔ］ＩＳ（Ｘ，［，】， 嘲），Ｄ［ｔ一１， ）＜ｓ 在Ｇ 中删除边 ［ｆ］一Ｘｊ［ｔ】。这一过程最多需要２ｎ 次条件互 信息计算。 ’［对于时序边，用Ｓｘ ）表示 ，］的时间ｌ［ｔ］（Ｘｉ［ｔ一１】， ［ｆ］）＝｛ “ ’ ｈｊ）［ｒ】，…， ｔ 片邻域中在 ｆ～］和１ Ｘｆｌｔ】 路上 链的结点集，使用和去除第二种时序边类似的方法可检验边 ［ｆ一１】一Ｘｊ［ｔ］的存在性。 ３．３确定边的方向 确定边的方向分为两个阶段，第一阶段使用高效率的碰撞 识别为部分边定向，然后再基于条件预测能力为其他边定向。 ３．３．１基于碰撞识别的定向 在Ｇ．＋中可能存在三种 结构，分别是 ［小 冷翠平，王双成，王［ｆ】，Ｘｉ［ｔ一１】 ［ 和 ｆ一１】 ［ｒ】 辉：动态贝叶斯网络结构学习的依赖分析方法研究 一１】，前两 种情况可用于定向。对选择的结点对Ｌ［ｔ一１］和 ，Ｊ，设它们 之间不存在边，在Ｇ 中与 ［，一１］和 ｆ】可能形成Ｖ结构的 结点为 ［ｆ］（根据转换网的含义，不存在ｔ一１ ， ，Ｉｔ］，…， 【，．时间片的结点），对每一个可能的 结构进行碰撞识别（具体识 别方法参看文献【７】），如果 『ｆ一１】和Ｘｊ［ｔ］与 构，便定向为 ［，］ ．［小陶成 结 （ａ）先验网 ［ｆ】（由转换网的构成， ｆ一１］和 Ｍ ．之间边的方向为 【卜１］ ［ｆ］）。对结点对 ｆ］和 ［ 可 做类似处理。这一过程最多需要－（－一１） 一２）次条件互信息 计算。 ３．３．２基于预测能力的定向 对任意的两个变量 和 ［『］，在排除其他变量影响的 情况下（以不包括两个变量本身的两个变量的马尔科夫毯中 变量为条件，变量集可排除其他变量的影响），如果Ｌ［ｔ】对 Ｘｊ［ｔ］比 ｆ】对Ｘｉ［ｔ］更具有条件预测能力，因果方向应该由 【ｆ］指向Ｘｉ［ｔ］。 记Ｆ（ …， ［嵋 ㈤为变量 【 ， …， ，．［ｔ】对 ［ 的预测能力， Ｆ（Ｘｍ．［ ， ［ 一， ［ ［ｆＪ） ：，［『】， ，［ｆ］＿…， ［ｒ］）’ １ ｊ ’ 【『＿ ｍ ａｘ， 『ｆ１）｛ ，［ ｍ： 一， ［ｆ］）） 其中，１ ｍ＾≤ ，１ ｖ，ｍ＾≠ｉ，称其为以 ［ｆ】， ［ …， ．［『］为条件， ［，】对 Ｍ的条件预测能力 （ ． ｍ…， ［ｆ】， ｆ］）＝ Ｆ（ ．Ｉｔ］， …， 【ｆＪ ，】）， Ｆ（ ．［ｆ】， ，［ｆ ‘， ［嵋 ［ ） ．．为ｘｊ［ｔ］对 的条件相对预测能力，其中 ≠ｆ√≠ｍ＾，ｈ＝１， ２，…，ｖ。 用 （ 【ｆ】）表示 ［ 的父结点、子结点、子结点的父结点、 以及与 ｒ］通过无向边直接连接的结点（不包括 ）集，在 Ｖ结构可识别假设下，可以证明 （ Ｉｔ］）Ｕ Ｍ是Ｌ［ｔ】的马尔 科夫毯 ・ 。当Ｂ（ ［ｆ］）Ｕ （ ［ｆ】）中变量给定时，除 『］和 之间的依赖外，能够排除其他变量的影响。 如果 （ （ ［ｆ］）Ｕ （ ）， ）＞ （ 【ｒ］）Ｕ （ ）， ＸｊＥｔ】 ），而且 小 ｘｊ［ｔ］不产生环路，就定向为 ［ｆ］ Ｘｆｌｔ】，否则定向为 ＋＿Ｘｊ［ｔ］。 综Ｅ昕述，基于依赖分析建立转换网的时间复杂度是Ｏ（ｎ ）。 ４实验 根据宏观经济研究需求，选择指标（变量）中国工业增加 值（ ）、世界工业增加值（ ）、中国消费价格（ ）、世界消费 价格（ ）、中国生产价格（ ）、当月出口（ ）、当月进Ｅｌ（ ）、 名义有效汇率（ ），并从中国统计年鉴中获取这些变量的时 间序列数据，通过建立动态贝叶斯网络结构来发现它们之间 的静态和动态因果联系。使用前面给出的方法所建立的初始 网和转换网结构，如图２所示。 （ｂ）转换网 图２学习得到的先验网和转换网图 通过与领域专家的交流，前面学习得到的静态初始网和 动态转换网即反映了经验中的因果联系，同时还展示了许多 专家经验中所没有，而却在数据中蕴含的因果关系，切实起到 了客观因果知识对主观因果经验的修正和补充的作用，有助 于提高宏观经济分析与决策科学化水平。 ５结语 建立了一种有效实用的从数据中发现动态贝叶斯网络结 构的方法。该方法通过互信息和条件互信息计算来识别变量 之间的依赖和条件性，并借助碰撞识别和条件相对预测 能力确定无向边的方向，从而得到初始网和转换网，不需要结 点顺序的先验知识，算法具有多项式级复杂度。 参考文献： ［１】Ｆｒｉｅｄｍａｎ Ｎ，Ｍｕｒｐｈｙ Ｋ，Ｒｕｓｓｅｌｌ Ｓ．Ｌｅａｒｎｉｎｇ ｔｈｅ ｓｔｒｕｃｔｕｒｅ ｏｆ ｄｙ— ｎａｍｉｃ ｐｒｏｂａｂｉｌｉｓｔｉｃ ｎｅｔｗｏｒｋｓ［Ｃ］／／Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ １４ｔｈ Ｉｎｔｅｍａ— ｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｕｎｃｅｒｔａｉｎｔｙ ｉｎ Ａｒｔｉｉｆｃｉａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ，Ｍａｄｉ— ｓｏｎ，１９９８：１３９—１４７． ［２］Ｐｅ￣ａａ Ｊ Ｍ，Ｂｊｏｒｋｅｇｒｅｎｂ Ｊ，Ｔｅｇｎ６ｒ Ｊ．Ｌｅａｒｎｉｎｇ ｄｙｎａｍｉｃ Ｂａｙｅｓｉａｎ ｎｅｔｗｏｒｋ ｍｏｄｅｌｓ ｖｉａ ｃｒｏｓｓ—ｖａｌｉｄａｔｉｏｎ［Ｊ］．Ｐａｔｔｅｍ Ｒｅｃｏｇｎｉｔｉｏｎ Ｌｅｔ— ｔｅｒｓ，２００５，２６（１４）：２２９５—２３０８． 【３】Ｇａｏ Ｓ，Ｘｉａｏ Ｑ Ｋ，Ｐａｎ Ｑ，ｅｔ ａ１．Ｌｅａｒｎｉｎｇ ｄｙｎａｍｉｃ Ｂａｙｅｓｉａｎ ｎｅｔ— ｗｏｒｋｓ ｓｔｒｕｃｔｕｒｅ ｂａｓｅｄ ｏｎ Ｂａｙｅｓｉａｎ ｏｐｔｉｍｉｚａｔｉｏｎ ａｌｇｏｒｉｔｈｍ［Ｊ］．Ｌｅｃ— ｔｕｒｅ Ｎｏｔｅｓ ｉｎ Ｃｏｍｐｕｔｅｒ Ｓｃｉｅｎｃｅ，２００７，４４９２：４２４－４３ １． ［４］吴志勇，蔡莲红．基于动态贝叶斯网络的音视频双模态说话人识 别［Ｊ】．计算机研究与发展，２００６，４３（３）：４７０．４７５． ［５欧阳赞，５］马建文，戴芹．利用动态贝叶斯网络进行多时相遥感变化 检测［Ｊ】．电子与信息学报，２００７，２９（３）：５４９—５５２． 【６】王双成，苑森淼．具有丢失数据的可分解马尔科夫网络结构学习［Ｊ】． 计算机学报，２００４，２７（９）：１２２１．１２２８． ［７】王双成，苑森淼．具有丢失数据的贝叶斯网络结构学习研究［Ｊ］．软 件学报，２００４，１５（７）：１０３０—１０４１． ［８］Ｃｈｅｎｇ Ｊ，Ｇｒｅｉｎｅｒ Ｒ，Ｋｅｌｌｙ Ｊ．Ｌｅａｒｎｉｎｇ Ｂａｙｅｓｉａｎ ｎｅｔｗｏｒｋｓ ｆｒｏｍ ｄａｔａ：Ａｎ ｅｆｉｆｃｉｅｎｔ ａｐｐｒｏａｃｈ ｂａｓｅｄ ｏｎ ｉｎｆｏｒｍａｔｉｏｎ—ｔｈｅｏｒｙ［Ｊ］．Ａｒｔｉｉｆ— ｃｉａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ，２００２，１３７（１／２）：４３－９０． ［９］Ｃｈｉｃｋｅｒｉｎｇ Ｄ Ｍ．Ｌｅａｒｎｉｎｇ ｅｑｕｉｖａｌｅｎｃｅ ｃｌａｓｓｅｓ ｏｆ Ｂａｙｅｓｉｎａ ｎｅｔ— ｗｏｒｋ ｓｔｕｒｃｔｕｒｅｓ［Ｊ］．Ｍａｃｈｉｎｅ Ｌｅａｒｎｉｎｇ。２００２，２（３）：４４５・４９８．
