
深度学习推断有向无环图因果关系(,DAG-GNN,DAG-GAN)
因果关系推理,相关关系,求解思路大转变。DAG-GNN,DAG-GAN
一、因果关系
本科烂大街,硕士满大街,博士大街挑。如今一颗好的白菜也被挑来挑去,部分终将烂大街。这里存在一种因果关系,首先你必须有本科学历,才可以有硕士或博士学历。本科是因,硕士是果。反过来不成立。他是有向的,且无环的。也就是有向无环图。(directed acyclic graphs:DAGs)。
现实中往往潜在这样的关系,如某人他考上了985的博士。这个人有一些特性(特征或属性):如爱跑步、成绩好、爱学习。(这三个属性对应图的节点,节点的表示可标量或向量)那这三者直接的关系我们并不能显示知道,可否推断出这三者之间的因果关系。或者相关关系。
二、相关关系
上述三者如果去除方向就是相关关系,如成绩好与爱跑步、爱学习成正相关。假如他还有个属性讨厌打游戏的人。那打游戏就和成绩好负相关。
三、寻找他们之间的关系-NP难
寻找属性与属性(节点)之间的关系,也就是找出他们的结构,我们发现他是一种组合优化问题,存在NP难问题,随着节点的增加成指数增长。无非就是构建属性与属性之间是否有关系,有关系为1,无关系为0;其实就是找图的邻接矩阵A。可否通过某种方式来解决。
四、解决结构学习组合优化问题
2018年卡耐基梅隆大学的zhang提出DAGs with NO TEARS解决这个问题。他们将结构学习问题表述为在实矩阵上的纯粹连续优化问题,从而完全避免了这种组合约束。可见这种换个角度解决问题的方式是多么巧妙,突破传统思维。
相关论文详细解读见:
1.[Causal Inference论文笔记]DAGs with NO TEARS
其中最后生成模型训练可能看不懂,可以学习一下这个最大似然估计:最大似然估计
2.DAGs with NO TEARS
接下来是这篇
3.DAG_GNN:一种基于VAE的DAG结构学习架构
4.DAG-GAN:使用生成对抗网络进行因果结构学习
但DAG-GAN没有给代码,用的是原数据进行编码,并不是随机生成的数据。他加入MMD的思想可以借鉴。但目前重现效果远差DAG-GNN,后期在研究,是否写错代码。先退回VAE的思想进行研究。
更多推荐
所有评论(0)