当前位置: 首页 > news >正文

小型网站建设案例广东做网站优化公司报价

小型网站建设案例,广东做网站优化公司报价,网站开发报酬,河南省内 在哪个网站做商检表2017-PMLR-Neural Message Passing for Quantum Chemistry Paper: https://arxiv.org/pdf/1704.01212.pdf Code: https://github.com/brain-research/mpnn 量子化学的神经信息传递 这篇文献作者主要是总结了先前神经网络模型的共性,提出了一种消息传递神经网络&am…

2017-PMLR-Neural Message Passing for Quantum Chemistry


Paper: https://arxiv.org/pdf/1704.01212.pdf
Code: https://github.com/brain-research/mpnn

量子化学的神经信息传递

这篇文献作者主要是总结了先前神经网络模型的共性,提出了一种消息传递神经网络(MPNN)的单一通用框架,并在此框架内探索其他新颖的变化。在重要的分子性质预测基准上使用MPNN展示了最先进的结果。
MPNN框架如下图所示:

主要贡献:

  • 开发了一种MPNN,可在所有13个目标上实现最先进的结果,并预测13个目标中11个目标的DFT在化学精度范围内。

  • 开发了几种不同的MPNN,可以预测DFT在13个目标中的5个的化学精度范围内,同时仅对分子的拓扑结构进行操作(没有空间信息作为输入)。

  • 开发了一种通用方法,用于训练具有更大节点表示的 MPNN,而不会相应增加计算时间或内存,与以前的高维节点表示的 MPNN 相比,节省了大量成本。

消息传递神经网络

MPNN模型:节点特征 xvx_vxv和边缘特征 evwe_{vw}evw 的无向图 GGG 。正向传递有两个阶段,消息传递阶段和Readout阶段。消息传递阶段运行T个时间步长,并根据消息函数MtM_tMt和顶点更新函数UtU_tUt进行定义。在消息传递阶段,图中每个节点的隐藏状态 hvth^t_vhvt根据消息 mvt+1m^{t+1}_vmvt+1根据

其中,在总和中,N(v)N (v)N(v) 表示图 GGGvvv 的邻居。readout阶段使用一些Readout函数 RRR 根据

消息函数 MtM_tMt、顶点更新函数 UtU_tUt和readout函数 RRR 都是学习的可微函数。RRR 在节点状态集上运行,并且必须对节点状态的排列不变,以便 MPNN 对图同构不变。作者通过指定使用的消息函数 MtM_tMt、顶点更新函数 UtU_tUt 和readout函数 RRR来定义文献中的先前模型。

先前模型

  • 用于学习分子指纹的卷积网络
  • 门控图神经网络
  • 交互网络
  • 分子图卷积
  • 深度张量神经网络
  • 基于拉普拉斯方法

MPNN 变体

作者使用 ddd 来表示图中每个节点的内部隐藏表示的维度,并使用 nnn来表示图中节点的数量。对 MPNN 的实现通常运行在有向图上,具有用于传入和传出边缘的单独消息通道,在这种情况下,传入消息 mvm_vmvmvinm^{in}_vmvinmvoutm^{out}_vmvout的串联。将该图视为有向图,其中每个原始边都成为具有相同标签的传入边和传出边。请注意,边的方向没有什么特别之处,它只与参数绑定有关。将无向图视为有向图意味着消息通道的大小为 2d 而不是 d。

消息函数

矩阵乘法: 从 GG-NN 中使用的消息函数开始,该函数由等式定义

边缘网络: 为了允许向量值边特征,提出了消息函数 M(hv,hw,evw)=A(evw)hwM(hv, h_w, e_{vw}) = A(e_{vw})h_wM(hv,hw,evw)=A(evw)hw,其中 A(evw)A(e_{vw})A(evw) 是一个神经网络,它将边向量 evwe_{vw}evw 映射到 d×dd × dd×d 矩阵。

对消息:矩阵乘法规则的一个属性是,从节点 www到节点 vvv 的消息只是隐藏状态 hwh_whw 和边缘 evwe_{vw}evw 的函数。特别是,它不依赖于隐藏状态 hvth^t_vhvt。理论上,如果允许节点消息同时依赖于源节点和目标节点,则网络可能能够更有效地使用消息通道。这里,沿边 eeewwwvvv 的消息是 mwv=f(hwt,hvt,evw)m_{wv} = f(h^t_w, h^t_v, e_{vw})mwv=f(hwt,hvt,evw),其中 fff是一个神经网络。将上述消息函数应用于有向图时,使用了两个单独的函数,MinM_{in}MinMoutM_{out}Mout。哪个函数应用于特定边 evwe_{vw}evw取决于该边的方向。

虚拟图元素

探索了两种不同的方法来更改消息在整个模型中的传递方式。最简单的修改涉及为未连接的节点对添加单独的“虚拟”边缘类型。这可以作为数据预处理步骤实现,并允许信息在传播阶段长距离传播。

Readout功能

尝试了两个Readout功能。首先是GG-NN中使用的Readout函数,由公式4定义。该模型首先将线性投影应用于每个元组(hvT,xv)(h_v^T,x_v)(hvTxv),然后将投影元组的集合T={(hvT,xv)}T = \{(h_v^T,x_v)\}T={(hvTxv)}作为输入。然后,经过 M 个计算步骤后,set2set 模型生成一个图级嵌入 q∗q^∗q,该嵌入与元组 T 的顺序不变。

Multiple Towers

为了解决O(n2d2)O(n^2d^2)O(n2d2)时间复杂度,我们将 ddd 维节点嵌入 hvth^t_vhvt 分解为 kkk 个不同的 d/kd/kd/k 维嵌入 hvt,kh^{t,k}_vhvt,k,并分别对 kkk 个副本中的每个副本运行传播步骤,以获得临时嵌入 h~vt+1,k,v∈G{ \tilde{h}^{t+1,k}_v , v \in G}h~vt+1,k,vG,为每个副本使用单独的消息和更新函数。根据方程将每个节点的 kkk 个临时嵌入混合在一起

输入表征

有关所有特征列表,请参见表 1。

其中:
**化学图:**在没有距离信息的情况下,邻接矩阵条目是离散键类型:单键、双键、三键或芳烃键类型。
距离箱:矩阵乘法消息函数假定离散的边类型,因此为了包含距离信息,将绑定距离分成 10 个箱。
原始距离特征: 当使用在向量值边上操作的消息函数时,邻接矩阵的条目是5维的,其中第一维表示原子对之间的欧氏距离,其余四个是键类型的一个热编码。

QM9 Dataset

数据集中的分子由氢 (H)、碳( C)、氧(O)、氮(N)和氟(F)原子组成,最多包含 9 个重(非氢)原子。大约134k个药物样的有机分子,它们跨越了广泛的化学领域。

结果


在表2中,MPNN 在 13 目标中的 11 个目标上实现了化学精度,在所有 13 个目标上都达到了最先进的水平。


表 3 中,这三种GG-NN模型修改有助于所有 13 个目标,并且 Set2Set 输出在 13 个目标中的 5 个目标上实现了化学精度。

http://www.yayakq.cn/news/455048/

相关文章:

  • 高端网站设计有哪些wordpress html 代码
  • 网站开发工程师前景wordpress添加pdf
  • 绵阳做网站哪家公司好做网站建设要学多久
  • 做自媒体的上那些网站2m线制作
  • 中小学智慧校园建设平台网站加气站类型的网站建设
  • 品牌的网站建设如何做产品网站建设
  • 展示型网站设计站点的几种推广方式
  • 网站建设流程 文档做电影网站为什么查封不了
  • 网站建设的实验步骤软文营销策划
  • 弓长岭网站建设有固定ip怎么建设网站
  • 中国免费网站服务器免费下载python网站开发 pdf
  • 阿里云怎么放多个网站网站开发都是用什么框架
  • 做网站 先备案么我理解的网络营销是什么
  • 网站的可视化设计it外包公司排行榜
  • 国产在线免费观看高甜电影推荐天津网站seo设计
  • 建设家具网站店铺域名是什么意思
  • 网站自定义模块成都地区网站建设
  • 个人网站托管番禺建设网站公司哪家好
  • 海外建站公司比较好的网站开发框架
  • 为什么用花生壳做的网站老刷新做网站的编程语言
  • 中山模板建站公司建筑施工图纸培训班
  • 下载百度app石家庄整站优化
  • 建设部安全员证书查询网站正规网站建设报价
  • 建设部监理师网站做箱包哪个网站好
  • 廊坊购物网站开发设计沈阳微营销网站制作
  • 济南做网站哪里便宜网站开发语言哪个好
  • 网站添加手机站做网站和编程序
  • 如何用手机免费创建网站重庆刚刚发布
  • wordpress视频幻灯片南昌seo网站推广费用
  • 西北网站建设阿里巴巴国际站网页版