二阶相似性
二阶相似性适用于有向或者无向图(比如Deepwalk里面就用到了有向的二阶相似性) , 二阶相似性假定与其他顶点共享邻居顶点的两个点彼此相似(无向有向均可) , 一个向量u和u'分别表示顶点本身和其他顶点的特定“上下文” , 意为二阶相似 。 对于每个有向边(i,j) , 我们首先定义由生成“上下文”的概率:
模型优化
由于O2的计算代价十分的昂贵 , 因此目标函数优化时使用了负采样方法 , 为每条边指定了一个目标函数:
实验分析与展示与Deepwalk中的实验类似 。
数据集
语言网络:基于英文维基百科页面构建词共同网络社交网络:Flickr、Youtube引用网络:作者和论文引文网算法
GFDeepwalkLINE-SGD , LINELINE(1st+2nd):
对于所有方法 , 随机梯度下降的小批量大小设置为1;以起始值p0=0.025和pt=p0(1-t)设定学习速度 , T是小批量或边缘样品的总数;为了公平比较 , 语言网络嵌入的维度被设置为200;而其他网络中 , 默认设置为128;其他的默认参数设置包括:LINE的负采样k=5 , 样本总数T=100亿(LINE),T=200亿(GF) , 窗口大小win=10 , 步行长度t=40 , 对于DeepWalk , 每顶点行走y=40;所有的嵌入向量最终通过设置||w||2=1进行归一化 。
语言网络
评估学习嵌入的有效性:词类比和文档分类 。
词类比:给定一个单词对(a,b)和一个单词c , 该任务旨在找到一个单词d , 使得c
和d之间的关系类似于a和b之间的关系 。
社交网络
与语言网络相比 , 社交网络更加稀缺;将每个节点分配到一个或多个社区的多标签分类任务来评估顶点嵌入;随机抽取不同百分比的顶点进行训练 , 其余用于评估 。 结果在10次不同运行中进行平均 。 下面是在Flickr和Youtube数据集上的结果展示 。
通过GF和LINE两种方法对引用网络进行评估 。 还通过多标签分类任务评估顶点嵌入 。 我们选择7个流行会议 , 包括AAAI , CIKM , ICML , KDD , NIPS , SIGIR和WWW作为分类类别 。
稳定性
推荐阅读
-
-
文章|离婚后更潇洒!美女深夜为文章擦泪戴帽 同回住所
-
-
-
王诗龄谈恋爱了?疑似约会私照流出,李湘富养观念要翻车
-
-
一名90后辣妈妈:号称永不倒闭,最后声名狼藉,又一国产企业倒下?曾经的国产巨头
-
-
-
大千足球@但是大罗真的属于另一个级别,托蒂:我不是不尊重梅西或C罗
-
-
TVB|被雪藏3个月首现身幕前,TVB小花仍剧组回归无期,近况更现幸福肥
-
-
-
兰德酷路泽|今年最讨人喜欢的三款中大型SUV,竟有理想ONE,还是电动车
-
-
销售|开发投资转正、销售降幅收窄,楼市或基本走出疫情影响
-
疯狂|心动的信号5:“芋圆CP”合体营业,疯狂秀恩爱,就差一个官宣了
-
“女友是二婚,打算结婚准岳母提已一要求,让我想退婚了”
-
##CPU性能提升就像“挤牙膏”,为什么显卡每一代提升都那么大?