对于一个单标签多分类问题,假设网络的输出层的输入为$Z_{in}=[z_1,\cdots,z_i,\cdots,z_n]$, 输出为$\hat Y=[\hat y_1,\cdots,\hat y_i,\cdots,\hat y_n]$, 真实类标签为$Y = [y_1,\cdots,y_i,\cdo… ...more

标量对向量求导 $$ y = f(x_1,\cdots,x_i,\cdots,x_n) $$ $$ X = [x_1,\cdots,x_i,\cdots,x_n] $$ $$ \frac {\partial y}{\partial X} = [\frac {\partial f}{\partial … ...more

pickle序列化与反序列化 import pickle as plk plk.dump(obj,file) # 将序列化后的二进制写入文件 plk.dumps(obj) # 返回一个二进制序列 plk.load(file) # 读文件对象中的二进制,转化成对象返回… ...more

系统使用bumblebee实现双显卡(N卡和集成显卡)切换， 同时有N卡的开源驱动nouveau和专有显卡驱动nvidia 使用命令 optirun glxspheres64 # 或者optirun glxspher 出现错误[XORG] (EE) Failed to load module &q… ...more

1.n元语言模型(n-gram) 假设$S$表示长度为$i$，由$(w_1,w_2,\dots,w_m)$字序列组成的句子，则代表$S​$的概率为： $$ P(S) = P(w_1,w_2,\dots,w_m) = P(w_1)*P(w_2|w_1)*P(w_3|w_2,w_1)\cdots P(w… ...more

Neural Turing Machines原文 读记忆(Read Heads) 把时刻$t$的记忆看作是一个$ N \times M $的矩阵$ M_t $,读的过成首先生成长度为$N$的定位权重向量$w_t$,表示$N$个记忆位置的权值大小,读出的记忆向量为$r_t$: $$ r_t=\… ...more

Edge-Labeling Graph Neural Network for Few-shot Learning[原文] 小样本学习的边缘标签图神经网络 将样本映射到图中的节点,边表示节点之间的相似度,通过已知样本预测未知样本 Graph Neural Network 主要利用邻域聚合框架(通过对相… ...more