矩阵中的求导

标量对向量求导 $$ y = f(x_1,\cdots,x_i,\cdots,x_n) $$ $$ X = [x_1,\cdots,x_i,\cdots,x_n] $$ $$ \frac {\partial y}{\partial X} = [\frac {\partial f}{\partial … ...more

October 02, 2019 [数学] #矩阵求导

日常笔记-1

pickle序列化与反序列化 import pickle as plk plk.dump(obj,file) # 将序列化后的二进制写入文件 plk.dumps(obj) # 返回一个二进制序列 plk.load(file) # 读文件对象中的二进制,转化成对象返回… ...more

September 24, 2019 [编程] #Python #pickle

nvidia显卡驱动错误

系统使用bumblebee实现双显卡(N卡和集成显卡)切换, 同时有N卡的开源驱动nouveau和专有显卡驱动nvidia 使用命令 optirun glxspheres64 # 或者optirun glxspher 出现错误[XORG] (EE) Failed to load module &q… ...more

September 09, 2019 [系统] #nvidia #nouveau

基于统计的分词方法

1.n元语言模型(n-gram) 假设$S$表示长度为$i$,由$(w_1,w_2,\dots,w_m)$字序列组成的句子,则代表$S​$的概率为: $$ P(S) = P(w_1,w_2,\dots,w_m) = P(w_1)*P(w_2|w_1)*P(w_3|w_2,w_1)\cdots P(w… ...more

September 08, 2019 [算法] #分词 #统计学

神经图灵机

Neural Turing Machines原文 读记忆(Read Heads) 把时刻$t$的记忆看作是一个$ N \times M $的矩阵$ M_t $,读的过成首先生成长度为$N$的定位权重向量$w_t$,表示$N$个记忆位置的权值大小,读出的记忆向量为$r_t$: $$ r_t=\… ...more

September 07, 2019 [算法] #图灵机 #神经网络