第134章 我要做那刺破阴影的利刃(2/3)
ets》(深度信念网络的快速学习算法),那么他直接复制下来不就行了?当然不行!
这是工科论文,不是文科社论......
想要发表,是需要带实验环境和数据的。
他就必须要在这台超算上完整地跑一遍DBN(深度信念网络)。
但提前四五年来跑,谈何容易?
目前,他手头能直接拿来用的,也就是1998年杨立昆公开的MNIST原始数据集——他早已经下载来了。
外加超算预装的 IBM ESSL高性能数学库、标准 BLAS/LAPACK线性代数库,基础矩阵乘法、向量运算、随机数底层算子都可直接调用,不用从零手写。
除此之外,所有的一切算法算子优化策略,他都需要......
自己!写!
——完整 RBM受限玻尔兹曼机类。
——DBN多层堆叠逻辑。
——对比散度(CD-k)。
——逐层贪心无监督预训练。
——BP全局微调模块。
——学习率自适应、权重衰减、batch训练。
——AIX系统适配、多核并行优化………………
当初余江在天网课题组拉清单时,闫宏飞师兄趁他不在看了一眼,拿闫师兄的话说就是,瞬间头皮发麻,感觉自己这些年读博读了个寂寞。
好在这些东西都是.C,写完可以放在AIX上直接用,不然真得喊天了。
时间慢慢过去,他接着此前的进度,在房门被叩响时终于写完微调模块的最后一层BP梯度传播逻辑。
默默算了一下时间,起码还要高强度拍半个月,他便叹了口气。
“你叫什么气?”
沈予慧推开门时,正好看到余江一边叹气一边起身。
“我感觉我命苦。
沈予慧眼睛瞬间就瞪大了,噗的笑出了声:“你还命苦?”
“是啊!慧姐,你不知道,你弟我在干一项多么牛逼的壮举!”
余江高举双臂,做了个拉伸,仰天长叹:
“现在的人工智能领域,彻底笼罩在统计学派的阴影下,他们视我们连接主义(神经网络)为异端、玄学、黑箱、骗子、痴人......而我!就要做那刺破阴影的利刃,照亮黑夜的明灯!”
听着余江的中二抒情,沈予慧脸色一变,快步上前,闪电般地用手摸了摸他的额头。
余江一怔:“干嘛?”
“担心你脑子坏了。”
""
“哎!你看看,你还是我姐,你都不信我牛逼。”
沈予慧一阵无语:“我信,但你要再这么神叨叨的,我怕你变成章鱼博士。”
“唉,就是觉得有点心累。”
余江又是一叹。
他刚才虽然中二了一番,但确实是心中有感。
这些天他待在视听国重写测试工具,很明显能感觉到,各个组的师兄师姐对他的态度,是敬而远之。
是的,整个视听国重,目前的研究领域,都已经转向了统计学派,可以说是统计学派的大本营!
语音识别是隐马尔可夫模型(HMM),自然语言处理是朴素贝叶斯分类器+TF-IDF权重统计+HMM+CRF......
包括石院士的指纹识别系统亦是如此。