深度卷积神经网络(CNNs)在特征识别相关任务中取得的效果,远比传统方法好。因此,CNNs常用于图像识别、语音识别等。但是,因为CNNs结构庞大,一般都会包含几十个神经层,每一层,又有数百至数千个神经...
深度学习DNA序列onehot方法
在利用深度学习模型分析DNA序列时,需要对DNA序列进行one hot encoding。以下是使用PyTorch对DNA序列进行One-hot编码的三种方法,并整合在一个代码中,同时计算不同方法处理...
一文读懂卷积神经网络(CNN)
先明确一点就是,Deep Learning是全部深度学习算法的总称,CNN是深度学习算法在图像处理领域的一个应用。 第一点,在学习Deep learning和CNN之前,总以为它们是很了不得的知识,总...
深入理解Transformer及其源码
深度学习广泛应用于各个领域。基于transformer的预训练模型(gpt/bertd等)基本已统治NLP深度学习领域,可见transformer的重要性。本文结合《Attention is all ...
深度学习中的优化算法总结
深度学习中的优化问题通常指的是:寻找神经网络上的一组参数θ,它能显著地降低代价函数J(θ)。针对此类问题,研究人员提出了多种优化算法,Sebastian Ruder 在《An overview of ...
常用的模型评估指标
“没有测量,就没有科学。”这是科学家门捷列夫的名言。 在计算机科学中,特别是在机器学习的领域,对模型的测量和评估同样至关重要。只有选择与问题相匹配的评估方法,我们才能够快速的发现在模型选择和训练过程中...
神经网络训练技巧汇总(Tricks)
前言 神经网络构建好,训练不出好的效果怎么办?明明说好的,拟合任意函数(一般连续)?可以参考:http://neuralnetworksanddeeplearning.com/ 说好的足够多的数据(h...
深度学习中使用的batchsize, step(iteration), epoch 含义以及其关系
在深度学习中,常常会遇到batch size, step(iteration), epoch等词。对于很多新手不太清楚这些词之间的关系是什么。这里做一个简单介绍。 名词 定义和含义 epoch 一个e...
六大聚类算法快速了解
在机器学习中,无监督学习一直是我们追求的方向,而其中的聚类算法更是发现隐藏数据结构与知识的有效手段。目前如谷歌新闻等很多应用都将聚类算法作为主要的实现手段,它们能利用大量的未标注数据构建强大的主题聚类...
手推公式带你轻松理解L1/L2正则化
前言 L1/L2正则化的目的是为了解决过拟合,因此我们先要明白什么是过拟合、欠拟合。 过拟合:训练出的模型在测试集上Loss很小,在训练集上Loss较大 欠拟合:训练出的模型在测试集上Loss很大,在...