liuyangfei的博客

Logistic Regression的理解与推导

LR

线性模型线性模型的一般向量形式为线性回归的学习目标是使得模型的输出接近真实$f(x_i)\simeq y_i$ 损失函数为均方误差通过最小二乘法求解。广义线性模型 Logistic Regression 当$g(x) = \frac{1}{1+e^{-x}}$ 时，对应的线性模型形式为将$\eqref{eq4}$看作正类的概率，我们可以通过极大似然估计来求解参数...

Posted by 柳阳飞 on June 11, 2020

SVM支持向量机的理解与推导

SVM

第一部分：样本集线性可分给定训练样本集$D={(x_1,y_1),(x_2,y_2),…,(x_n,y_N)}$，其中$y_i\in{(-1, 1)}$分类学习的目的是在样本空间中找到一个划分超平面，将不同类划分开。但是能将训练样本划分开的超平面有很多，SVM的选择方式就是最大化两个异类样本之间的间隔。下图来自知乎-支持向量机在线性空间中，划分超平面可以用如下的线性方程表示：因此...

Posted by 柳阳飞 on May 25, 2020

ResNeSt: Split-Attention Networks

ResNet的又一个变形

提出问题目前大多数的基于ResNet的网络存在两个问题： ResNet网络最初设计是被用来做图像分类的，因此不适合直接拿来做别的任务，如分割和检测缺少通道间的信息交互，虽然已经有一些网络做了弥补(SENet)，但是还是存在第一个问题两个贡献基于上面的问题，文章作出了两个方面的改进：在原来的ResNet网络结构基础上作出调整，在每一个block中增加了特征...

Posted by 柳阳飞 on May 21, 2020

2020年因疫情在家投递实习的笔试题目

一些大厂2020年暑期实习题目

阿里笔试题（编程题2道）小强有一个的矩阵，他将中每列的三个数字中取出一个按顺序组成一个长度为的数组，求的最小值。 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 #include <bits/stdc++.h>...

Posted by 柳阳飞 on April 19, 2020

Detection-Faster RCNN

开始入坑目标检测

如何做多尺度预测图像金字塔方法就是将图像Resize到不同尺寸后计算特征图卷积金字塔对一幅图像使用多个不同大小的卷积核 anchors金字塔（faster rcnn方法更加有效）使用不同长宽比和不同尺寸的boxes，（长宽比：(1:2, 1:1, 2:1)，尺...

Posted by 柳阳飞 on December 30, 2019

Pytorch教程系列（四）

翻译

以下内容是翻译自papersapce上的Pytorch教程系列，目的是为了自己学习时候记录进度督促自己，另一方面也可供需要的人汲取。 PyTorch 101 第四部分：深入了解Pytorch 这是PyToch教程系列第四部分，本次将会介绍使用多卡。在这部分，我们将学习：如何使用多块GPU来训练网络，使用data parallelism或model parallelism。 ...

Posted by 柳阳飞 on September 6, 2019

Understanding-Convolution-for-Semantic-Segmentation

HDC DUC

主要工作设计了两个模块：HDC和DUC，使得卷积操作更好的应用到图像语义分割中。值得一提的是HDC非常容易在网络中实现，而DUC据说有出奇好的效果(并未尝试)。 Dense Upsampling Convolution(DUC) DUC模块主要解决的特征解码的问题，也就是图像经过特征提取网络之后如何逐像素预测。目前普遍的方法就是插值上采样+卷积(绝大多数网络的方法)以及反卷积(这个叫...

Posted by 柳阳飞 on August 31, 2019

Pytorch教程系列（三）

翻译

以下内容是翻译自papersapce上的Pytorch教程系列，目的是为了自己学习时候记录进度督促自己，另一方面也可供需要的人汲取。 PyTorch 101 第三部分：深入了解Pytorch 这篇文章是针对熟悉PyTorch基础并且想要继续学习的人。在上一篇文章里我们已经介绍了如何实现一个最基本的分类网络，接下来我们将讨论如何用pytorch实现更复杂的深度学习功能。这篇文章的目标是让你...

Posted by 柳阳飞 on August 7, 2019

算法复杂度分析

算法复杂度

时间复杂度时间频度一个算法中的语句执行次数称为时间频度，记作$T(n)$。时间复杂度在时间频度中，n称为问题的规模，当n不断变化时，时间频度$T(n)$也会不断变化。时间复杂度是用来衡量时间频度变化规律。一般情况下，算法中基本操作重复执行的次数是问题规模n的某个函数，用$T(n)$表示，若某个辅助函数$f(n)$使得当n趋近于无穷大时，$\frac{T(n)}{f(n)}$的...

Posted by 柳阳飞 on July 30, 2019

Pytorch教程系列（二）

翻译

以下内容是翻译自papersapce上的Pytorch教程系列，目的是为了自己学习时候记录进度督促自己，另一方面也可供需要的人汲取。 PyTorch 101 第二部分：搭建自己的神经网络在这篇文章里，我们将如何使用pytorch来搭建自定义的神经网络以及如何配置训练过程，我们将会实现一个ResNet在CIFAR-10上做图像分类。在开始之前需要说明的是，这篇文章不是为了实现最好的分类精...

Posted by 柳阳飞 on July 22, 2019

ABOUT ME

Liuyangfei Blog