Liuyangfei Blog

保留最后的尊严

Logistic Regression的理解与推导

LR

线性模型 线性模型的一般向量形式为 线性回归的学习目标是使得模型的输出接近真实$f(x_i)\simeq y_i$ 损失函数为均方误差 通过最小二乘法求解。 广义线性模型 Logistic Regression 当$g(x) = \frac{1}{1+e^{-x}}$ 时,对应的线性模型形式为 将$\eqref{eq4}$看作正类的概率,我们可以通过极大似然估计来求解参数...

SVM支持向量机的理解与推导

SVM

第一部分:样本集线性可分 给定训练样本集$D={(x_1,y_1),(x_2,y_2),…,(x_n,y_N)}$,其中$y_i\in{(-1, 1)}$分类学习的目的是在样本空间中找到一个划分超平面,将不同类划分开。但是能将训练样本划分开的超平面有很多,SVM的选择方式就是最大化两个异类样本之间的间隔。下图来自知乎-支持向量机 在线性空间中,划分超平面可以用如下的线性方程表示: 因此...

ResNeSt: Split-Attention Networks

ResNet的又一个变形

提出问题 目前大多数的基于ResNet的网络存在两个问题: ResNet网络最初设计是被用来做图像分类的,因此不适合直接拿来做别的任务,如分割和检测 缺少通道间的信息交互,虽然已经有一些网络做了弥补(SENet),但是还是存在第一个问题 两个贡献 基于上面的问题,文章作出了两个方面的改进: 在原来的ResNet网络结构基础上作出调整,在每一个block中增加了特征...

2020年因疫情在家投递实习的笔试题目

一些大厂2020年暑期实习题目

阿里笔试题(编程题2道) 小强有一个 的矩阵 ,他将 中每列的三个数字中取出一个按顺序组成一个长度为 的数组 ,求 的最小值。 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 #include <bits/stdc++.h>...

Detection-Faster RCNN

开始入坑目标检测

如何做多尺度预测 图像金字塔 方法就是将图像Resize到不同尺寸后计算特征图 卷积金字塔 对一幅图像使用多个不同大小的卷积核 anchors金字塔(faster rcnn方法更加有效) 使用不同长宽比和不同尺寸的boxes,(长宽比:(1:2, 1:1, 2:1),尺...

Pytorch教程系列(四)

翻译

以下内容是翻译自papersapce上的Pytorch教程系列,目的是为了自己学习时候记录进度督促自己,另一方面也可供需要的人汲取。 PyTorch 101 第四部分:深入了解Pytorch 这是PyToch教程系列第四部分,本次将会介绍使用多卡。 在这部分,我们将学习: 如何使用多块GPU来训练网络,使用data parallelism或model parallelism。 ...

Understanding-Convolution-for-Semantic-Segmentation

HDC DUC

主要工作 设计了两个模块:HDC和DUC,使得卷积操作更好的应用到图像语义分割中。值得一提的是HDC非常容易在网络中实现,而DUC据说有出奇好的效果(并未尝试)。 Dense Upsampling Convolution(DUC) DUC模块主要解决的特征解码的问题,也就是图像经过特征提取网络之后如何逐像素预测。目前普遍的方法就是插值上采样+卷积(绝大多数网络的方法)以及反卷积(这个叫...

Pytorch教程系列(三)

翻译

以下内容是翻译自papersapce上的Pytorch教程系列,目的是为了自己学习时候记录进度督促自己,另一方面也可供需要的人汲取。 PyTorch 101 第三部分:深入了解Pytorch 这篇文章是针对熟悉PyTorch基础并且想要继续学习的人。在上一篇文章里我们已经介绍了如何实现一个最基本的分类网络,接下来我们将讨论如何用pytorch实现更复杂的深度学习功能。这篇文章的目标是让你...

算法复杂度分析

算法复杂度

时间复杂度 时间频度 一个算法中的语句执行次数称为时间频度,记作$T(n)$。 时间复杂度 在时间频度中,n称为问题的规模,当n不断变化时,时间频度$T(n)$也会不断变化。时间复杂度是用来衡量时间频度变化规律。一般情况下,算法中基本操作重复执行的次数是问题规模n的某个函数,用$T(n)$表示,若某个辅助函数$f(n)$使得当n趋近于无穷大时,$\frac{T(n)}{f(n)}$的...

Pytorch教程系列(二)

翻译

以下内容是翻译自papersapce上的Pytorch教程系列,目的是为了自己学习时候记录进度督促自己,另一方面也可供需要的人汲取。 PyTorch 101 第二部分:搭建自己的神经网络 在这篇文章里,我们将如何使用pytorch来搭建自定义的神经网络以及如何配置训练过程,我们将会实现一个ResNet在CIFAR-10上做图像分类。在开始之前需要说明的是,这篇文章不是为了实现最好的分类精...