主要内容 来源：https://www.bilibili.com/video/BV1Ca4y1t7DS?p=1 决策树 分类树 回归树 集成学习 Bagging：随机森林 Boosting：Adaboost、GBDT、XGBoost、LightGBM 数据挖掘竞赛利器：Stacking
阅读全文
集成学习简介
集成学习简介 集成学习是通过构建并组合多个学习器来完成学习任务的算法，集成学习常见的有两类 Bagging：基学习器之间无强依赖关系，可同时生成的并行化方法
阅读全文
决策树和分类树
决策树和分类树 决策树的直观理解 分类树之信息熵 信息熵 信息熵是用阿里衡量信息不确定性的指标，不确定性是一个时间出现不同结果的可能性，计算方式如下所示：
阅读全文
使用SMOTE算法进行过采样
使用SMOTE算法进行过采样 前言 SMOTE算法的思想是合成新的少数类样本,合成的策略是对每个少数类样本a,从它的最近邻中随机选一个样本b,然后在a、b之间的连线上随机选一点作为新合成的少数类样本
阅读全文
Stacking算法介绍
Stacking算法介绍 介绍 Stacking是Kaggle比赛中最常见的集成学习模型，一般来说，就是训练一个多层（一般是两层，本文中默认两层）的学习器结构，第一层（也叫学习层）用n个不同的分类器（或者参数不同的模型）将得到预测结果合并成新的特征集，并作为下一层分类器的输出。一个简单的示意图如下所示
阅读全文
Embedding层的作用
Embedding层的作用 前言 在深度学习实验中经常会遇到Embedding层，网络上关于Embedding层介绍非常含糊。Embedding是数学领域的专有名词：指某个对象X被嵌入到另一个对象Y中。Word
阅读全文
CatBoost的安装和使用
CatBoost的安装和使用 前言 CatBoost算法也是GBDT家族中的一种，是由俄罗斯大兄弟于2017年发表出来的论文，它具备如下的优点： 它自动采用特殊的方式处理类别型特征（categorical
阅读全文
贪心算法
贪心算法 分发饼干 来源 leetcode.455 分发饼干 描述 假设你是一位很棒的家长，想要给你的孩子们一些小饼干。但是，每个孩子最多只能给一块饼干。 对每个孩子
阅读全文
动态规划问题
动态规划问题 应用场景 背包问题：有个背包，初始容量为4磅，现有如下物品 0 - 1背包问题，转入的商品不能重复 物品重量价格 吉他11500 音箱43000 电脑32000
阅读全文
动态规划
动态规划 视频教程 动态规划 斐波那契数列 我们还是以菲波那切数列为例，使用python编写一个最简单的菲波那切数列计算 # 大家都知道斐波那契数列，现在要求输入一个整数n，请你输出斐波那契数列的第n项（从0开始，第0项为0）
阅读全文