📋
GARNET
  • START
  • 机器学习
    • Ensemble Model
      • Boosting Model
        • 提升树模型
        • 梯度提升
        • GBDT回归算法
        • GBDT分类算法
        • Xgboost
        • Xgboost调参
        • LightGBM
    • 概率图模型
      • 概率基础
      • 概率图模型概述
      • 概率无向图模型
      • 生成式模型
        • HMM
          • 隐马尔科夫模型
          • 前向算法
          • 后向算法
          • HMM训练学习
          • 维特比算法
      • 判别式模型
        • CRF
          • 条件随机场的定义
          • 条件随机场概率计算
          • 条件随机场的学习算法
          • 条件随机场的预测算法
    • 聚类算法
      • 聚类算法
      • 相似性度量
      • 聚类算法选择速查表
      • 聚类算法的选择
      • Based on partition
        • K-means及相关变种算法
        • K-Medoids算法
        • Affinity Propagation
      • Based on hierarchy
        • 基础的层次聚类算法
        • BIRCH层次聚类算法
        • CURE层次聚类算法
    • 降维算法
      • PCA
        • PCA的数学原理
    • EM算法
      • 基础知识准备
      • 期望最大化算法
    • 模型集成
      • Paper: Snapshot Ensembles
    • 超参数调节
      • 贝叶斯优化
        • 0x01 前置基础 高斯过程
        • 0x02 前置基础 高斯过程回归
        • 0x03 贝叶斯优化
    • 优化算法
      • 退火算法
        • 模拟退火
      • 遗传算法
        • 遗传算法原理
  • 神经网络
    • 梯度
      • 梯度下降原理
      • 梯度消失与梯度爆炸
      • Softmax与交叉熵求导
      • RNN梯度探索
    • 激活函数
      • 激活函数总结
      • Sigmoid
      • tanh
      • ReLU
      • SELU
      • GELU
      • Swish
      • GLU
      • 梯度消失问题
      • 零中心问题
    • 损失函数
      • Softmax Loss
      • Softmax Loss求导
      • Focal Loss
      • Triplet Loss
      • ArcFace, CosFace, and SphereFace
      • Center Loss
      • GHM Loss
    • 优化算法
      • 优化算法总结
      • SGD及其优化算法
      • Adagrad
      • AdaDelta/RMSProp
      • Adam
      • AdaFactor
    • Normalization
      • Normalization综述
      • Batch Normalization
      • Layer Normalization
      • Batch Normalization 与 Layer Normalization 的差异
      • Batch Normalization 与 Dropout 不能共存的原因
      • Conditional Normalization
    • 表征结构
      • Attention机制
        • 注意力机制概括
        • Paper: Attention Is All You Need
      • CNN
        • 卷积神经网络技巧总结
        • 卷积核的选择
      • Transformer
        • Multi-Head-Attention
          • Multi-Head-Attention的时间复杂度
          • qkv为什么要乘上不同的参数矩阵
          • qk相乘得到attention矩阵后, 为什么要进行scale
          • Multi-head Attention中多头的作用
    • 预训练模型
      • 预训练模型总结
      • 各种预训练模型的适用范围
      • 预训练过程的Mask机制
      • 预训练过程的多种任务
      • BERT
        • 为什么BERT的三个Embedding可以相加输入
      • XLNET
        • XLNET原理
        • XLNET代码分析(一)
        • XLNET代码分析(二)
        • XLNET代码分析(三)
        • XLNET代码分析(四) Fine-tuning部分
  • 自然语言处理
    • NLP任务
      • 新词发现
        • 基于备选片段的方法
        • 基于切分的方法
        • 基于语言模型的无监督分词
      • 序列标注
        • 序列标注的几种方案
        • 命名实体识别
          • 命名实体识别总概
          • 使用BiLSTM-CRF进行NER
      • 文本相似
        • 句子相似性求解总结
        • A SIMPLE BUT TOUGH-TO-BEAT BASELINE FOR SENTENCE EMBEDDINGS
      • 文本生成
        • 文本生成评价指标
        • 提高文本生成多样性的方法
      • 短语挖掘
        • Automated Phrase Mining from Massive Text Corpora
      • 机器翻译
      • 小样本学习
        • NLP中的小样本学习概述
        • Metric Based
          • Siamese Neural Networks for One-shot Image Recognition
          • Matching Networks for One Shot Learning
    • Tokenize
      • Subwords
    • Embedding
      • Embedding原理
      • word2vec
        • 0x01 word2vec算法原理
        • 0x02 Hierarchical Softmax
        • 0x03 Negative Sampling
      • GloVe
        • GloVe原理
      • 其他Embedding方法
    • 模型结构
      • Seq2seq
        • Pointer Networks
          • Pointer Networks原理
      • DIIN
        • DIIN论文笔记
      • NB-SVM
        • NB-SVM模型原理即应用
    • 生成解码
      • 维特比算法
      • Beam search
    • 主题模型
      • LSA
        • LSA
        • PLSA
      • LDA
        • LDA
    • 工具使用
      • 同义词工具
      • StandfordNLP
    • 单词短语的统计量与评价指标
  • 搜索推荐
    • 搜索场景和推荐场景的区别
    • 搜索系统
      • 评价方式
        • 单点优化评测
    • 推荐算法
      • ANN
        • KDTree
        • HNSW
      • 召回
      • 模型
      • 样本收集
      • 损失函数
      • 评价方法
      • 推荐场景
        • CTR预估
          • CTR预估综述
      • Matrix Factorization
        • LightFM
          • 模型原理
          • 使用例子
          • 冷启动推荐
      • 排序算法
        • 排序算法训练数据
        • 排序算法评价指标
        • 排序算法的多种类别
        • 详解Pairwise模型
      • 工程实践
        • 使用Keras实现MF模型的训练
  • 数学基础
    • MCMC
      • 蒙特卡罗与马尔科夫链
      • 采样实例
      • PyMC与MCMC
    • 概率论
      • 分布
        • 多种分布
        • Gamma分布
        • Beta分布与共轭
        • Dirichlet分布与共轭
      • 统计推断
        • 0x00 统计推断概念
        • 0x01 统计量即抽样分布
          • 0x01 统计量
          • 0x02 分布
          • 0x03 统计量分布
        • 0x02 参数估计
          • 0x01 参数估计基本原理
          • 0x02 单个总体参数的区间估计
          • 0x03 两个总体参数的区间估计
        • 0x03 假设检验
          • 0x01 假设检验基础
          • 0x02 单个总体参数的检验
          • 0x03 两个总体参数的检验
        • 0x04 分类数据分析
          • 0x01 分类数据分析基础
        • 0x05 方差分析
          • 0x01 方差分析基础
          • 0x02 单因素方差分析
          • 0x03 双因素方差分析
        • 0x06 线性回归
          • 0x01 一元线性回归基础
          • 0x02 多元线性回归
  • 实践技巧
    • 显存优化
      • 显卡性能分析指标
      • 显存占用分析
      • TensorFlow限制显存使用量
      • 重计算技巧
      • 梯度累积
      • 优化器
        • AdaFactor
    • 数据增强
      • 文本数据增强
    • 不平衡数据
      • 文本分类中的样本不均衡问题
      • 不平衡数据产生的问题
      • 少数类样本分析方法
      • 不平衡学习算法的评估指标
      • 采样+Ensemble
      • Cost-sensitive
        • Cost-sensitive分类算法
        • Cost-sensitive具体算法
        • Cost-sensitive与损失函数
    • 过拟合
      • 过拟合表现原因及解决方法
    • 特征工程
      • 数据预处理
        • 数据探索(EDA)
        • 非正态分布转换成正态分布
      • 特征选择
        • 特征选择总结
    • 回归问题
      • 回归问题技巧
    • 工程实践
      • 实际项目
        • 倒排意图识别
  • 工程栈
    • Python
      • built-in
        • 函数定义中的星号和反斜杠号
        • 借助isinstance判断对象类型
      • pandas
        • Large Data
          • 将超大表格存储为xlsx格式
        • Accessors
          • 访问器
          • 特殊数据类型
            • dt
            • str
            • cat
      • networkx
        • networkx 基础
        • networkx k-core
      • scrapy
        • Scrapy爬虫初级编写方法
        • Items
        • Spiders
      • scipy
        • 稀疏矩阵
          • 稀疏矩阵的类型
        • 线性规划
          • 求解线性规划
        • 使用stats包处理分布和概率问题
      • sklearn
        • 贝叶斯模型
          • sklearn中的朴素贝叶斯模型
        • 特征与目标值相关性的评价方法及对应的检验方法
      • 并发
        • 多线程
          • 0x01 线程基础
          • 0x02 线程池
          • 0x03 线程专有状态
          • 0x04 队列通信
          • 0x05 锁
          • 0x06 同步原语
        • 多进程
          • 0x01 进程基础
          • 0x02 进程池相关
          • 0x03 共享变量
        • 协程
          • 0x00 协程
          • 0x01 yield与生成器
          • 0x02 yield from与生成器
          • 0x03 await和async与协程
    • linux
      • 用户
        • 修改用户密码
      • 系统安装配置
        • 更新Ubuntu软件源
        • 配置pip源
        • 安装指定版本gcc
      • 常用功能
        • 压缩与解压缩
        • 端口占用查看
      • 软件使用
        • axel: 多线程下载
    • 网络框架
      • tensorflow
        • feature_columns
          • Column类型
      • tensorflow-serving
        • 实践问题
          • 使用feature_columns出现Table not initialized错误
      • keras
        • Layer
          • Layer层自定义
        • Loss
          • Keras中多种方法定义损失
        • Mask
          • mask操作
        • 错误和坑
          • fit错误
            • AttributeError: 'ProgbarLogger' object has no attribute 'log_values'
          • 模型构建错误
            • ValueError: An operation has None for gradient
    • 分布式大数据框架
      • Hadoop
        • MapReduce
          • MapReduce架构
        • YARN
          • YARN结构
      • Spark
        • Spark基本架构
        • Spark运行模式
    • pip
      • pip源配置
      • pip使用技巧
    • conda
      • conda源配置
    • jupyter
      • jupyter实验环境启动
      • jupyter多环境配置
    • docker
      • docker核心概念
      • docker远程仓库
        • docker镜像源加速
      • docker镜像
        • docker pull
      • docker容器
        • docker run
    • git
      • 分支
        • 分支操作汇总
        • 创建分支并与推送到远程
    • macos
      • 快捷键
  • 细分领域
    • 时间序列
      • 0x01 时间序列概念
      • 0x02 ARIMA模型
      • 0x03 ACF与PACF
      • 0x04 拟合度量方法
      • 0x05 时间序列中的检验
      • 0x06 简单的时间序列建模例子
      • 0x07 季节性
      • 0x08 SARIMAX
      • 0x09 完整的时间序列SARIMAX建模思路及例子
    • 知识图谱
      • 知识表示
        • 知识表示综述
    • 金融领域
      • 评分卡模型
  • 算法
    • Leetcode归类
    • Python中的算法
      • LRU缓存
    • 字符串
      • 字符串总结
      • [3][中等][滑动窗口] 无重复字符的最长子串
      • [5][中等][动态规划] 最长回文子串
      • [10][困难][动态规划] 正则表达式匹配
      • [14][简单] 最长公共前缀
      • [22][中等][回溯][BFS] 括号生成
      • [32][困难][动态规划][栈] 最长有效括号
      • [43][中等] 字符串相乘
      • [44][困难][动态规划][01背包] 通配符匹配
      • [67][简单] 二进制求和
      • [97][困难][动态规划][DFS][BFS] 交错字符串
      • [115][困难][动态规划] 不同的子序列
      • [131][中等][DFS][回溯][动态规划] 分割回文串
      • [132][困难][DFS][回溯][动态规划] 分割回文串 II
      • [139][中等][DFS] 单词拆分
      • [316][困难][贪心][栈] 去除重复字母
      • [415][简单] 字符串相加
      • [402][中等][贪心][栈] 移掉K位数字
      • [459][简单] 重复的子字符串
      • [516][中等][动态规划] 最长回文子序列
      • [647][中等][动态规划] 回文子串
      • [1081][困难][贪心][栈] 不同字符的最小子序列
      • [1143][中等][动态规划] 最长公共子序列
      • [面试题 16.18][中等] 模式匹配
      • [面试题 17.13][中等][动态规划][前缀树] 恢复空格
      • [剑指Offer-50][简单][哈希表] 第一个只出现一次的字符
    • 数组
      • [1][简单][哈希] 两数之和
      • [4][困难][二分][双指针] 寻找两个正序数组的中位数
      • [15][简单][双指针] 三数之和
      • [18][中等][双指针] 四数之和
      • [41][困难][原地哈希] 缺失的第一个正数
      • [53][简单][动态规划][分治] 最大子序和
      • [54][中等] 螺旋矩阵
      • [73][中等] 矩阵置零
      • [88][简单][双指针] 合并两个有序数组
      • [167][简单][双指针][二分] 两数之和 II - 输入有序数组
      • [209][中等][滑动数组] 长度最小的子数组
      • [215][中等][堆] 数组中的第K个最大元素
      • [240][中等] 搜索二维矩阵 II
      • [287][中等][双指针][二分] 寻找重复数
      • [289][中等] 生命游戏
      • [300][中等][贪心][二分][动态规划][树状数组] 最长上升子序列
      • [321][困难][贪心][分治] 拼接最大数
      • [354][困难][贪心][动态规划] 俄罗斯套娃信封问题
      • [378][中等][堆][二分] 有序矩阵中第K小的元素
      • [435][中等][贪心][动态规划] 无重叠区间
      • [452][中等][贪心][动态规划] 用最少数量的箭引爆气球
      • [491][中等][DFS] 递增子序列
      • [523][中等][前缀和][哈希] 连续的子数组和
      • [560][中等][前缀和][哈希] 和为K的子数组
      • [646][中等][贪心][动态规划] 最长数对链
      • [673][中等][动态规划][贪心] 最长递增子序列的个数
      • [674][简单][动态规划] 最长连续递增序列
      • [713][中等][二分][双指针] 乘积小于K的子数组
      • [718][中等][动态规划][滑动窗口] 最长重复子数组
      • [766][简单] 托普利茨矩阵
      • [832][简单] 翻转图像
      • [873][中等][动态规划] 最长的斐波那契子序列的长度
      • [974][中等][前缀和][哈希] 和可被K整除的子数组
      • [1035][中等][动态规划] 不相交的线
      • [剑指Offer-03][简单] 数组中重复的数字
      • [剑指Offer-04][简单] 二维数组中的查找
      • [剑指Offer-61][简单] 扑克牌中的顺子
      • [剑指Offer-66][中等] 构建乘积数组
    • 链表
      • 链表总结
      • [23][困难][堆] 合并K个排序链表
      • [82][中等][DFS] 删除排序链表中的重复元素 II
      • [83][简单][双指针][DFS] 删除排序链表中的重复元素
      • [92][中等][递归] 反转链表 II
      • [109][中等][DFS][双指针] 有序链表转换二叉搜索树
      • [138][中等][哈希表] 复制带随机指针的链表
      • [141][简单][双指针] 环形链表
      • [142][中等][双指针] 环形链表 II
      • [160][简单][双指针] 相交链表
      • [206][简单][递归][双指针] 反转链表
      • [剑指Offer-06][简单] 从尾到头打印链表
      • [剑指Offer-36][中等] 二叉搜索树与双向链表
    • 树
      • 树总结
      • [94][中等] 二叉树的中序遍历
      • [95][中等][递归] 不同的二叉搜索树 II
      • [96][中等][动态规划] 不同的二叉搜索树
      • [100][简单][DFS][递归] 相同的树
      • [102][中等] 二叉树的层序遍历
      • [108][简单][DFS][二分] 将有序数组转换为二叉搜索树
      • [109][中等][DFS][双指针] 有序链表转换二叉搜索树
      • [112][简单][BFS][DFS] 路径总和
      • [113][中等][DFS] 路径总和 II
      • [114][中等][DFS] 二叉树展开为链表
      • [124][困难][DFS] 二叉树中的最大路径和
      • [129][中等][DFS] 求根到叶子节点数字之和
      • [144][中等] 二叉树的前序遍历
      • [145][困难] 二叉树的后序遍历
      • [235][简单] 二叉搜索树的最近公共祖先
      • [236][中等][DFS] 二叉搜索树的最近公共祖先
      • [257][简单][DFS] 二叉树的所有路径
      • [297][困难][BFS] 二叉树的序列化与反序列化
      • [437][中等][DFS][前缀和] 路径总和 III
      • [687][简单][DFS] 最长同值路径
      • [988][中等][DFS] 从叶结点开始的最小字符串
      • [面试题 04.04][简单][DFS] 检查平衡性
      • [面试题 04.05][中等][DFS] 合法二叉搜索树
      • [面试题 04.06][中等][DFS] 后继者
      • [剑指Offer-07][中等][递归] 重建二叉树
      • [剑指Offer-26][中等][递归] 树的子结构
      • [剑指Offer-28][简单][迭代] 对称的二叉树
      • [剑指Offer-33][中等][分治] 二叉搜索树的后序遍历序列
      • [剑指Offer-36][中等] 二叉搜索树与双向链表
      • [剑指Offer-54][简单] 二叉搜索树的第k大节点
    • 图
      • [785][中等][BFS][DFS][并查集] 判断二分图
    • 数学
      • [50][中等][二分] Pow(x, n)
      • [231][简单] 2的幂
      • [233][困难] 数字1的个数
      • [263][简单][回溯] 丑数
      • [264][中等][动态规划][三指针][堆] 丑数 II
      • [282][困难][回溯] 给表达式添加运算符
      • [313][中等][堆] 超级丑数
      • [326][简单] 3的幂
      • [342][简单] 4的幂
      • [400][中等] 第N个数字
      • [1025][简单][动态规划] 除数博弈
      • [剑指Offer-62][简单] 圆圈中最后剩下的数字
    • 回溯
      • [22][中等][回溯][BFS] 括号生成
      • [39][中等][回溯] 组合总和
      • [40][中等][回溯] 组合总和 II
      • [46][中等][回溯] 全排列
      • [47][中等][回溯] 全排列 II
      • [51][困难][回溯] N皇后
      • [77][中等][回溯] 组合
      • [131][中等][DFS][回溯][动态规划] 分割回文串
      • [216][中等][回溯] 组合总和 III
      • [263][简单][回溯] 丑数
      • [剑指Offer-38][中等][回溯] 字符串的排列
    • DFS
      • [82][中等][DFS] 删除排序链表中的重复元素 II
      • [83][简单][双指针][DFS] 删除排序链表中的重复元素
      • [97][困难][动态规划][DFS][BFS] 交错字符串
      • [100][简单][DFS][递归] 相同的树
      • [108][简单][DFS][二分] 将有序数组转换为二叉搜索树
      • [112][简单][BFS][DFS] 路径总和
      • [113][中等][DFS] 路径总和 II
      • [124][困难][DFS] 二叉树中的最大路径和
      • [129][中等][DFS] 求根到叶子节点数字之和
      • [131][中等][DFS][回溯][动态规划] 分割回文串
      • [139][中等][DFS] 单词拆分
      • [200][中等][DFS] 岛屿数量
      • [212][困难][DFS] 单词搜索 II
      • [236][中等][DFS] 二叉搜索树的最近公共祖先
      • [463][简单][DFS] 岛屿的周长
      • [687][简单][DFS] 最长同值路径
      • [695][中等][DFS] 岛屿的最大面积
      • [785][中等][BFS][DFS][并查集] 判断二分图
      • [827][困难][DFS] 最大人工岛
      • [842][中等][DFS] 将数组拆分成斐波那契序列
      • [988][中等][DFS] 从叶结点开始的最小字符串
      • [剑指Offer-12][中等][DFS] 矩阵中的路径
      • [剑指Offer-13][中等][DFS] 机器人的运动范围
    • BFS
      • [22][中等][回溯][BFS] 括号生成
      • [97][困难][动态规划][DFS][BFS] 交错字符串
      • [112][简单][BFS][DFS] 路径总和
      • [297][困难][BFS] 二叉树的序列化与反序列化
      • [785][中等][BFS][DFS][并查集] 判断二分图
      • [1162][中等][BFS] 地图分析
    • 并查集
      • [130][中等][并查集][DFS] 被围绕的区域
      • [684][中等][并查集] 冗余连接
      • [685][困难][并查集] 冗余连接 II
      • [765][困难][并查集][贪心] 情侣牵手
      • [785][中等][BFS][DFS][并查集] 判断二分图
      • [990][中等][并查集] 等式方程的可满足性
    • 分治
      • [53][简单][动态规划][分治] 最大子序和
      • [312][困难][分治][递归][动态规划] 戳气球
      • [321][困难][贪心][分治] 拼接最大数
      • [剑指Offer-33][中等][分治] 二叉搜索树的后序遍历序列
    • 二分
      • 二分总结
      • [4][困难][二分][双指针] 寻找两个正序数组的中位数
      • [34][中等][二分] 在排序数组中查找元素的第一个和最后一个位置
      • [35][简单][DFS][二分] 搜索插入位置
      • [108][简单][DFS][二分] 将有序数组转换为二叉搜索树
      • [153][中等][二分] 寻找旋转排序数组中的最小值
      • [154][困难][二分] 寻找旋转排序数组中的最小值 II
      • [167][简单][双指针][二分] 两数之和 II - 输入有序数组
      • [287][中等][双指针][二分] 寻找重复数
      • [295][困难][二分][堆] 数据流的中位数
      • [315][困难][线段树][二分] 计算右侧小于当前元素的个数
      • [378][中等][堆][二分] 有序矩阵中第K小的元素
      • [392][简单][二分] 判断子序列
      • [658][中等][二分] 找到 K 个最接近的元素
      • [704][中等][二分] 二分查找
      • [875][中等][二分] 爱吃香蕉的珂珂
      • [1011][中等][二分] 在D天内送达包裹的能力
      • [剑指Offer-11][简单][二分] 旋转数组的最小数字
      • [剑指Offer-51][困难][线段树][二分] 数组中的逆序对
      • [剑指Offer-53-II][简单][二分] 0～n-1中缺失的数字
    • 递归
      • [95][中等][递归] 不同的二叉搜索树 II
      • [100][简单][DFS][递归] 相同的树
      • [206][简单][递归][双指针] 反转链表
      • [241][中等][递归] 为运算表达式设计优先级
      • [312][困难][分治][递归][动态规划] 戳气球
      • [面试题 16.11][简单] 跳水板
      • [剑指Offer-26][中等][递归] 树的子结构
    • 动态规划
      • [5][中等][动态规划] 最长回文子串
      • [10][困难][动态规划] 正则表达式匹配
      • [32][困难][动态规划][栈] 最长有效括号
      • [44][困难][动态规划][背包] 通配符匹配
      • [62][中等][动态规划] 不同路径
      • [63][中等][动态规划] 不同路径 II
      • [64][中等][动态规划] 最小路径和
      • [72][困难][动态规划] 编辑距离
      • [96][中等][动态规划] 不同的二叉搜索树
      • [97][困难][动态规划][DFS][BFS] 交错字符串
      • [115][困难][动态规划] 不同的子序列
      • [120][中等][动态规划] 三角形最小路径和
      • [121][简单][动态规划] 买卖股票的最佳时机
      • [122][简单][动态规划] 买卖股票的最佳时机 II
      • [123][困难][动态规划] 买卖股票的最佳时机 III
      • [131][中等][DFS][回溯][动态规划] 分割回文串
      • [132][困难][DFS][回溯][动态规划] 分割回文串 II
      • [174][困难][动态规划] 地下城游戏
      • [188][困难][动态规划] 买卖股票的最佳时机 IV
      • [264][中等][动态规划][三指针][堆] 丑数 II
      • [279][中等][动态规划][背包][BFS] 完全平方数
      • [303][简单][动态规划][前缀和] 区域和检索 - 数组不可变
      • [304][中等][动态规划][前缀和] 二维区域和检索 - 矩阵不可变
      • [309][中等][动态规划] 最佳买卖股票时机含冷冻期
      • [312][困难][分治][递归][动态规划] 戳气球
      • [322][中等][动态规划][背包][DFS] 零钱兑换
      • [338][中等][动态规划] 比特位计数
      • [343][中等][动态规划][背包] 整数拆分
      • [375][中等][动态规划] 猜数字大小 II
      • [416][中等][动态规划][背包] 分割等和子集
      • [474][中等][动态规划][背包] 一和零
      • [494][中等][动态规划][背包] 目标和
      • [516][中等][动态规划] 最长回文子序列
      • [518][中等][动态规划][背包] 零钱兑换 II
      • [647][中等][动态规划] 回文子串
      • [712][中等][动态规划] 两个字符串的最小ASCII删除和
      • [714][中等][动态规划] 买卖股票的最佳时机含手续费
      • [718][中等][动态规划][滑动窗口] 最长重复子数组
      • [873][中等][动态规划] 最长的斐波那契子序列的长度
      • [887][困难][动态规划] 鸡蛋掉落
      • [983][中等][动态规划][背包] 最低票价
      • [1025][简单][动态规划] 除数博弈
      • [1035][中等][动态规划] 不相交的线
      • [1049][困难][动态规划][背包] 最后一块石头的重量 II
      • [1143][中等][动态规划] 最长公共子序列
      • [面试题 08.11][中等][动态规划][背包] 硬币
      • [面试题 17.13][中等][动态规划][前缀树] 恢复空格
      • [剑指Offer-46][中等][动态规划] 把数字翻译成字符串
      • [剑指Offer-47][中等][动态规划] 礼物的最大价值
      • [剑指Offer-60][简单][动态规划] n个骰子的点数
    • 堆
      • 堆的特性
      • 堆排序
      • heapq
      • [215][中等][堆] 数组中的第K个最大元素
      • [264][中等][动态规划][三指针][堆] 丑数 II
      • [295][困难][二分][堆] 数据流的中位数
      • [313][中等][堆] 超级丑数
      • [378][中等][堆][二分] 有序矩阵中第K小的元素
    • 栈
      • [42][困难][栈][动态规划] 接雨水
      • [84][困难][栈] 柱状图中最大的矩形
      • [150][中等][栈] 逆波兰表达式求值
      • [155][简单][栈][滑动窗口] 最小栈
      • [224][困难][栈] 基本计算器
      • [232][简单][栈][队列] 用栈实现队列
      • [316][困难][贪心][栈] 去除重复字母
      • [331][中等][栈] 验证二叉树的前序序列化
      • [402][中等][贪心][栈] 移掉K位数字
      • [456][中等][栈] 132模式
      • [496][简单][栈] 下一个更大元素 I
      • [503][中等][栈] 下一个更大元素 II
      • [556][中等][栈] 下一个更大元素 III
      • [895][困难][栈][哈希] 最大频率栈
      • [946][中等][贪心][栈] 验证栈序列
      • [1081][困难][贪心][栈] 不同字符的最小子序列
      • [面试题 03.05][中等] 栈排序
      • [剑指Offer-09][简单][栈] 用两个栈实现队列
    • 队列
      • [225][简单][栈][队列] 用队列实现栈
      • [239][困难][队列] 滑动窗口最大值
      • [622][中等] 设计循环队列
      • [剑指Offer-59-II][中等][滑动窗口] 队列的最大值
    • 哈希表
      • [380][中等][哈希表] 常数时间插入、删除和获取随机元素
    • 贪心
      • [316][困难][贪心][栈] 去除重复字母
      • [321][困难][贪心][分治] 拼接最大数
      • [402][中等][贪心][栈] 移掉K位数字
      • [765][困难][并查集][贪心] 情侣牵手
      • [1081][困难][贪心][栈] 不同字符的最小子序列
    • 双指针
      • 双指针总结
      • [11][中等][双指针] 盛最多水的容器
      • [83][简单][双指针][DFS] 删除排序链表中的重复元素
      • [88][简单][双指针] 合并两个有序数组
      • [109][中等][DFS][双指针] 有序链表转换二叉搜索树
      • [141][简单][双指针] 环形链表
      • [142][中等][双指针] 环形链表 II
      • [160][简单][双指针] 相交链表
      • [167][简单][双指针][二分] 两数之和 II - 输入有序数组
      • [202][简单][双指针] 快乐数
      • [287][中等][双指针][二分] 寻找重复数
      • [剑指Offer-21][简单][双指针] 调整数组顺序使奇数位于偶数前面
      • [剑指Offer-57-II][简单][双指针] 和为s的连续正数序列
    • 多指针
      • [15][简单][三指针] 三数之和
      • [264][中等][动态规划][三指针][堆] 丑数 II
    • 滑动窗口
      • [3][中等][滑动窗口] 无重复字符的最长子串
      • [76][困难][滑动窗口] 最小覆盖子串
      • [209][中等][滑动窗口] 长度最小的子数组
      • [239][困难][队列] 滑动窗口最大值
      • [438][中等][滑动窗口] 找到字符串中所有字母异位词
      • [567][中等][滑动窗口] 字符串的排列
      • [713][中等][二分][双指针] 乘积小于K的子数组
      • [718][中等][动态规划][滑动窗口] 最长重复子数组
      • [1052][中等][滑动窗口] 爱生气的书店老板
      • [剑指Offer-59-II][中等][滑动窗口] 队列的最大值
    • 位运算
      • 位运算总结
      • [67][简单] 二进制求和
      • [136][简单] 只出现一次的数字
      • [137][中等] 只出现一次的数字 II
      • [191][简单] 位1的个数
      • [231][简单] 2的幂
      • [260][中等] 只出现一次的数字 III
      • [268][简单] 缺失数字
      • [338][中等][动态规划] 比特位计数
      • [342][简单] 4的幂
      • [461][简单] 汉明距离
      • [477][中等] 汉明距离总和
      • [剑指Offer-56-I][中等][双指针] 数组中数字出现的次数
      • [剑指Offer-65][简单] 不用加减乘除做加法
    • 逻辑运算
      • [剑指Offer-64][中等] 求1+2+…+n
    • 哈希
      • [41][困难][原地哈希] 缺失的第一个正数
    • 线段树
      • 树状数组原理
      • [300][中等][贪心][二分][动态规划][树状数组] 最长上升子序列
      • [315][困难][线段树][二分] 计算右侧小于当前元素的个数
      • [剑指Offer-51][困难][线段树][二分] 数组中的逆序对
    • 前缀树
      • [面试题 17.13][中等][动态规划][前缀树] 恢复空格
    • 状态机
      • [剑指Offer-20][中等] 表示数值的字符串
    • 遍历技巧
      • [766][简单] 托普利茨矩阵
      • [832][简单] 翻转图像
    • 排序
      • 排序总结
      • [剑指Offer-45][中等] 把数组排成最小的数
  • LATEX公式备忘
由 GitBook 提供支持
在本页

这有帮助吗？

最后更新于3年前

生成欠缺多样性的影响

文本生成的一个重要的问题, 是使用Seq2seq模型生成出来的内容, 往往形式简单一致, 缺少多样性, 这在很多任务中会影响使用的体验, 如:

  • 开放域对话

  • 相似问生成

  • 使用生成模型进行其他任务的数据增强

改进方法

一般是从以下几个方面提升生成内容的多样性:

  • 最重要的还是训练语料, 丰富训练语料中表达的多样性

  • 修改模型结构: 改进Loss, 设计特殊的模型结构

  • 优化解码方法, 代替Beam Search, 对条件概率施加其他影响

丰富训练数据

一般还是需要通过数据增强来丰富训练的语料. 对文本生成语料的数据增强, 有一些论文研究.

Diversifying Dialogue Generation with Non-Conversational Text
  • 生成欠缺多样性的影响
  • 改进方法
  • 丰富训练数据
上一页文本生成评价指标下一页短语挖掘
  1. 自然语言处理
  2. NLP任务
  3. 文本生成

提高文本生成多样性的方法