文本生成，文本数据增强怎么做？
共 2292字，需浏览 5分钟
·
2021-11-27 05:02
向AI转型的程序员都关注了这个号👇👇👇
机器学习AI算法工程 公众号：datayx
textgen, Text Generation models. 文本生成，包括：UDA，Seq2Seq，ERNIE-GEN，BERT，XLNet，GPT-2等模型实现，开箱即用。
Solution
UDA，非核心词替换
EDA，简单数据增广技术：相似词、同义词替换，随机词插入、删除、替换
回译（bt, back translate），中文-英文-中文
生成模型，seq2seq，gpt
UDA(非核心词替换)
基于Google提出的UDA(非核心词替换)算法，将文本中一定比例的不重要词替换为同义词，从而产生新的文本。
BT(回译)
基于百度翻译API，把中文句子翻译为英文，再把英文翻译为新的中文。
Seq2Seq
基于Encoder-Decoder结构，序列到序列生成新的文本。
GPT2
基于Transformer的decode结果的自回归生成模型。
TGLS
无监督文本生成模型：本文提出TGLS——一种基于“先搜索后学习”的无监督文本生成方法，模型反复迭代，最终能生成较高质量的文本。
https://www.jiqizhixin.com/articles/2020-08-11-5
Install
pip3 install textgen项目代码 获取方式：
关注微信公众号 datayx 然后回复 文本生成 即可获取。
Usage
download pretrained vector file
以下词向量，任选一个下载：
轻量版腾讯词向量 百度云盘-密码:tawe
https://pan.baidu.com/s/1La4U4XNFe8s5BJqxPQpeiQ
二进制，111MB放到
~/.text2vec/datasets/light_Tencent_AILab_ChineseEmbedding.bin腾讯词向量-官方全量, 6.78G放到：
~/.text2vec/datasets/Tencent_AILab_ChineseEmbedding.txt
download pretrained language model file
bert模型
EDA文本数据增强
output:
text generation base seq2seq
output:
text generation base ernie-gen
机器学习算法AI大数据技术
搜索公众号添加： datanlp
长按图片，识别二维码
阅读过本文的人还看了以下文章：
基于40万表格数据集TableBank，用MaskRCNN做表格检测
《深度学习入门：基于Python的理论与实现》高清中文PDF+源码
2019最新《PyTorch自然语言处理》英、中文版PDF+源码
《21个项目玩转深度学习：基于TensorFlow的实践详解》完整版PDF+附书代码
PyTorch深度学习快速实战入门《pytorch-handbook》
【下载】豆瓣评分8.1,《机器学习实战:基于Scikit-Learn和TensorFlow》
李沐大神开源《动手学深度学习》，加州伯克利深度学习（2019春）教材
【Keras】完整实现‘交通标志’分类、‘票据’分类两个项目，让你掌握深度学习图像分类
如何利用全新的决策树集成级联结构gcForest做特征工程并打分？
Machine Learning Yearning 中文翻译稿
斯坦福CS230官方指南：CNN、RNN及使用技巧速查（打印收藏）
中科院Kaggle全球文本匹配竞赛华人第1名团队-深度学习与特征工程
不断更新资源
深度学习、机器学习、数据分析、python
搜索公众号添加： datayx