文本生成,文本数据增强怎么做?
向AI转型的程序员都关注了这个号👇👇👇
机器学习AI算法工程 公众号:datayx
textgen, Text Generation models. 文本生成,包括:UDA,Seq2Seq,ERNIE-GEN,BERT,XLNet,GPT-2等模型实现,开箱即用。
Solution
UDA,非核心词替换
EDA,简单数据增广技术:相似词、同义词替换,随机词插入、删除、替换
回译(bt, back translate),中文-英文-中文
生成模型,seq2seq,gpt
UDA(非核心词替换)
基于Google提出的UDA(非核心词替换)算法,将文本中一定比例的不重要词替换为同义词,从而产生新的文本。
BT(回译)
基于百度翻译API,把中文句子翻译为英文,再把英文翻译为新的中文。
Seq2Seq
基于Encoder-Decoder结构,序列到序列生成新的文本。
GPT2
基于Transformer的decode结果的自回归生成模型。
TGLS
无监督文本生成模型:本文提出TGLS——一种基于“先搜索后学习”的无监督文本生成方法,模型反复迭代,最终能生成较高质量的文本。
https://www.jiqizhixin.com/articles/2020-08-11-5
Install
pip3 install textgen
项目代码 获取方式:
关注微信公众号 datayx 然后回复 文本生成 即可获取。
Usage
download pretrained vector file
以下词向量,任选一个下载:
轻量版腾讯词向量 百度云盘-密码:tawe
https://pan.baidu.com/s/1La4U4XNFe8s5BJqxPQpeiQ
二进制,111MB放到
~/.text2vec/datasets/light_Tencent_AILab_ChineseEmbedding.bin
腾讯词向量-官方全量, 6.78G放到:
~/.text2vec/datasets/Tencent_AILab_ChineseEmbedding.txt
download pretrained language model file
bert模型
EDA文本数据增强
output:
text generation base seq2seq
output:
text generation base ernie-gen
机器学习算法AI大数据技术
搜索公众号添加: datanlp
长按图片,识别二维码
阅读过本文的人还看了以下文章:
基于40万表格数据集TableBank,用MaskRCNN做表格检测
《深度学习入门:基于Python的理论与实现》高清中文PDF+源码
2019最新《PyTorch自然语言处理》英、中文版PDF+源码
《21个项目玩转深度学习:基于TensorFlow的实践详解》完整版PDF+附书代码
PyTorch深度学习快速实战入门《pytorch-handbook》
【下载】豆瓣评分8.1,《机器学习实战:基于Scikit-Learn和TensorFlow》
李沐大神开源《动手学深度学习》,加州伯克利深度学习(2019春)教材
【Keras】完整实现‘交通标志’分类、‘票据’分类两个项目,让你掌握深度学习图像分类
如何利用全新的决策树集成级联结构gcForest做特征工程并打分?
Machine Learning Yearning 中文翻译稿
斯坦福CS230官方指南:CNN、RNN及使用技巧速查(打印收藏)
中科院Kaggle全球文本匹配竞赛华人第1名团队-深度学习与特征工程
不断更新资源
深度学习、机器学习、数据分析、python
搜索公众号添加: datayx