DASOU

总结梳理自然语言处理工程师(NLP)需要积累的各方面知识，包括面试题，各种基础知识，工程能力等等，提升核心竞争力

Chinese-language reference guide covering NLP theory and engineering, Transformer architecture, BERT variants, word embeddings, knowledge distillation, and interview prep notes for practitioners.

主要是我是日常看过的不错的文章的资源汇总，方便自己也分享给大家。有些我看过的，就会做简单的解读，没看过的，就先罗列一下，然后之后看了把解读更新上；涉及到搜索/推荐/自然语言处理。

Bert源码阅读与讲解(Pytorch版本)-以BERT文本分类代码为例子

Transformer在CV和NLP领域的变体模型的从零解读：Transformer；VIT；Swin Transformer

命名体识别(NER)综述-论文-模型-代码(BiLSTM-CRF/BERT-CRF)-竞赛资源总结-随时更新

No description.

DataFountain第五届达观杯第4名方案

收录NLP相关竞赛经验贴（当前赛事、往期赛事、训练赛）、NLP会议时间、常用自媒体、GPU推荐等，持续更新中

In this repository, I will share some useful notes and references about deploying deep learning-based models in production.

BERT distillation（基于BERT的蒸馏实验 ）

NLP实践demo，包含了文本分类，对话机器人，Transformer, GPT实现，图神经网络GNN使用，对抗训练，摘要抽取，知识蒸馏，变分自编码器，快速文本检索，中文医疗QA 的pytorch实现

手写实现李航《统计学习方法》书中全部算法

中文医学NLP公开资源整理：术语集/语料库/词向量/预训练模型/知识图谱/命名实体识别/QA/信息抽取/模型/论文/etc

该仓库主要记录 推荐系统 算法工程师相关的面试题

基于pytorch_bert的中文多标签分类

此项目完成了关于 NLP-Beginner：自然语言处理入门练习 的所有任务，所有代码都经过测试,可以正常运行。

对ACL2020 FastBERT论文的复现，论文地址:https://arxiv.org/pdf/2004.02178.pdf

基于Pytorch的，中文语义相似度匹配模型（ABCNN、Albert、Bert、BIMPM、DecomposableAttention、DistilBert、ESIM、RE2、Roberta、SiaGRU、XlNet）

商品标题实体识别

中文CLIP预训练模型

🤗 Transformers: State-of-the-art Natural Language Processing for TensorFlow 2.0 and PyTorch.

《Pytorch模型训练实用教程》中配套代码

《动手学深度学习》

100+ Chinese Word Vectors 上百种预训练中文词向量

中文自然语言处理数据集，平时做做实验的材料。欢迎补充提交合并。

Chinese version of CLIP which achieves Chinese cross-modal retrieval and representation generation.

Pytorch-NLU，一个中文文本分类、序列标注工具包，支持中文长文本、短文本的多类、多标签分类任务，支持中文命名实体识别、词性标注、分词等序列标注任务。 Ptorch NLU, a Chinese text classification and sequence annotation toolkit, supports multi class and multi label classification tasks of Chinese long text and short text, and supports sequence annotation tasks such as Chinese named entity recognition, part of speech tagging and word segmentation.

albert lstm crf实体识别，pytorch

Implementation of Vision Transformer, a simple way to achieve SOTA in vision classification with only a single transformer encoder, in Pytorch

文本分类baseline：BERT、半监督学习UDA、对抗学习、数据增强

微信大数据赛初赛10th，复赛14th

本次新人赛是Datawhale与天池联合发起的0基础入门系列赛事第三场 —— 零基础入门NLP之新闻文本分类挑战赛。赛题以自然语言处理为背景，要求选手根据新闻文本字符对新闻的类别进行分类，这是一个经典文本分类问题。通过这道赛题可以引导大家走入自然语言处理的世界，带大家接触NLP的预处理、模型构建和模型训练等知识点。

使用rnn,lstm,gru,fasttext,textcnn,dpcnn,rnn-att,lstm-att,bert,bert-cnn,bert-rnn,bert-rcnn,han,xlnet等等做文本分类，以及对比

In pytorch Learing Neural Networks likes CNN(Convolutional Neural Networks for Sentence Classification (Y.Kim, EMNLP 2014) 、LSTM、BiLSTM、DeepCNN 、CLSTM、CNN and LSTM

疫情期间网民情绪识别比赛分享+top1~3解决方案

pytorch实现bert做seq2seq任务，使用unilm方案,现在也可以做文本分类，情感分析，NER，词性标注等任务。

Text classification using deep learning models in Pytorch

NLP上手教程

Super easy library for BERT based NLP models

No description.

中文文本分类，TextCNN，TextRNN，FastText，TextRCNN，BiLSTM_Attention，DPCNN，Transformer，基于pytorch，开箱即用。

PyTorch implementations of algorithms for knowledge distillation.

A repository for implementing Knowledge Distillation easily

2019中国高校计算机大赛——大数据挑战赛 第一名解决方案

NLP-Conferences-Code (ACL、EMNL、NAACL、COLING、AAAI、IJCAI)

No description.

experiments of some semantic matching models and comparison of experimental results.

No description.

大规模中文自然语言处理语料 Large Scale Chinese Corpus for NLP

天池中药说明书实体识别挑战冠军方案；中文命名实体识别；NER; BERT-CRF & BERT-SPAN & BERT-MRC；Pytorch

QQ浏览器2021AI算法大赛赛道一 第1名 方案

NLP关系抽取：序列标注、层叠式指针网络、Multi-head Selection、Deep Biaffine Attention

NLP句子编码、句子embedding、语义相似度：BERT_avg、BERT_whitening、SBERT、SmiCSE

Language Understanding Evaluation benchmark for Chinese: datasets, baselines, pre-trained models,corpus and leaderboard

NLP实验：新词挖掘+预训练模型继续Pre-training

简洁易用版TinyBert：基于Bert进行知识蒸馏的预训练语言模型

全球人工智能技术创新大赛-赛道三-冠军方案

天池-Datawhale 零基础入门NLP-新闻文本分类 最终榜Top10分享

gaiic2021-track3-小布助手对话短文本语义匹配复赛rank3、决赛rank4

This repo contains a PyTorch implementation of a pretrained BERT model for multi-label text classification.

Datasets used in Plotly examples and documentation

NEZHA: Neural Contextualized Representation for Chinese Language Understanding

NLP中文预训练模型泛化能力挑战赛(https://tianchi.aliyun.com/competition/entrance/531841/introduction?spm=5176.12281957.1004.2.7a883eafYhYhOq)

【最新版】深度学习模型（推荐场景CTR预估为背景）, 使用estimator进行封装, 包括dnn、deepfm、din、dinfm、autoint等模型

深度学习，针对多目标任务，在推荐算法的ctr预估等场景中的应用，项目使用tensorflow estimator进行封装，包括esmm、mmoe模型

I am the creator of vscode-deno. Currently a contributor to Deno.

Label Mask for Multi-label Classification

Code for the ICML 2021 (long talk) paper: "ViLT: Vision-and-Language Transformer Without Convolution or Region Supervision"

A modular framework for vision & language multimodal research from Facebook AI Research (FAIR)

No description.

天池NLP中文预训练模型泛化能力挑战赛的配套代码

技术资料分享

The code for 2020 Tencent College Algorithm Contest, and the online result ranks 1st.

阿里云天池零基础入门NLP比赛_rank4选手比赛总结: https://tianchi.aliyun.com/competition/entrance/531810/introduction

A PyTorch-based knowledge distillation toolkit for natural language processing

No description.

自己收集的一些互联网上的文章和博客，主要关于NLP/DL/ML/Python/比赛/找工作等，如有侵权请告知删除。

CCF BDCI 2019 互联网新闻情感分析 复赛top1解决方案

黑马程序员匠心之作|C++教程从0到1入门编程

ccf 2020 qa match competition top1

CCL2020-Humor-Computation

CCL2020 第二届“小牛杯”幽默计算——情景喜剧笑点识别

No description.

CCF BDCI 2020 房产行业聊天问答匹配赛道 A榜47/2985

CCF BDCI 2020 房产行业聊天问答匹配

简单的向量白化就可以媲美BERT

天池 疫情相似句对判定大赛 线上第一名方案

Simple Text-Generator with OpenAI gpt-2 Pytorch Implementation

The basic distribution probability Tutorial for Deep Learning Researchers

Simple XLNet implementation with Pytorch Wrapper

刷算法全靠套路，认准 labuladong 就够了！English version supported! Crack LeetCode, not only how, but also why.

Pytorch implementation of "A Deep Reinforced Model for Abstractive Summarization" paper and pointer generator network

Re-implementation of multi-source pointer network.

Summarization Papers

Tutorials on implementing a few sequence-to-sequence (seq2seq) models with PyTorch and TorchText.

Natural Language Processing Tutorial for Deep Learning Researchers

Basic data mining model, including feature importance display

natural language processing

Python code for common Machine Learning Algorithms

machine learning algorithm

The score code of FastBERT (ACL2020)

it's all about search and its awesomeness

2019-CIKM挑战赛，超大规模推荐之用户兴趣高效检索赛道 冠军解决方案

No description.

Embedding, NMT, Text_Classification, Text_Generation, NER etc.

《机器翻译：统计建模与深度学习方法》肖桐 朱靖波 著 - Machine Translation: Statistical Modeling and Deep Learning Methods

Exploring the simple sentence similarity measurements using word embeddings

An Open-source Neural Hierarchical Multi-label Text Classification Toolkit

从头训练MASK BERT

Pytorch Bert Finetune in Chinese Text Classification

汉语自然语言处理视频教程-开源学习资料

CLUENER2020 中文细粒度命名实体识别 Fine Grained Named Entity Recognition

Chinese NER using BERT(softmax, CRF, Span)

pytorch implementation of Attention is all you need

Vector Search Engine base on BRPC + FAISS

A machine translation reading list maintained by Tsinghua Natural Language Processing Group

复盘所有NLP比赛的TOP方案，只关注NLP比赛，持续更新中！

Chinese NER using Lattice LSTM. Code for ACL 2018 paper.

Unsupervised Data Augmentation (UDA)

基于BI-LSTM+CRF的中文命名实体识别 Pytorch

No description.

Chinese new word discovery

This repo contains a PyTorch implementation of a BiLSTM-CRF model for named entity recognition task.

面向中文领域的轻量文本匹配框架，集成文本匹配，文本蕴含，释义识别等领域的各个经典，STA模型

A BERT-based Chinese Text Encoder Enhanced by N-gram Representations

中文人名语料库。中文姓名,姓氏,名字,称呼,日本人名,翻译人名,英文人名。可用于中文分词、人名实体识别。

This repo contains a PyTorch implementation of a pretrained BERT model for text classification.

This repo contains a PyTorch implementation of a pretrained BERT model for sentence similarity task.

关键词抽取，神策杯2018高校算法大师赛比赛，solo 排名3/591

蚂蚁金服比赛 15th/2632

some tircks for PyTorch

C++从零开始深度学习

chineseGLUE baseline pytorch chineseGLUE的pytorch版本基线

基于法律裁判文书的事件抽取及其应用，包括数据的分词、词性标注、命名实体识别、事件要素抽取和判决结果预测等内容

Bert预训练模型fine-tune计算文本相似度

End-to-end Sequence Labeling via Bi-directional LSTM-CNNs-CRF implement in pyotrch

supervised relation extraction for PCNN (Zeng 2014) in pytorch 关系抽取

Aspect Based Sentiment Analysis, PyTorch Implementations. 基于方面的情感分析，使用PyTorch实现。

BDCI 2018 汽车行业用户观点主题及情感识别 决赛一等奖方案

2019百度的关系抽取比赛，使用Pytorch实现苏神的模型，F1在dev集可达到0.75，联合关系抽取，Joint Relation Extraction.

Neural Relation Extraction implemented in PyTorch

中国法研杯司法人工智能挑战赛之相似案例匹配第一名解决方案

之江-电商评论观点挖掘的比赛，基于pytorch-transformers版本，暂时只实现了BERT做aspect+opinion+属性分类+情感极性的联合标注，还未加上CRF。

Named Recognition Entity based on BERT and CRF 基于BERT+CRF的中文命名实体识别

A LITE BERT FOR SELF-SUPERVISED LEARNING OF LANGUAGE REPRESENTATIONS, 海量中文预训练ALBERT模型

A Lite Bert For Self-Supervised Learning Language Representations

No description.

PyTorch Bert Text Classification

Pytorch implementations of various Deep NLP models in cs-224n(Stanford Univ)

Library for fast text representation and classification.

PyTorch tutorials and fun projects including neural talk, neural style, poem writing, anime generation

Python 中文数据结构和算法教程