自然语言处理


因该课件来自中科院宗老师处,请大家不要在网络上公开传播,仅限咱们课程使用


实验设计

  • 实验一
    • 实验目的: 理解并实践语言模型
    • 实验内容:
      • 1. 用 python 编程实践语言模型
      • 2. 用 PPL 去测试语言模型效果,并得出指标
  • 实验二
    • 实验目的: 实践分词工具,深入理解原理
    • 实验内容:
      • 1. 安装并调用 nltk、 spacy、 stanfordnlp 和 jieba 等主流分词工具
      • 2. 分析对比各类主流分词工具的异同, 体会中英文分词工具的差异
  • 实验三
    • 实验目的: 理解并实践词性标注
    • 实验内容:
      • 1. 安装并调用nltk、 spacy、 stanfordnlp等工具进行英文词性标注
      • 2. 安装并调用Jieba,StanfordCoreNLP,SnowNLP,THULAC,NLPIR等工具进行中文词性标注
      • 3. 使用python编程实践CRF,进行词性标注
  • 实验四
    • 实验目的: 理解并实践命名实体识别
    • 实验内容:
      • 1. 用python 编程实践命名实体识别
      • 2. 使用BERT + CRF 实践命名实体识别
  • 实验五
    • 实验目的: 理解并实践词向量
    • 实验内容:
      • 1. 用 python 编程实践one-hot 编码
      • 2. 用 python 编程实践Word2vec词向量训练,实现Word2vec在Wikipedia语料集上面的应用
  • 实验六
    • 实验目的: 理解并实践神经机器翻译模型
    • 实验内容:
      • 1. 用 TensorFlow 框架实现 seq2seq 神经机器翻译模型
      • 2. 加入 attention 机制并理解原理(选做)
      • 3. 用 blue 评测翻译结果
  • 备注: 根据难度以及实际情况进行调整

参考资源


科技前沿


分词标注符号

代码名称举例
a 形容词 最/d 大/a 的/u
ad 副形词 一定/d 能够/v 顺利/ad 实现/v 。/w
ag 形语素 喜/v 煞/ag 人/n
an 名形词 人民/n 的/u 根本/a 利益/n 和/c 国家/n 的/u 安稳/an 。/w
b 区别词 副/b 书记/n 王/nr 思齐/nr
c 连词 全军/n 和/c 武警/n 先进/a 典型/n 代表/n
d 副词 两侧/f 台柱/n 上/ 分别/d 雄踞/v 着/u
dg 副语素 用/v 不/d 甚/dg 流利/a 的/u 中文/nz 主持/v 节目/n 。/w
e 叹词 嗬/e !/w
f 方位词 从/p 一/m 大/a 堆/q 档案/n 中/f 发现/v 了/u
g 语素 例如dg 或ag
h 前接成分 目前/t 各种/r 非/h 合作制/n 的/u 农产品/n
i 成语 提高/v 农民/n 讨价还价/i 的/u 能力/n 。/w
j 简称略语 民主/ad 选举/v 村委会/j 的/u 工作/vn
k 后接成分 权责/n 明确/a 的/u 逐级/d 授权/v 制/k
l 习用语 是/v 建立/v 社会主义/n 市场经济/n 体制/n 的/u 重要/a 组成部分/l 。/w
m 数词 科学技术/n 是/v 第一/m 生产力/n
n 名词 希望/v 双方/n 在/p 市政/n 规划/vn
ng 名语素 就此/d 分析/v 时/Ng 认为/v
nr 人名 建设部/nt 部长/n 侯/nr 捷/nr
ns 地名 北京/ns 经济/n 运行/vn 态势/n 喜人/a
nt 机构团体 [冶金/n 工业部/n 洛阳/ns 耐火材料/l 研究院/n]nt
nx 字母专名 ATM/nx 交换机/n
nz 其他专名 德士古/nz 公司/n
o 拟声词 汩汩/o 地/u 流/v 出来/v
p 介词 往/p 基层/n 跑/v 。/w
q 量词 不止/v 一/m 次/q 地/u 听到/v ,/w
r 代词 有些/r 部门/n
s 处所词 移居/v 海外/s 。/w
t 时间词 当前/t 经济/n 社会/n 情况/n
tg 时语素 秋/Tg 冬/tg 连/d 旱/a
u 助词 工作/vn 的/u 政策/n
ud 结构助词 有/v 心/n 栽/v 得/ud 梧桐树/n
ug 时态助词 你/r 想/v 过/ug 没有/v
uj 结构助词的 迈向/v 充满/v 希望/n 的/uj 新/a 世纪/n
ul 时态助词了 完成/v 了/ ul
uv 结构助词地 满怀信心/l 地/uv 开创/v 新/a 的/u 业绩/n
uz 时态助词着 眼看/v 着/uz
v 动词 举行/v 老/a 干部/n 迎春/vn 团拜会/n
vd 副动词 强调/vd 指出/v
vg 动语素 做好/v 尊/vg 干/j 爱/v 兵/n 工作/vn
vn 名动词 股份制/n 这种/r 企业/n 组织/vn 形式/n ,/w
w 标点符号 生产/v 的/u 5G/nx 、/w 8G/nx 型/k 燃气/n 热水器/n
x 非语素字
y 语气词 已经/d 30/m 多/m 年/q 了/y 。/w
z 状态词 势头/n 依然/z 强劲/a ;/w