Skip to content

Commit 1e4f04e

Browse files
ShenYuhanZeyuChen
authored andcommitted
update bert_service doc (#334)
* modify serving&config help * update bert_service doc
1 parent b2cca30 commit 1e4f04e

File tree

1 file changed

+8
-5
lines changed

1 file changed

+8
-5
lines changed

tutorial/bert_service.md

+8-5
Original file line numberDiff line numberDiff line change
@@ -1,7 +1,9 @@
11
# Bert Service
22
## 简介
3+
### 为什么使用Bert Service
4+
开发者在进行NLP(自然语言处理)的时候常常需要获取文本的embedding(词向量),需要专门编写相应代码,且只能在本地进行。使用`Bert Service`能够将此过程转化为远程调用API,完成远程获取embedding。
35
### 什么是Bert Service
4-
`Bert Service`是基于[Paddle Serving](https://github.com/PaddlePaddle/Serving)框架的快速部署模型远程计算服务方案,可将embedding过程通过调用API接口的方式实现,减少了对机器资源的依赖。使用PaddleHub可在服务器上一键部署`Bert Service`服务,在另外的普通机器上通过客户端接口即可轻松的获取文本对应的embedding数据。
6+
`Bert Service`是基于[Paddle Serving](https://github.com/PaddlePaddle/Serving)框架的快速部署模型远程计算服务方案,可将获取embedding的过程通过调用API接口的方式实现,减少了对机器资源的依赖。使用PaddleHub可在服务器上一键部署`Bert Service`服务,在另外的普通机器上通过客户端接口即可轻松的获取文本对应的embedding数据。
57

68
整体流程图如下:
79

@@ -11,7 +13,8 @@
1113

1214
</div>
1315

14-
### 为什么使用Bert Service
16+
### Bert Service的特点
17+
使用`Bert Service`能够帮助开发者在限制性较强的环境中有效获取embedding,常用于以下情景:
1518
* 算力有限的集群环境中,可利用一台或几台高性能机器部署`Bert Service`服务端,为全部机器提供在线embedding功能。
1619

1720
* 实际的生产服务器不适宜承担大批量embedding工作,通过API接口可减少资源占用。
@@ -69,9 +72,9 @@ $ pip install ujson
6972
|模型|网络|
7073
|:-|:-:|
7174
|[ernie](https://paddlepaddle.org.cn/hubdetail?name=ERNIE&en_category=SemanticModel)|ERNIE|
72-
|[ernie_tiny](https://paddlepaddle.org.cn/hubdetail?name=ernie_tiny&en_category=SemanticModel)|ERNIE|
73-
|[ernie_v2_eng_large](https://paddlepaddle.org.cn/hubdetail?name=ernie_v2_eng_large&en_category=SemanticModel)|ERNIE|
74-
|[ernie_v2_eng_base](https://paddlepaddle.org.cn/hubdetail?name=ernie_v2_eng_base&en_category=SemanticModel)|ERNIE|
75+
|[ernie_tiny](https://paddlepaddle.org.cn/hubdetail?name=ernie_tiny&en_category=SemanticModel)|ERNIE tiny|
76+
|[ernie_v2_eng_large](https://paddlepaddle.org.cn/hubdetail?name=ernie_v2_eng_large&en_category=SemanticModel)|ERNIE 2.0|
77+
|[ernie_v2_eng_base](https://paddlepaddle.org.cn/hubdetail?name=ernie_v2_eng_base&en_category=SemanticModel)|ERNIE 2.0|
7578
|[roberta_wwm_ext_chinese_L-12_H-768_A-12](https://paddlepaddle.org.cn/hubdetail?name=roberta_wwm_ext_chinese_L-12_H-768_A-12&en_category=SemanticModel)|BERT|
7679
|[roberta_wwm_ext_chinese_L-24_H-1024_A-16](https://paddlepaddle.org.cn/hubdetail?name=roberta_wwm_ext_chinese_L-24_H-1024_A-16&en_category=SemanticModel)|BERT|
7780
|[bert_wwm_ext_chinese_L-12_H-768_A-12](https://paddlepaddle.org.cn/hubdetail?name=bert_wwm_ext_chinese_L-12_H-768_A-12&en_category=SemanticModel)|BERT|

0 commit comments

Comments
 (0)