Skip to content

Latest commit

 

History

History
 
 

ernie_gen_acrostic_poetry

Folders and files

NameName
Last commit message
Last commit date

parent directory

..
README.md
README.md
 
 
__init__.py
__init__.py
 
 
decode.py
decode.py
 
 
module.py
module.py
 
 

README.md

ernie_gen_acrostic_poetry

模型名称 ernie_gen_acrostic_poetry
类别 文本-文本生成
网络 ERNIE-GEN
数据集 开源诗歌数据集
是否支持Fine-tuning 否
模型大小 1.64G
最新更新日期 2021-02-26
数据指标 -

一、基本信息

  • 模型介绍

    • ERNIE-GEN 是面向生成任务的预训练-微调框架，首次在预训练阶段加入span-by-span 生成任务，让模型每次能够生成一个语义完整的片段。在预训练和微调中通过填充式生成机制和噪声感知机制来缓解曝光偏差问题。此外, ERNIE-GEN 采样多片段-多粒度目标文本采样策略, 增强源文本和目标文本的关联性，加强了编码器和解码器的交互。
    • ernie_gen_acrostic_poetry采用开源诗歌数据集进行微调，可用于生成藏头诗。

二、安装

三、模型API预测

  • 1、命令行预测

    • $ hub run ernie_gen_acrostic_poetry --input_text="我喜欢你" --use_gpu True --beam_width 5
      • NOTE: 命令行预测的方式只支持七言绝句，如需输出五言绝句、五言律诗、七言律诗，请使用API。
      • 参数
        • input_text: 诗歌的藏头，长度不应超过4，否则将被截断；
        • use_gpu: 是否采用GPU进行预测；若使用GPU，请先设置CUDA_VISIBLE_DEVICES环境变量；
        • beam_width: beam search宽度，决定每个藏头输出的下文数目。

    • 通过命令行方式实现文字识别模型的调用，更多请见 PaddleHub命令行指令

  • 2、预测代码示例

    • import paddlehub as hub

# 在模型定义时，可以通过设置line=4或8指定输出绝句或律诗，设置word=5或7指定输出五言或七言。
# 默认line=4, word=7 即输出七言绝句。
module = hub.Module(name="ernie_gen_acrostic_poetry", line=4, word=7)

test_texts = ['我喜欢你']
results = module.generate(texts=test_texts, use_gpu=True, beam_width=5)
for result in results:
    print(result)
    
# ['我方治地种秋芳，喜见新花照眼黄。欢友相逢头白尽，你缘何事得先尝。', '我今解此如意珠，喜汝为我返魂无。欢声百里镇如席，你若来时我自有。', '我今解此如意珠，喜汝为我返魂无。欢声百里镇如席，你若来时我自孤。', '我今解此如意珠，喜汝为我返魂无。欢声百里镇如席，你若来时我自如。', '我方治地种秋芳，喜见新花照眼黄。欢友相逢头白尽，你缘何事苦生凉。']

  • 3、API

    • hub.Module(name="ernie_gen_acrostic_poetry", line=4, word=7)
      • 在模型定义时，可以通过设置line=4或8指定输出绝句或律诗，设置word=5或7指定输出五言或七言。
      • 默认line=4, word=7 即输出七言绝句。
    • def generate(texts, use_gpu=False, beam_width=5):
      • 预测API，输入诗歌藏头，输出诗歌下文。
      • 参数
        • texts (list[str]): 诗歌的藏头；
        • use_gpu (bool): 是否使用 GPU；若使用GPU，请先设置CUDA_VISIBLE_DEVICES环境变量；
        • beam_width: beam search宽度，决定每个藏头输出的下文数目。
      • 返回
        • results (list[list][str]): 诗歌下文，每个诗歌藏头会生成beam_width个下文。

四、服务部署

  • PaddleHub Serving可以部署一个在线诗歌生成服务，可以将此接口用于在线web应用。

  • NOTE: 服务部署的方式只支持七言绝句，如需输出五言绝句、五言律诗、七言律诗，请使用API。

  • 第一步：启动PaddleHub Serving

    • 运行启动命令：

    • $ hub serving start -m ernie_gen_acrostic_poetry -p 8866

    • 这样就完成了一个服务化API的部署，默认端口号为8866。

    • NOTE: 如使用GPU预测，则需要在启动服务之前，请设置CUDA_VISIBLE_DEVICES环境变量，否则不用设置。

  • 第二步：发送预测请求

    • 配置好服务端，以下数行代码即可实现发送预测请求，获取预测结果

    • import requests
import json

# 发送HTTP请求

data = {'texts':['我喜欢你'],
        'use_gpu':True, 'beam_width':5}
headers = {"Content-type": "application/json"}
url = "http://127.0.0.1:8866/predict/ernie_gen_acrostic_poetry"
r = requests.post(url=url, headers=headers, data=json.dumps(data))

# 保存结果
results = r.json()["results"]
for result in results:
    print(result)

# serving运行结果同本地运行结果（见上）

    • 关于PaddleHub Serving更多信息参考服务部署

五、更新历史

  • 1.0.0

    初始发布

  • 1.0.1

    完善API的输入文本检查

  • 1.1.0

    接入PaddleNLP

    • $ hub install ernie_gen_poetry==1.1.0