执行如下命令,快速安装Python语言的最新版本AppBuilder-SDK(要求Python >= 3.8)。
pip install --upgrade appbuilder-sdk
使用AppBuilder SDK之前,请首先申请并设置鉴权参数。具体请参考认证鉴权。
# 设置环境中的TOKEN,以下示例略
os.environ["APPBUILDER_TOKEN"] = "Bearer bce-YOURTOKEN"
AppBuilder包括基于大模型构建AI原生应用的各类范式,包括基于Prompt模版的文本生成、检索增强的生成、使用外部工具的文本生成等。
import appbuilder
# 空模版组件
template_str = "你扮演{role}, 请回答我的问题。\n\n问题:{question}。\n\n回答:"
playground = appbuilder.Playground(prompt_template=template_str, model="ernie-bot-4")
# 定义输入,调用空模版组件
input = appbuilder.Message({"role": "java工程师", "question": "java语言的内存回收机制是什么"})
print(playground(input, stream=False, temperature=0.0))
import appbuilder
# 相似问生成组件
similar_q = appbuilder.SimilarQuestion(model="eb-turbo-appbuilder")
# 定义输入,调用相似问生成
input = appbuilder.Message("我想吃冰淇淋,哪里的冰淇淋比较好吃?")
print(similar_q(input))
空
import appbuilder
# 语音识别组件
asr = appbuilder.ASR()
asr_path = './appbuilder/tests/asr_test.pcm'
# 从文件读取pcm文件,调用asr组件识别结果
with open(asr_path, "rb") as f:
inp = appbuilder.Message(content={"raw_audio": f.read()})
asr_out = asr(inp)
print(out.content)
AppBuilder-SDK提供对组件的服务化能力。通过定义Agent,开发者可以快速启动Chainlit、Flask等服务化的Demo或API提供快速体验环境。
import os
import sys
import appbuilder
# 空模版组件
playground = appbuilder.Playground(
prompt_template="{query}",
model="ernie-bot-4"
)
# 使用AgentBase来服务化playground组件
agent = appbuilder.AgentBase(component=component)
# 启动chainlit demo,会自动在浏览器打开体验对话框页面
agent.chainlit_demo(port=8091)
AppBuilder-SDK遵循Apache-2.0开源协议。