例如,如果你的产品是输入文字、输出生成图,那你可以使用输入组件和图片组件;如果你的产品是输入文字、输出生成也是文字,那你可以使用输入组件或文本组件。
下图是一个基于文本内容做问答的应用界面:
通过完成下述表单,配置 Hugging Face 资源:
接下来我们配置 Action。首先是确认 Hugging Face 中模型的连接信息,你需要前往 Hugging Face Hub 页面,按需选择模型:
https://hf.co/models
本文我们以 luhua/chinese_pretrain_mrc_roberta_wwm_ext_large
模型为例,进入模型的详情页,点击右上方 Deploy,并选择 Inference API:
https://hf.co/luhua/chinese_pretrain_mrc_roberta_wwm_ext_large
inputs
参数后面的内容,就是你需要在 ILLA Cloud 中配置的参数内容:接下来回到 ILLA Cloud 的 Action 配置,需要填入 Model ID 和 Parameter。对于上图的 Model 输入是多个键值对的场景,我们提供了键值对输入和 JSON 输入两种方式,如下图:此外,ILLA Cloud 还支持输入文本和二进制文件,能够满足 Hugging Face 中现存模型的需求。
{{
获取组件里输入的数据,如 input2
组件用于输入 question
、input1
组件用于输入 context
,只需要在 Action 中这两个参数值的位置,填入相关信息即可。下面是使用 JSON 的示例代码:
{"question": {{input2.value}},"context": {{input1.value}}}
接下来,我们要在前端组件中展示 Action 的输出数据。
我们需要确认不同模型的输出放在哪个字段,仍以 luhua/chinese_pretrain_mrc_roberta_wwm_ext_large
模型为例,运行结果如下:
{{ textQuestion.data[0].answer }}
来获取答案 (其中,textQuestion
是 Action 的名称),将 {{ textQuestion.data[0].answer }}
填入用于展示结果的组件的属性配置即可:
以上就是使用 ILLA Cloud 集成 Hugging Face 上的模型快速构建一个智能问答机器人的应用界面。在公司内部使用的场景下,还可以通过类似的模型解决很多具体场景的问题,比如内部资料通过模型训练之后的问答客服,随着不同的内容输入,也可以应用在更多场景。另外,Hungging Face 上还有很多有趣的模型,通过 ILLA Cloud 的调用可以快速地实现一些有趣的功能,比如在极短的时间构建类似 Lite 版本的 ChatGPT 或者图像生成内容的应用等。
即刻体验 ILLA Cloud:
https://github.com/illacloud/illa-builder
更多关于 Hugging Face 平台的信息,欢迎关注 Hugging Face 官方微信公众号了解: