持续更新中
本机测试环境
Mac ARM + 开发者工具搭建本地 GPT 测试环境,docker+虚拟机。
GPT 部署参考:https://vip.kingdee.com/link/s/lAc5X
Milvus 使用 Docker Desktop docker-compose.yml 安装
需要注意不需要按照官方文档执行 sudo docker-compose up -d 会报错 去掉 sudo ,仅执行 docker-compose up -d
问题记录
GPT 知识库使用百度 Embedding-V1 模型测试,一直提示失败。
首先使用 postman 测试百度千帆 API 接口成功,排除参数配置错误。
进入开发平台-GPT 开发平台-AIGC测试助手(gai_test_helper) 进行调试测试 embedding 。
需要注意这个页面进行扩展,因为标品的源码默认 AZURE_EMBEDDING_ADA_002 。
编写页面插件增加两个按钮 【embedding】和 【search_collection】
//search_collection String collectionName = MilvusService.getExecutor(LLM.BAIDU_EMBEDDING_V1).getCollectionName(); this.getModel().setValue("collection_name", collectionName); //embedding String embeddingInput = (String) this.getModel().getValue("embedding_input"); start = System.currentTimeMillis(); result4Embedding = EmbeddingServiceFactory.getExecutor(LLM.BAIDU_EMBEDDING_V1).embedding(Collections.singletonList(embeddingInput)); result = "embedding接口耗时:" + (System.currentTimeMillis() - start) + JSON.toJSONString(result4Embedding.getVectorList().get(0));
debug 调试,确定问题 kd.ai.aicc.core.Authorization.getBaiduAccessToken() 方法内参数 client_secret 为空导致的请求百度千帆 API 获取 AccessToken 失败。
继续排查定位到 参数 client_secret 因为 算法部署实例 中存储的 SecretKey 为空导致的。那么 SecretKey 值从哪儿来的?排查来源于 GPT 助手-模型配置,如下图:
点击【详细配置】后会触发更新 算法部署实例对应的值
但是配置页面的表单插件中在更新参数 secretkey 代码,配置确定后 closecallback 事件执行下图代码。判断导致算法部署实例中SecretKey为空。
此处使用 debug setValue 方式临时更改,获取 accesstoken 成功,执行 【embedding】成功。
GPT 知识库文档处理成功