Docker7530
38 lines
2.3 KiB
Markdown
38 lines
2.3 KiB
Markdown
# 任务
|
|
|
|
- [x] 联调：支撑集客大厅联调。（未联调。）
|
|
- [x] 梦思：IBS+ 服务实例支持权重。
|
|
|
|
# 日志
|
|
|
|
网宿科技股份有限公司
|
|
|
|
200A250808520738001
|
|
|
|
现在调整 CosmicService 文件结构。要求每个 public 后跟自己的方法。例如：streamEnhancedRequirement 后应该是streamEnhanceRequirementInternal，如果方法还有文件内的方法调用，继续排列。为了阅读清晰。注意可以编译通过。
|
|
|
|
整理我 CosmicService 整个方法，规范代码。使逻辑不要冗余，复杂。 要求标准异常。异常抛出也要处理下，精简标准。总的方向就是让 CosmicService 看着舒适、易读、标准、结构清晰、健壮，但不冗杂。
|
|
|
|
我现在遇到了一个问题，我要引入 deepseek 模型，但是这个模型不支持 new ResponseFormat(ResponseFormat.Type.JSON_SCHEMA, jsonSchema)) 这种写法，官方是
|
|
|
|
```
|
|
JSON Output
|
|
在很多场景下，用户需要让模型严格按照 JSON 格式来输出，以实现输出的结构化，便于后续逻辑进行解析。
|
|
|
|
DeepSeek 提供了 JSON Output 功能，来确保模型输出合法的 JSON 字符串。
|
|
|
|
注意事项
|
|
设置 response_format 参数为 {'type': 'json_object'}。
|
|
用户传入的 system 或 user prompt 中必须含有 json 字样，并给出希望模型输出的 JSON 格式的样例，以指导模型来输出合法 JSON。
|
|
需要合理设置 max_tokens 参数，防止 JSON 字符串被中途截断。
|
|
在使用 JSON Output 功能时，API 有概率会返回空的 content。我们正在积极优化该问题，您可以尝试修改 prompt 以缓解此类问题。
|
|
```
|
|
|
|
你也可以尝试查询 deepseek 文档。因为涉及大量接口，你能否给我做一个不错的功能。
|
|
|
|
在 AiModel 中加一个是否支持 jsonSchema 的字段，因为可能不只 deepseek不支持。当时不支持 jsonSchema 的模型时，用给 openai 准备的 jsonSchema 例如 FunctionalProcessesResponse 类模拟出一个 json 示例出来，也方便一个对象维护。注意要审视现有逻辑，让整体更合理，同时代码优雅。别的地方也可以适用。
|
|
|
|
# 总结
|
|
|
|
今天把 excalicode ai 的小功能都补齐了。下班到 9 点才走，回家吃了最喜欢吃的杨妈妈弄得烧饼。喝酒得痛感越来越少了。
|