Springboot接入ChatGPT 续

科技资讯 投稿 5500 0 评论

Springboot接入ChatGPT 续

固定会话

原实现方案中预留了chatId这个字段,原chatId并未起到实际作用,是为后续功能拓展所预留的字段,在原实现方案的网页聊天中,该chatId为随机生成的UUID

访问地址 特点 介绍
chat/web 每次进入网页,生成的会话ID都是随机的,保证不同用户的会话上下文不会产生干扰 原实现方案
chat/{chatId} 现进入网页,chatId由业务系统指定,可以用于记录消息历史记录,上下文由该chatId关联查询 新增方案

固定会话的意义由几个功能来体现

  1. 支持用户与会话映射(由业务系统自行实现

    ChatGPT官网,一个用户关联多个chatId,根据选择的会话可以查询到之前询问的历史消息和继续联系上下文进行提问。

历史消息

本地缓存构建的,历史消息被存储在内存中,不是持久化存储,当项目重启或者垃圾回收,存储的历史消息记录就会丢失。为了方便业务系统更好的集成,持久化数据存储,提供了如下接口。

public interface ChatCacheService {
    /**
     * 根据会话记录查询历史记录
     * @param chatId
     * @return
     */
    List<ChatMessage> history(String chatId;

    /**
     * 查询历史记录
     * @param chatId 会话ID
     * @param limit 限制条数
     * @return
     */
    List<ChatMessage> history(String chatId,Integer limit;

    /**
     * 消息写入
     * @param message
     */
    void write(String chatId, ChatMessage message;

}

鉴权拓展

lucy-chat提供了自定义注解@ChatAuth,并且将该注解添加到了所有的API上,第三方系统集成后,可以通过构建@Aspect对该注解进行拦截处理,以判断当前用户是否有权访问对应接口。

@Documented
@Retention(RetentionPolicy.RUNTIME
@Target({ElementType.METHOD,ElementType.TYPE}
public @interface ChatAuth {
    // it is anything
    String value( default "";
}

由业务系统自行实现切面,完成对接口的鉴权,该鉴权模式的优点是具有更大的自由度,可以抛出自定义异常,可以结合其他业务逻辑(如调用请求次数、频率)等进行鉴权处理。

开源地址

项目采用MIT协议

安装

请参考文章\(^{[1]}\

文档

参考

[1] Kindear.Springboot 接入 ChatGPT [EB/OL] 博客园

[2] Lucy-Chat 快速上手

编程笔记 » Springboot接入ChatGPT 续

赞同 (30) or 分享 (0)
游客 发表我的评论   换个身份
取消评论

表情
(0)个小伙伴在吐槽