Skip to content

前端 AI 开发 ​

这个分类的主题是:前端同学怎么把大模型接进产品里。

不聊模型怎么训练——那是另一个工种的事。这里聊的是你会实际遇到的那些问题:

  • 流式输出 —— SSE 和 WebSocket 怎么选,前端怎么接,断了怎么办
  • SDK 选型 —— AI SDK、各家官方 SDK,什么时候用哪个
  • 浏览器端推理 —— Transformers.js / WebGPU,什么场景值得放本地
  • 消息与状态管理 —— 多轮对话的 UI 状态怎么组织才不乱
  • 降级与错误处理 —— 模型超时、限流、返回格式错乱时页面该显示什么

一个常见误区

把大模型当成"一个返回字符串的接口"来接,是后面所有混乱的源头。它更接近一个不确定的外部依赖——超时、限流、格式漂移都是常态,第一版就得设计降级路径。