调用LLM的NextJS v14架构

Question

在 NextJS v14 应用程序中，我需要调用与 LLM 交互的代理 API。 API 返回 NDJSON 响应，需要使用 can-ndjson-stream npm 库中的 ndjsonStream 函数进行处理。

我有一个客户端组件，其表单将包含问题的服务器操作发送给 LLM，还有另一个客户端组件用于显示结果。

我不确定如何有效地集成这些组件。

我的服务器操作调用LLM代理API，但我不确定在哪里放置ndjsonStream处理。另外，如何将处理后的流发送回客户端组件？

Answer 1

Vercel Github 上提供了此问题的解决方案：https://github.com/vercel/next.js/discussions/67501