如何部署开源大模型到服务器？

不是使用第三方框架的那种，直接在Linux上下载好开源的模型后使用python代码加载，推理，输出模型（实际上这些已经做好了），目前的问题是怎样才能做到让AI流式输出打印，求大佬解惑。