Server Workers - 使用 Workers 的 Uvicorn¶
让我们回顾一下之前的部署概念:
- 安全性 - HTTPS
- 启动时运行
- 重启
- 复制(运行的进程数量)
- 内存
- 启动前的预备步骤
到目前为止,在文档的所有教程中,你可能一直在运行一个服务器程序,例如使用 fastapi 命令运行 Uvicorn,运行单个进程。
在部署应用程序时,你可能希望进行进程复制以利用多核优势并能够处理更多请求。
正如你在上一章关于部署概念中看到的,你可以使用多种策略。
在这里,我将向你展示如何使用 fastapi 命令或直接使用 uvicorn 命令来运行带有工作进程的 Uvicorn。
Info
如果你正在使用容器,例如使用 Docker 或 Kubernetes,我将在下一章中详细介绍:容器中的 FastAPI - Docker。
特别是在 Kubernetes 上运行时,你可能不希望使用 workers,而是每个容器运行一个 Uvicorn 进程,但我将在该章节的后面部分详细说明。
多 Workers¶
你可以使用 --workers 命令行选项启动多个 workers:
如果你使用 fastapi 命令:
$ <font color="#4E9A06">fastapi</font> run --workers 4 <u style="text-decoration-style:solid">main.py</u>
<span style="background-color:#009485"><font color="#D3D7CF"> FastAPI </font></span> Starting production server 🚀
Searching for package file structure from directories with
<font color="#3465A4">__init__.py</font> files
Importing from <font color="#75507B">/home/user/code/</font><font color="#AD7FA8">awesomeapp</font>
<span style="background-color:#007166"><font color="#D3D7CF"> module </font></span> 🐍 main.py
<span style="background-color:#007166"><font color="#D3D7CF"> code </font></span> Importing the FastAPI app object from the module with the
following code:
<u style="text-decoration-style:solid">from </u><u style="-decoration-style:solid"><b>main</b></u><u style="text-decoration-style:solid"> import </u><u style="text-decoration-style:solid"><app</b></u>
<span style="background-color:#007166"><font color="#D3D7CF"> app </font></span> Using import string: <font color="#3465A4">main:app</font>
<span style="background-color:#007166"><font color="#D3D7CF"> server </></span> Server started at <font color="#729FCF"><u style="text-decoration-style:solid">http://0.0.0.0:8000</u></font>
<span style="background-color:#007166"><font color="#D3D7CF"> server </font></span> Documentation at <font color="#729FCF"><u style="text-decoration-style:solid">http://0.0.0.0:8000/docs</u></font>
Logs:
<span style="background-color:#007166"><font color="#D3D7CF"> INFO </font></span> Uvicorn running on <font color="#729FCF"><u style="text-decoration-style:solid">http://0.0.0.0:8000</u></font> <b>(</b>Press CTRL+C to
quit<b>)</b>
<span style="background-color:#007166"><font color="#D3D7CF"> INFO </font></span> Started parent process <b>[</b><font color="#34E2E2"><b>27365</b></font><b>]</b>
<span style="background-color:#007166"><font color="#D3D7CF"> INFO </font></span> Started server process <b>[</b><font color="#34E2E2"><b>27368</b></font><b>]</b>
<span style="background-color:#007166"><font color="#DD3D7CF"> INFO </font></span> Started server process <b>[</b><font color="#34E2E2"><b>27369</b></font><b>]</b>
<span style="background-color:#007166"><font color="#D3D7CF"> INFO </font></span> Started server process <b>[</b><font color="#34E2E2"><b>27370</b></font><b>]</b>
<span style="background-color:#007166"><font color="#D3D7CF"> INFO </font></span> Started server process <b>[</b><font color="#34E2E2"><b>27367</b></font><b>]</b>
<span style="background-color:#007166"><font color="#D3D7CF"> INFO </font></span> Waiting for application startup.
<span style="background-color:#007166"><font color="#D3D7CF"> INFO </font></span> Waiting for application startup.
<span style="background-color:#007166"><font color="#D3D7CF"> INFO </font></span> Waiting for application startup.
<span style="background-color:#007166"><font color="#D3DCF"> INFO </font></span> Waiting for application startup.
<span stylebackground-color:#007166"><font color="#D3D7CF"> INFO </font></span> Application startup complete.
<span style="background-color:#007166"><font color="#D3D7CF"> INFO </font></span> Application startup complete.
<span style="background-color:#007166"><font color="#D3D7CF"> INFO </font></span> Application startup complete.
<span style="background-color:#007166"><font color="#D3D7CF"> INFO </font></span> Application startup complete.
如果你更喜欢直接使用 uvicorn 命令:
$ uvicorn main:app --host 0.0.0.0 --port 8080 --workers 4
<font color="#A6E22E">INFO</font>: Uvicorn running on <b>http://0.0.0.0:8080</b> (Press CTRL+C to quit)
<font color="#A6E22E">INFO</font>: Started parent process [<font color="#A1EFE4"><b>27365</b></font>]
<font color="#A6E22E">INFO>: Started server process [<font color="#A1EFE4">27368</font>]
<font color="#A6E22E">INFO</font>: Waiting for application startup.
<font color="#A6E22E">INFO</font>: Application startup complete.
<font color="#A6E22E">INFO</font>: Started server process [<font color="#A1EFE4">27369</font>]
<font color="#A6E22E">INFO</font>: Waiting for application startup.
<font color="#A6E22E">INFO</font>: Application startup complete.
<font color="#A6E22E">INFO</font>: Started server process [<font color="#A1EFE4">27370</font>]
<font color="#A6E22E">INFO</font>: Waiting for application startup.
<font color="#A6E22E">INFO</font>: Application startup complete.
<font color="#A6E22E">INFO</font>: Started server process [<font color="#A1EFE4">27367</font>]
<font color="#A6E22E">INFO</font>: Waiting for application startup.
<font color="#A6E22E">INFO</font>: Application startup complete.
这里唯一的新选项是 --workers,它告诉 Uvicorn 启动 4 个工作进程。
你还可以看到它显示了每个进程的 PID,父进程(这是进程管理器)的 PID 为 27365,每个工作进程的 PID 分别为:27368、27369、27370 和 27367。
部署概念¶
在这里,你看到了如何使用多个 workers 来并行化应用程序的执行,利用 CPU 中的多核优势,并能够服务更多请求。
从上面的部署概念列表来看,使用 workers 主要有助于复制部分,并在一定程度上帮助重启,但你仍然需要处理其他方面:
- 安全性 - HTTPS
- 启动时运行
- 重启
- 复制(运行的进程数量)
- 内存
- 启动前的预备步骤
容器和 Docker¶
在下一章关于容器中的 FastAPI - Docker中,我将解释一些你可以用来处理其他部署概念的策略。
我将向你展示如何从头开始构建自己的镜像来运行单个 Uvicorn 进程。这是一个简单的过程,并且可能是你在使用分布式容器管理系统(如 Kubernetes)时想要做的事情。
回顾¶
你可以使用 fastapi 或 uvicorn 命令的 --workers CLI 选项来使用多个工作进程,以利用多核 CPU,并行运行多个进程。
如果你正在设置自己的部署系统并同时自己处理其他部署概念,你可以使用这些工具和想法。
查看下一章,了解有关 FastAPI 与容器(例如 Docker 和 Kubernetes)的内容。你将看到这些工具也有简单的方法来解决其他部署概念。✨