Cài đặt mô hình ML đã được đóng băng với FastAPI và Docker
tsudev· 28/10/2026
Giới thiệu
Cài đặt mô hình máy học (ML) đã được đóng băng là một bước quan trọng trong việc triển khai ứng dụng trí tuệ nhân tạo. Với sự kết hợp giữa FastAPI và Docker, việc này trở nên dễ dàng và linh hoạt hơn. Trong bài viết này, chúng ta sẽ tìm hiểu cách thực hiện việc cài đặt mô hình ML đã được đóng băng trong ứng dụng FastAPI và Docker.Chuẩn bị môi trường
Trước khi bắt đầu, bạn cần có một số công cụ và thư viện cần thiết. Đầu tiên, bạn cần cài đặt Python và pip trên máy tính của mình. Sau đó, bạn cần cài đặt FastAPI và Docker. FastAPI là một framework xây dựng API với tốc độ cao, trong khi Docker là một công cụ giúp bạn tạo và quản lý các container.Tạo mô hình ML
Để bắt đầu, bạn cần tạo một mô hình ML và đóng băng nó. Bạn có thể sử dụng thư viện TensorFlow hoặc PyTorch để tạo mô hình ML. Sau khi tạo mô hình, bạn cần đóng băng nó bằng cách sử dụng hàmtf.saved_model.save() hoặc torch.save().
Tạo ứng dụng FastAPI
Tiếp theo, bạn cần tạo một ứng dụng FastAPI để phục vụ mô hình ML đã được đóng băng. Bạn cần tạo một tệpmain.py và nhập các thư viện cần thiết, bao gồm FastAPI và uvicorn. Sau đó, bạn cần tạo một instance của FastAPI và định nghĩa một route để phục vụ mô hình ML.
Sử dụng Docker
Để sử dụng Docker, bạn cần tạo một tệpDockerfile và định nghĩa các bước cần thiết để xây dựng và chạy ứng dụng FastAPI. Bạn cần chỉ định hình ảnh cơ sở, sao chép tệp main.py vào container, và chạy ứng dụng bằng cách sử dụng lệnh uvicorn.
Ví dụ mã
Dưới đây là một ví dụ mã về cách tạo ứng dụng FastAPI và sử dụng Docker:python
from fastapi import FastAPI
import tensorflow as tf
app = FastAPI()
# Đóng băng mô hình ML
model = tf.keras.models.load_model('model.h5')
tf.saved_model.save(model, 'saved_model')
# Định nghĩa route để phục vụ mô hình ML
@app.post("/predict")
def predict(data: dict):
# Sử dụng mô hình ML để dự đoán
predictions = model.predict(data)
return {"predictions": predictions.tolist()}Dockerfile:
dockerfile
FROM python:3.9-slim
# Sao chép tệp main.py vào container
COPY main.py /app/main.py
# Cài đặt các thư viện cần thiết
RUN pip install fastapi uvicorn tensorflow
# Chạy ứng dụng bằng cách sử dụng lệnh uvicorn
CMD ["uvicorn", "main:app", "--host", "0.0.0.0", "--port", "8000"]