diff --git a/Dockerfile.ubi b/Dockerfile.ubi
index 915191869..16b8bfff5 100644
--- a/Dockerfile.ubi
+++ b/Dockerfile.ubi
@@ -211,6 +211,10 @@ COPY --link vllm vllm
 # COPY --from=prebuilt-wheel --link /workspace/vllm/*.so /workspace/vllm/
 # ENV VLLM_USE_PRECOMPILED=1
 ##################################################
+# Comment if not building .so files from scratch
+RUN microdnf install -y git \
+    && microdnf clean all
+##################################################
 
 # Copy over the generated *.pb2 files
 COPY --from=gen-protos --link /workspace/vllm/entrypoints/grpc/pb vllm/entrypoints/grpc/pb