Когда оркестратор (Kubernetes, systemd, docker) решает остановить сервис - при деплое новой версии, при масштабировании вниз, просто при рестарте - он посылает процессу сигнал SIGTERM ("вежливая просьба завершиться") и ждёт какое-то время, прежде чем послать SIGKILL (безусловное убийство процесса). Graceful shutdown - это использование этого времени с толком: закончить уже начатую работу и только потом действительно остановиться, вместо того чтобы оборвать всё немедленно.