Справка

Автоматическая перезагрузка при переполнении памяти (OOM, Out of Memory)

Переполнение памяти в некоторых случаях может привести к потере контроля над работой сервера. Один из вариантов того, что можно предпринять для решения такой проблемы - настроить автоматическую аварийную перезагрузку операционной системы при переполнении памяти. Аварийная перезагрузка - не самый лучший вариант, который следует применять только если другие средства исчерпаны.

Для включения аварийной перезагрузки нужно разрешить состояние kernel panic при переполнении памяти, задав для sysctl-переменной vm.panic_on_oom значение 1, и разрешить автоматическую перезагрузку при возникновении kenrel panic, задав для sysctl-переменной kernel.panic значение, отличное от нуля (указывает задержку в секундах перед перезагрузкой), например, 1.

Для этого можно отредактировать файл /etc/sysctl.conf, добавив в него строки:

vm.panic_on_oom = 1
kernel.panic = 1

Рецепты и советы, Oom, Linux, Reboot