В Proxmox 5 (5.2.1) на базе Debian 9.4 увеличить число loop-устройств можно путем редактирования cmdline ядра.
Для этого редактируем:

nano /etc/default/grub

И в строке GRUB_CMDLINE_LINUX_DEFAULT дописываем max_loop=. Примерно так:

GRUB_CMDLINE_LINUX_DEFAULT="quiet max_loop=32"

Пересобираем все и перезагружаемся:

update-grub
update-initramfs -u
reboot