1. На хосте с linux получаем сертификаты
2. Копируем файлы cert.pem и privkey.pem на Netscaler в папку /nsconfig/ssl/. Я копировал с помощью scp, который есть на Netscaler.
3. Теперь надо конвертировать privkey.pem в нужный формат (иначе будет ошибка: Invalid private key, or PEM pass phrase required for this private key). Это делается непосредственно на Netscaler с помощью openssl.
Подключаемся в консоль Netscaler и запускаем shell:

shell

Переходим в директорию /nsconfig/ssl/ и запускаем openssl:

cd /nsconfig/ssl/
openssl

Теперь конвертируем:

rsa -in ./my.domain_privkey.pem -out ./my.domain.key

Все. С файлом сертификата никаких дополнительных манипуляций производить не надо.
Теперь при установке сертификата на Netscaler нужно выбирать сертификат скопированный с хоста linux и файл ключа, полученный в результате конвертации.