Tento problém jsem měl také. Stačilo přejmenovat CER na PEM :)
Jak vysvětluje ssl.com, soubor .cer může být v kódování der nebo pem. Pokud je v kódování, budete muset provést konverzi, jak jste zkoušeli, ale pokud je již v kódování pem, není nutná žádná konverze a pokud to zkusíte, dostanete chybu, kterou máte - a můžete pouze přejmenovat soubor.
Pokud si nejste jisti, je dobré vědět, že .der je binární formát, zatímco .pem je formát ascii. Pokud odešlete obsah svého certifikátu, bude soubor .pem vypadat nějak takto:
-----BEGIN CERTIFICATE-----
MIIEuTCCA6G[snip lots of chars]
XmCpajQ==
-----END CERTIFICATE-----
A soubor .der by vypadal takto:
0▒▒0▒▒▒@*▒H▒▒▒▒▒0
0▒▒1
0 UUS10U
VeriSign, Inc.10U
VeriSign Trust Network1:08U