Ich habe inzwischen auch noch etwas experimentiert und festgestellt, dass es nicht an MD5 liegt. Die Ursache war ein aufgerufener DNS-Name, welcher nicht im Zertifikat (CN bzw. Subject Alternative Name) hinterlegt war. Das Problem war weg, als ich den fehlenden Namen unter Subject Alternative Name hinterlegt habe.
Allerdings ist die Meldung "Dem Zertifikat wird nicht vertraut, weil es nicht von einer bekannten Authorität unter Verwendung einer sicheren Signatur verifiziert wurde." etwas verwirrend.
Übrigens MD5 ist bei der Installation noch ein Überbleibsel einer alten Installation und wird gerade umgestellt...