Uživatel Mac by si měl nainstalovat XQuartz místo Xming .
A další důležitá věc:pokud si nainstalujete xquartz přes homebrew , měli byste se znovu přihlásit ke svým macos nebo restartovat.
Jak říká odpověď rackpasů.
Ok, po nějakém dalším googlování se mi konečně podařilo zprovoznit tento proces, doufám, že to někomu pomůže:
1) na vzdáleném hostiteli (VPS, Ubuntu 16.04) musel jsem nainstalovat server X11, což jsem provedl:
sudo apt-get install xorg
sudo apt-get install openbox
2) Na vzdáleném hostiteli jsem se musel ujistit, že X11Forwarding je povoleno v /etc/ssh/sshd_config
3) Na místním počítači s Win10 jsem musel nainstalovat Xming server a spustit jej s výchozím nastavením.
4) Na místním počítači Win10 jsem musel nakonfigurovat Putty tak, aby používal předávání X11 (Connection-> SSH -> X11 Forwarding) s výchozím nastavením a ponechal připojení otevřené při spuštění PyCharm (zdá se, že v PyCharm není žádná možnost povolit předávání x11, takže putty musí běžet na pozadí)
5) Na vzdáleném počítači jsem musel zkontrolovat Display number (echo $DISPLAY) - to může být pro každého jiné. Pro mě to byl localhost:10.0
6) V konfiguraci PyCharm Run -> Proměnné prostředí jsem musel přidat DISPLAY=localhost:10.0
Po všech těchto krocích a spuštění Putty+Xming na pozadí jsem byl schopen spustit vzdálený kód a vrátit grafiku zpět do mého Windows 10 PC!
PS - proces je ve skutečnosti pomalý, musím počkat asi 10 sekund, než se mi obrázek vrátí. Nevím proč a jak to urychlit. Možná další otázka. (snížení síly čipu a povolení komprese nepomůže. Vypadá to na nějaký problém s inicializací x11 vzdáleného a místního)