Genesis hat seit dem Umstieg auf Java 11 zwei Varianten: eine Variante mit einem lauffähigen JAR und eine mit mitgelieferten Java (derzeit die ZIP-Version). Letztere hat jetzt eine .BAT-Datei, die das eigentliche Starten übernimmt. Du hast jetzt nicht geschrieben, welche Version Du probiert hast, aber dein bisheriges Verfahren geht nur noch bei der JAR-Version und auch nur mit einem installierten Java 11 oder neuer.
Bei der ZIP-Version kannst Du den Parameter noch versuchen in der Batchdatei "genesis.bat" unterzubringen. Dazu müsstest Du die Zeile mit dem java-Kommando lokalisieren und das "Dglass.win.uiScale=96dpi" manuell reinschreiben. Leider erlaubt mir der Java Buildprozess nicht, diesen Parameter von vorneherein dort reinzubringen.
Eine weitere Option, die ich aber noch nicht verifiziert habe, ist Genesis 5 von Windows im Kompatibilitätsmodus zu starten und die Windows-eigene Skalierung abzuschalten.
https://support.microsoft.com/de-de/help/3025083/windows-scaling-issues-for-high-dpi-devices - ich würde das auf auch auf der BAT-Datei der ZIP-Version probieren.
Die letzte, aber unbefriedigendste Lösung wäre temporär die Font-Skalierung in den Anzeigeeinstellungen von Windows auf 100% zurückzusetzen - was aber auf dem Surface Pro 3 oder höher kein Vergnügen ist.