Problem mit dem Herunterladen von Optfine

Von welcher Seite lädst du es denn runter?

Solltest du nicht die offizielle Seite von Optifine nutzen, würde ich dir diese empfehlen.

Das Problem könnte sein, dass das nicht die Moddatei für Forge ist.
Installiere dir Java 8 Runtime und öffne die heruntergeladene Jar Datei damit. Da sollte es dann möglich sein die Moddatei zu exportieren.

Ansonsten kannst du auch mal in die jar mit 7Zip oder ähnliches rein zu schauen

Ich vermute dein neu-eingerichtet Windows öffnet die Jar Datei simpel als Archiv (ähnlich einer Zip-Datei).

Du kannst herausfinden ob es eine .jar Datei ist, indem du einen Rechtsklick auf die Datei machst, und ganz unten auf Eigenschaften klickst.

Alternativ, und das ist meine allgemeine Empfehlung für Windows, würde ich die Dateinamenerweiterung standardmäßig anzeigen lassen.
So erkennt man auf einen Blick was für eine Datei das ist, und auch dubiose Dateien oder selbst Viren (in Form ausführbaren Dateien, .exe, .jar) lassen sich leichter erkennen.

Dazu im Windows Explorer auf "Ansicht"->"Dateinamenerweiterungen"

Wenn du durch eine der Methoden herausfindest, das dein vermeintlicher Ordner wirklich die korrekte .jar Datei ist kannst du sie auch direkt in deinen Forge Ordner kopieren.

Die Optifine.jar wurde korrekt heruntergeladen, war allerdings mit dem Windows TextEditor statt java verknüpft.
Wir haben Minecraft & passendes java dann neu installiert. Die .jar per Doppelklick zu starten funktionierte nicht, allerdings per Konsole ohne Probleme.