Also nach einigem Probieren habe ich jetzt herausgefunden, wie man mit Paint.net ordentlich einen einzelnen Farbkanal als Alpha eines anderen Bilds definiert. Ich hadere immer noch mit dem DDS-Plugin, aber wenn man keine Mipmaps generiert, stimmt das Ergebnis schonmal. Man kann ja auch als TGA speichern und dem UnrealEd die DXT-Kompression bzw das Generieren von Mipmaps überlassen.
So geht's:
Ihr braucht neben Paint.NET auch noch die Plugins
EdHarvey Effects und
Alpha Mask Import. Zunächst öffnet ihr die Masken-Textur und extrahiert mittels Effects->Color->Extract Channel den gewünschen Farbkanal, also Rot, Grün oder Blau. Falls die Maskentextur andere Dimensionen als die Zieltextur besitzt, muss die Bildgröße angepasst werden. Das Ergebnis kann dann in die Zwischenablage kopiert werden.
Als nächstes öffnet ihr die Zieltextur, die den Alphakanal bekommen soll. Über Effects->Alpha Mask kann man dann aus der Zwischenablage die Maskentextur übernehmen. Abspeichern als TGA oder DDS (aber ohne Mipmaps zu generieren), und fertig. Keine Mipmaps? Nun, das DDS-Plugin ist da etwas nervig und macht alle volltransparenten Teile der Mipmaps schwarz. Überlasst das dem UnrealEd, der hat da wenigstens Ahnung von.
Zum Vergleich - so geht's im alten Paintshop Pro 5: (das ist mein Grafiktool der Wahl)
Maskentextur öffnen, Farben->Kanäle trennen->RGB-Trennung (ergibt drei neue Graustufenbilder)
Zieltextur öffnen, Masken->Neu->Aus einem Bild, Rot Grün oder Blau auswählen, Masken->Als Alpha-Kanal speichern, Masken->Löschen->Nein (also nicht mit der Ebene verbinden)
Unterschiedliche Dimensionen von Masken- und Zieltextur sind kein Problem, die Anpassung passiert automatisch.