Вот иногда explorer выкидывает такое на не совсем правильные exeшник:

---------------------------
E:\DEV\ASM\reimport\output.exe
---------------------------
E:\DEV\ASM\reimport\output.exe is not a valid Win32 application.
---------------------------
OK   
---------------------------

Как узнать почему он не понравился винде? SizeOfImage не правильный или что? Где-то это уже обсуждалось, но в поисковике не удалось найти мне.

Если например этот exeшник запустить через ollydbg, то будет fault при загрузке, и так можно примерно узнать в чем проблема. А Винда видно так же сама по SEH-у смотрит.

Кажетса Four-F про это писал, но не могу найти

Не припомню такого. Попробуй запихать его в какой-нить редактор PE и сделать validate/optimize или что-то подобное и посмотри в чем разница.

Точно узнать в чем проблема можно, если смотреть действия ntdll.dll. Исходники Винды есть. Наброски в моих статьях есть, так какие проблемы?
Дополнительно возьми PE Verify с этого же сайта.
А на бис можешь попробовать
upx -f filename.exe //упаковать
upx -d filename.exe //перестроить и распаковать