Никогда не слышал о файлах PECOFF, но я предполагаю, так как они - EXE-файлы, Вам будет нужен Hex-редактор. Я использую bvi для шестнадцатеричного редактирования, но это помогает знать, что vi редактирующие команды использует его.
Необходимо искать "дизассемблер окон".
IDA Pro является одним из них.