Я знаю, что двоичные исполняемые файлы в Windows принадлежат PE, но что относительно библиотек как .dll или .lib файлы, они принадлежат категории PE?
.dll
.lib
И что относительно исполняемых файлов в Linux?
Из Википедии портативный исполняемый файл:
Расширение файла .cpl, .exe, .dll, .ocx, .sys, .scr, .drv, .tlb
Linux использует ELF.
См. также: Сравнение форматов исполняемого файла