В современных версиях виндов это делается очень легко (по крайней мере интерактивным способом) -- смотрим в свойствах файла вкладку "Цифровые подписи" и радуемся (особенно если нарисовался успешный результат).
Интуиция подсказывает, что алгоритмы проверки этих подписей должны присутствовать в openssl.
Даже если это так, то остаются вопросы выдергивания нужных сертификатов CA из базы виндов и отделения подписанных данных файла от блока данных, содержащего подпись (даже наверно сертификат подписи, т.к. там всякая разная инфа навалена).
В идеале конечно хотелось бы иметь тулзу для выполнения поставленной задачи, но будет весьма полезна и техническая инфа о формате присоединения подписи к файлу.
Сегодня наткнулся на подпись в файле *.msi, и наверно это тоже не последний вариант типа файла, где ее можно встретить...