„
Это при шифровании/расшифровании.
При подписи все наоборот: данные подписываются закрытым ключом (сервер), а проверяются открытым (твоя программа).
По крайней мере, так должно быть. Иначе просто теряется всякий смысл в прикручивании ассиметричной криптографии.
“

Но при подписи:
Алиса:
S = M**d*(mod n), (d;n) - private key
(S;M) - посылается, но M - не зашифровано

Боб:
M = S**e*(mod n), (e;n) - public key

Тоесть при подписи само сообщение(M) не шифоруется.
А в этой программе данные именно расшифровываются, изначально они зашифрованы.
Алиса:
C = M**e*(mod n) (e;n) - public key
C - посылается

Боб:
M = C**d*(mod n) (d;n) - private key
Получили исходное сообщение M.

Отсюда делается вывод, что private key должен быть вшит в программу, иначе расшифровка невозможна. А вот public key лежит у девелоперов и им шифруется кейблок, посылается по e-mail пользователю и тот регистрирует данную программу.

techgl
„Отсюда делается вывод, что private key должен быть вшит в программу, иначе расшифровка невозможна“
Вывод не правильный.
ИМХО проще всего - генеририруешь пару открытый-закрытый ключ. Заменяешь открытый ключ(который прошит в программе) на сгенерированный тобой открытый ключ. С помощью своего закрытого ключа генерируешь серийники