нужно как то зашифровать архив rar с помощью какого то ключа, и с помощью которого можно будет разшифровать.
Ну дык в чем проблема? Считай по байтам, зашифруй, и добавь в ресурсы, при запуске полученного екзешника запрашивай пароль и если он совпадает с ключем (в переменной, ресурсах) дешифруй архив и записывай на диск...
http://msdn.microsoft.com/ru-ru/library/system.security.cryptography.aspx Тут все доступно и понятно, даже с примерами%-)