É extremamente importante que você leia a documentação que vem com o PGP antes de tentar usá-lo. Sem um entendimento dos princípios básicos por trás da criptografia de chave pública, você pode sem querer por em risco não só a sua segurança, bem como a de outras pessoas, e o PGP vai estar servindo apenas para dar uma falsa impressão de segurança a todos. Não existe forma forte o suficiente de enfatizar a importância da leitura dessa documentação! Os links relacionados abaixo devem ser capazes de lhe fornecer informações suficientes para evitar a maior parte das armadilhas. Existem também vários livros a respeito do PGP, criptografia e segurança.
A excelente documentação escrita por Phil Zimmerman para a versão do MIT do PGP cobre quase tudo que você precisa saber sobre o PGP. Nela você encontra os princípios fundamentais da criptografia de chave pública explicados de forma clara, assim como explicações sobre o uso do PGP propriamente dito. E ainda por cima é uma leitura interessante. Documentação original em inglês:
O arquivo README do PGP 2.6.3i explica quais as diferenças entre o PGP 2.6.3i e o PGP 2.6.2(i).
Se você tem alguma dúvida que não foi respondida na documentação, dê uma procurada nos diversos FAQs sobre o PGP (quase todos em inglês):
Nota: A maioria das páginas abaixo está em inglês.