Nel corso dei secoli la forma concreta, secondo la quale la Chiesa ha esercitato questo potere ricevuto dal Signore, ha subito molte variazioni. Durante i primi secoli, la riconciliazione dei cristiani che avevano commesso peccati particolarmente gravi dopo il loro Battesimo (per esempio l'idolatria, l'omicidio o l'adulterio), era legata ad una disciplina molto rigorosa, secondo la quale i penitenti dovevano fare pubblica penitenza per i loro peccati, spesso per lunghi anni, prima di ricevere la riconciliazione. A questo « ordine dei penitenti » (che riguardava soltanto certi peccati gravi) non si era ammessi che raramente e, in talune regioni, una sola volta durante la vita. Nel settimo secolo, ispirati dalla tradizione monastica d'Oriente, i missionari irlandesi portarono nell'Europa continentale la pratica « privata » della penitenza, che non esige il compimento pubblico e prolungato di opere di penitenza prima di ricevere la riconciliazione con la Chiesa. Il sacramento si attua ormai in una maniera più segreta tra il penitente e il sacerdote. Questa nuova pratica prevedeva la possibilità della reiterazione e apriva così la via ad una frequenza regolare di questo sacramento. Essa permetteva di integrare in una sola celebrazione sacramentale il perdono dei peccati gravi e dei peccati veniali. È questa, a grandi linee, la forma di Penitenza che la Chiesa pratica fino ai nostri giorni.