Saint Pierre avait été désigné par le Christ lui-même pour être le chef de l’Église naissante. Ses successeurs immédiats, saint Lin (67-79), saint Anaclet (79-91) et saint Clément Iᵉʳ (91-100) auraient été désignés par saint Pierre, avant sa mort, en 67. Le suivant, saint Évariste (100-109) serait le premier pape élu par acclamation de la foule des fidèles.

Au Vᵉ siècle, en raison du très grand nombre de fidèles qui rend impossible toute élection populaire, le corps électoral fut restreint aux grands dignitaires ecclésiastiques et aux grands princes laïcs, mais le résultat restait soumis à l’approbation des souverains (empereurs romains ou byzantins au début, puis rois barbares et, enfin, aux empereurs germaniques).

En 769, le Concile de Latran retira l’élection aux laïcs et décida de la restreindre aux seuls ecclésiastiques, mais elle était toujours soumis aux ingérences des grands princes (surtout les empereurs germaniques).

Élu pape le 24 janvier 1059, Gérard de Bourgogne, évêque de Florence, prit le nom de Nicolas II (1059-1061). Dès le 13 avril 1059, il convoqua au Latran un synode de 113 évêques d’Italie et d’un grand nombre de prêtres et fit accepter le principe de l’élection pontificale par les cardinaux seuls.

En 1271, à la suite de la plus longue vacance pontificale de l’histoire (deux ans et demi, depuis le décès de Clément IV, à Viterbe, le 29 novembre 1268), les cardinaux, lassés de ces querelles incessantes, décidèrent de s’enfermer dans une grande salle (à Viterbe) et de n’en sortir qu’une fois l’élection d’un nouveau pape achevée. Ce fut Tebald Visconti de Plaisance qui fut élu, le 1ᵉʳ septembre 1271 et prit le nom de Grégoire X (pape de 1271 à 1276). La bulle du 7 juillet 1274, promulguée en application des décisions du 2ᵉ Concile de Lyon, établit le conclave comme méthode d’élection pontificale.

Les siècles suivants ne connurent plus que des modifications de détails. Lors d’une vacance du trône de saint Pierre, les cardinaux s’enferment dans une grande salle, pour n’en sortir qu’une fois un nouveau souverain pontife élu, quel que soit le nombre de scrutins nécessaire. Pour communiquer le résultat des scrutins successifs, on utilise une cheminée, dans laquelle sont brûlés les bulletins de vote : en cas d’élection, la fumée est blanche, sinon elle est noire. Le cardinal camerlingue prononce alors la formule rituelle : « habemus papam ».