Richard Dedekind : une première ébauche de théorie des ensembles
Les travaux en théorie des nombres de Richard Dedekind (1831–1916) reposent sur une grande utilisation des ensembles. Ainsi, il introduit, dans le domaine des nombres algébriques, les notions d'idéal, de corps, et enseigne pour la première fois en Allemagne la théorie de Galois. Avant les travaux de Cantor, Dedekind utilise sans complexe des collections infinies qui font encore froncer les sourcils à certains de ses contemporains.
Dedekind utilise également les ensembles dans ses travaux « fondationnels » pour définir les nombres réels et les entiers naturels. En particulier, sa définition de l'ensemble des naturels en 1888 dans Que sont et à quoi servent les nombres ? repose sur un arsenal conceptuel ensembliste explicitement développé au début de son mémoire. Il définit le concept d'ensemble, qu'il appelle « système » : « Il arrive très souvent que des choses différentes a, b, c… soient pour un motif quelconque réunies sous un point de vue commun, mises ensemble dans la pensée et on dit alors qu'elles forment un système S. » Il donne également des définitions rigoureuses de plusieurs notions ensemblistes (par exemple ensemble infini ou équipotence) et prouve de nombreux résultats importants. On trouve donc, dans cet ouvrage, une première ébauche de théorie abstraite des ensembles – bien que l'on soit encore loin de la théorie axiomatique ZFC.
L'opposition de Kronecker
Parmi les mathématiciens contestant la notion d'ensembles infinis, l'un des plus virulents est Leopold Kronecker. Son opposition violente à Cantor est connue. Pour lui, la théorie de Cantor est peut-être de la philosophie ou de la théologie, mais certainement pas des mathématiques.
Kronecker a également critiqué les travaux de Dedekind, avec qui il a été en concurrence pour leurs travaux sur les nombres algébriques. De son point de vue, les méthodes ensemblistes, qui sont non-constructives et utilisent l'infini actuel, donnent aux travaux de Dedekind une trop grande abstraction et les rendent difficiles à comprendre et à juger.
Une riche correspondance avec Cantor
À partir de 1872, Dedekind entretient une correspondance fournie mais irrégulière avec Cantor. Ils discutent essentiellement des travaux de ce dernier, qui, la plupart du temps, prend l'initiative d'écrire et recherche l'avis de son compatriote. C'est justement l'approbation de Dedekind que Cantor cherche lorsqu'il découvre que l'ensemble des points d'une surface comme le carré a la « même taille » que l'ensemble des points sur un segment. Après avoir envoyé sa preuve à Dedekind, il lui écrit : « Tant que vous ne m'aurez pas donné raison, je ne puis que dire : je le vois, mais je ne le crois pas. »
Dedekind est fermement convaincu de l'utilité et l'acceptabilité des ensembles infinis. Même après la publication des paradoxes de Russell, il finit par accepter une troisième édition de son livre sur les entiers naturels et écrit en préface que sa foi en « l'harmonie interne de notre logique ne s'en trouve pas ébranlée ».