Dans la préface de son Isagoge parue en 1591, le mathématicien vendéen se prétend l’initiateur d’un « art nouveau qui [lui] permet de résoudre les problèmes par vingtaine là où les mathématiciens anciens ou contemporains ne les traitaient qu’un à un ». Il décrit en effet, pas à pas, la démarche pour parvenir au résultat d’un problème algébrique.
Dans le chapitre V de cet ouvrage, il introduit le terme « zététique » pour exprimer le fait qu’il faut réserver certaines lettres (en général les voyelles) pour les quantités connues, appelées datas, et d’autres (en général les consonnes) pour celles qui ne le sont pas (les incertitus). L’intérêt est bien sûr de donner des résultats valables de manière plus générale.
Viète a rédigé la même année Zeteticorum libri quinque (« Les cinq livres de zététique »), paru en 1593, dans lequel il met en pratique ces nouvelles méthodes en étudiant des problèmes déjà traités par Diophante. Il a sans doute choisi le terme « zététique », tiré du grec zetein qui signifie « chercher à connaître », pour bien insister sur le fait que la démarche est plus importante que le résultat.
À la suite de Viète, le mot « zététique » a perduré environ deux siècles, puisqu’on le retrouve dans le célèbre dictionnaire de La Furetière, publié en 1690, ainsi défini :
« Terme de mathématique. On appelle méthode zététique, la méthode dont on se sert pour résoudre un problème. » Combien d’entre nous ont fait de la zététique sans le savoir ?
Zeteticorum libri quinque dans sa traduction française, parue en 1630.