bien que comme vous le soulignez, la base mathématique la plus rationnelle (pour des mathématiciens, pas forcément d’un point de vue pratique) soit la base 16 
La base qui serait la plus rationnelle et la plus pratique (d’un point de vue arithmétique) serait effectivement la base hexadécimal, c’est à dire la base 16
J’ai pris 16 un peu au hasard, enfin parce qu’elle est trés utilisée en informatique, étant donné son lien avec la base 2. Je pense par contre que la base 16 est moins pratique autrement que la base 10.

Que la base 10 s’impose devant la base 12 est tout à fait logique : la base 10 est inscrite dans nos langues même (parce qu’on a compté depuis des temps immémoriaux sur nos dix doigts).
L’écriture indo-arabe décimale moderne n’est arrivée en Europe qu’en 1200 avec Fibonacci, et n’a commencé à devenir populaire que vers 1600, probablement grace à Simon Stevin et Napier. Ils ont probablement pas voulu se compliquer la vie a introduire une nouvelle base, puisque les arabes comptaient déjà en décimal ?