McCall Smith est élevé à Bulawayo. Il déménage en Écosse pour étudier le droit à l'université d'Édimbourg, matière qu'il enseigne à l'université du Botswana à partir de 1981. Il retourne ensuite à Édimbourg en 1984, où il est professeur de droit appliqué à la médecine à l'université.
Il est devenu professeur émérite de l'université d'Édimbourg. Il a été président du Comité d'éthique du British Medical Journal jusqu'en 2002, ainsi que vice-président de la Commission sur la génétique humaine du Royaume-Uni et membre du Comité international de bioéthique à l'UNESCO.
Il est également bassoniste amateur et cofondateur du Really Terrible Orchestra.