白马天神是秦始皇的儿子“三太子”。秦始皇为了防备北方蕃王的侵扰，就下令各州府县，征集民夫，用武力强迫，修筑长城。
秦始皇的三太子负责修筑彭阳境内的长城，他见百姓个个面黄肌瘦，民夫饿得连路都走不动，就下令歇缓一阵子。
恰好被秦始皇撞见，一气之下，派人把三太子当众杀头，以鉴效尤。
后来秦始皇又心想：畜牲都有爱子之心，我连痛子之心都没有吗三太子已经被我杀了，可惜再也不能活过来了，现在就封他做个白马天神吧。
后来，老百姓知道三太子是为了他们而遭杀身之祸的，就把他厚葬于长城塬上，又建起了一座寺庙，命名为“白马爷庙”。
