东汉灵帝中平末(187年-189年左右),徐庶年少时爱好任侠击剑,曾为人报仇,脸上涂上白垩,披发逃走,被官吏抓获。官吏问他姓名,他不回答,于是官吏将他绑到车上,击鼓行于市,认识他的人也不敢说。后来,徐庶的同伴一起来解救他,得以逃脱。徐庶感慨获救,从此弃刀戟,换上疏巾单衣,折节向学。开始拜访学堂之时,诸位学生听说他以前作过贼,都不与他接近。徐庶于是摆出卑躬的态度,常早起独自扫除,从而得以听课,通晓义理。他与同郡的石韬交好。
献帝初平中(191年-192年左右),中原地区开始战乱,徐庶和石韬一起南行,客居荆州。到达荆州后,徐庶与诸葛亮、司马徽、庞统等人相友善。
建安十二年(207年),刘备屯于新野期间,徐庶去见刘备,被刘备所器重。后经徐庶的推荐,刘备三顾请得诸葛亮。
建安十三年(208年),曹操南征,刘备于长坂兵败,徐庶的母亲被曹军抓获。徐庶向刘备告辞,指着自己的心说:“本欲与将军共图王霸之业,就是靠这方寸之地。如今已失老母,方寸乱了,无益于事,请从此别。”于是刘备同意徐庶离开,徐庶和石韬向北投降了曹操。
魏文帝黄初中(222年-224年),徐庶在魏国官至右中郎将、御史中丞。
明帝太和中(229年-231年),诸葛亮出兵陇右,听说徐庶和石韬在魏国的官位,感叹到:“魏国的人才就特别多吗?为何这二人不见重用啊?”几年后,徐庶病逝,留有碑在彭城。