《三国志》里介绍徐庶本是刘备的谋士，可是曹操却用计谋把徐庶的母亲骗到了曹营，把徐母当成人质。徐庶是有名的孝子，为了母亲，他没有办法，只得离开刘备，前去曹操那里营救自己的母亲。临行前，徐庶对刘备说：“今已失老母，方寸乱矣，无益于事，请从此别。”意思是说，现在母亲被曹操抓去，自己内心已经乱了，对刘备而言现在的自己没有用处，所以请求离开。
而在《三国演义》中徐庶入魏后，曹操兵分八路攻打刘备所驻守的樊城，在刘晔的建议下，曹操派徐庶前往樊城劝刘备投降，但徐庶到樊城后却告诉刘备大军将至，让刘备早作准备。刘备想要留下徐庶，但徐庶怕天下人耻笑，又以刘备有诸葛亮辅佐为由拒绝，并告诉刘备，自己虽然身在曹操营，但发誓不为曹操献一谋。
除了《三国志》诸葛亮传和《三国演义》的故事以外，记载当时魏国历史的史学著作还有一部《魏略》。
《魏略》上专门有一段写到徐庶：(徐)庶先名福，本单家子。少好任侠、击剑。中平未尝为人报仇，白垩涂面，披发而走，为吏所得。问其姓名，闭口不言。吏乃于车上立柱以羞之，击鼓以令于市，莫敢识者。而其党伍使之得脱。于是感激，弃其戟更疏巾单衣，折节学问，始诣精舍。诸生闻其前做贼，不肯与共止。福乃卑躬早起，常独扫除，动静先意，听习经业，义理精熟。遂与同郡石韬相亲爱。初平中，中州兵起，乃与韬南客荆州，到又与诸葛亮特相善。乃荆州内附，孔明与刘备相随去，福与韬俱来北。至黄初中，韬仕历郡守、典农校尉;福至右中郎将、御史中丞。逮太和中，诸葛亮出陇右，闻元直、广元仕才如此，叹曰：“魏殊多士邪?何彼二人不见用乎?”庶后数年病卒，有碑在彭城，今获存焉。这徐元直就是徐庶。
那么问题来了，徐庶到曹营后若真的一言不发能有这么好的结局，能当上这么大的官吗。我们看看中郎将与御史中丞这两官职有什么来头。中郎将，系由中郎演变而来。秦代设置中郎一职，到了西汉时期分五官、左、右三署，各置中郎将以统领皇帝的侍卫，隶属光禄勋。平帝时又设置虎贲中郎将，统武贲郎。东汉以后，统兵将领亦多用此名，其上再加称号。如前期之使匈奴中郎将，后期之北中郎将等。又到建安中，曹丕为五官中郎将，其职相当于副丞相，算是个高级官僚了。
御史中丞，其官起于汉代。汉代以御史中丞为御史大夫之佐，亦称中执法。在殿中兰台，掌图籍秘书;外督部刺史，监察君国行政;内领侍御史，考察四方文书计簿，劾按公卿章奏。
西汉末期，御史大夫改名为大司空，御史中丞遂成为御史台长官。自东汉至南北朝，中丞之权极重。徐庶当过的这两个官职显然都系要职，曹操其人又用人惟才是举，根本不看你是否有什么虚名，而是看你有无真实才能，是否对他有过什么贡献。
试想徐庶到了曹营之后如果真的一言不发，什么都不做，就算是他再厉害，再有本事，恐怕也曹操不会授予他“统领皇帝的侍卫”以及“监察郡国行政，考察四方文书计簿，劾按公卿章奏”这样的官职。所以徐庶进曹营一言不发只是罗贯中自己的美好理想吧。