吕蒙少年时代，非常勇敢，且有大志。年仅十五六岁的时候，就常常跟随姐夫、吴国将领邓当出兵打仗。邓当当时是孙策的部将，他发现小舅子吕蒙随军，当即严加斥责，但仍然禁止不住。

没有别办法，回驻地之后，邓当不得不如实上告岳母。吕蒙的母亲知道后，非常生气，要严厉地责罚吕蒙。

吕蒙没有退缩，他极力分辩说：“我家贫身贱，难以独立生存，倘若在战斗中立得军功，便可自立。况且，‘不入虎穴，焉得虎子’，不亲自参加战争，怎么能提高自己的本领呢？”

吕蒙的母亲无奈，只能由他去。吕蒙争取到母亲的理解，公开地加入了姐夫的部队。邓当亡故之后，谋士张昭推荐吕蒙带领邓当的部属，被任命为“别部司马”。

吕蒙23岁那年，孙策被人刺死后，他的弟弟孙权继任，承领江东六郡军政事务，要将兵力薄弱之部合并。吕蒙得知这合并的消息，暗中借款，为部兵制作了军衣和裹腿，及至检阅时，军容十分整齐，操练非常纯熟。孙权见了，非常高兴，不仅没有合并他的部队，还当即下令给吕蒙增拨了兵员。

从那以后，他就率领这支部队，跟随孙权东征西讨，累建功勋，为孙吴政权立下了汗马功劳。32岁那年，吕蒙被拜为偏将军，兼任寻阳县令。

但是，人们总是把他看作是一个有勇无谋的一勇之夫。原来，吕蒙小时候由于家境贫寒，的确没有读过书。15岁当兵以后，更没有机会读书。当了将军以后，有事向上级报告，自己不能书写，只能让别人代写。

有一次，孙权对他说：“如今，你肩负重任，统帅一方，应当读点儿书。只有这样，才能增长才干。”

吕蒙为难地说：“军务、政务如此繁忙，我哪里有时间读书呢？何况我已经这么大年龄了……”

孙权说：“你当我是让你研究经书，去当五经博士吗？不是的。我是让你涉猎一些中国历史文化方面的知识，以增进学问，开扩眼界，提高自己的文化素养。你的军务、政务固然繁忙，可你还能比我更繁忙吗？我从小就读过《诗经》《尚书》《礼记》《左传》《国语》等典籍。当政以来，我又读了“三史” （即《史记》《汉书》《东观汉记》）和各家兵书，自觉大有益处。你的天赋不错，如能读点儿书，必有所得。怎能不试一试呢？”