历史上还有一位“葛仙翁”，此人名叫葛玄，是葛洪的叔祖父，据说葛玄师承三国初年的左慈（就是《三国演义》中掷杯戏曹操的那个），从而练得一身异术，据说能喝醉酒后跳到水里，在水底睡上好几天再出来。这倒是个避暑的好方法。由此看来葛洪可以称得上是神仙世家，家学渊博自不待言。
不过葛洪小时候家里的条件却非常不好，他父亲葛悌原来做过太守，按说生活是不错的，但是在葛洪13岁时，父亲就不幸去世了，当时又逢“八王之乱”，葛洪的家很快就败落下去。但葛洪却并没有像一般的破落子弟那样自甘堕落，而是勤奋上进。他上山打柴，得了钱就买笔墨纸张，为了节省，他练字的纸张正反面都写满了字，买不起书，就向人家借书抄读。据说曾跋涉上千里去借一本书。《晋书》说葛洪从小就“性寡欲，无所爱玩，不知棋局几道，摴蒱齿名。为人木讷，不好荣利，闭门却扫，未尝交游。”意思是说葛洪的社交活动很少，如果在今天，就是那种既不会打“够级”，也不会打台球，玩的东西一窍不通的人。
葛洪虽然不是“玩家”，但却练就一身文武双全的本领，公元302年左右，石冰作乱，葛洪被任命为“将兵都尉”（都尉是职位次于将军的武官），率军一举击溃了曾攻破江州，气焰十分嚣张的石冰贼军。
葛洪立了赫赫战功，本人又是难得的文武全才，按说仕途上当前途无量，但是葛洪志不在此，他对功赏的多少并不在意，到了洛阳，他根本不想去登门拜谒一些权贵们，反而到处寻求奇异的书籍，看来葛洪并非当官的料，而是“道根深种”的人。
葛洪深谙《道德经》中所说的“盖闻善摄生者，陆行不遇兕虎，入军不被甲兵。兕无所投其角，虎无所措其爪，兵无所容其刃。夫何故？以其无死地”的道理，提前预见了天下大乱的危机，于是决定避开，他动身到比较安定的南方去，在南方结识了当时任南海太守的鲍玄。
鲍玄也是喜欢神仙道术的人，据说也造诣颇深，另外还精通医术。于是两人一见如故，鲍玄看葛洪越看越喜欢，就把自己的女儿鲍姑嫁给了葛洪，并将阴长生的授道诀、尸解法和《三皇文》等奇书异文传给葛洪，说来葛洪赚了不少啊。葛洪安了家后更加潜心学问，并兼修医术，见识更为不凡。
东晋开国后，晋元帝因葛洪有战功，赐爵关内侯，后来干宝（写《搜神记》那个，董永故事的编者）推荐他当“散骑常侍”——这是常伴随皇帝左右的近臣，权势很大，但是葛洪以年纪已老推辞了，而是向皇帝要求去交趾（现在的越南）当句漏令。皇帝一听，大为吃惊，当时像越南境内那样的偏僻之处，都是发配犯人或者获罪贬官时才到那种地方去，葛洪放着中央一级的高官不做，到那种穷山恶水的地方去当个芝麻小县令，莫非吃错药了？葛洪倒也对皇帝说了实话：“非欲为荣，以有丹耳。”——我到那儿去不是为了官职荣耀，而是因为那个地方富产丹砂，可以供我炼丹。皇帝这才明白了葛洪的用意，皇帝一想，葛爱卿如果真炼成了仙丹，到时候让他献上几粒尝尝倒是不错，于是就欣然答应了。
不过葛洪率领葛家一群子弟家属走到广州，就被广州刺史邓岳留下了，邓大人恐怕也想，葛仙翁如果炼成了仙丹，我可以近水楼台先得月。于是邓大人就说越南那边形势险恶，丹砂什么的，我派人去收购就是了。好说歹说留住了葛洪，于是葛洪就留在了罗浮山中，在此潜心炼丹著书。
就这样不知过了多少年，有这么一天，葛洪忽然写了封信给邓岳，说：“当远行寻师，克期便发”——自己要远去寻师，到时候就要走啦。邓岳看了信后，慌忙来道别。却看到葛洪已经死了。但据说葛洪的脸色像活人一样，身体也很柔软，抬尸入棺时，尸体很轻，像只有一身衣服一样，所以世上人都传他“尸解成仙”了。其实