张青本是那孟州道光明寺里一个普普通通的种菜工人，每日勤勤恳恳地侍弄着菜园中的蔬果，过着平淡无奇的生活。然而，命运总是喜欢捉弄人，一次微不足道的琐事竟引发了一场轩然大波。当时，张青与寺中的僧人起了争执，双方互不相让，言辞愈发激烈起来。年轻气盛的张青哪能受得了这等窝囊气，心中怒火熊熊燃烧，一时间理智尽失。只见他怒目圆睁，抄起身旁的农具，向着僧人们狠狠地挥去。刹那间，鲜血四溅，惨呼声此起彼伏。待他回过神来，地上已是横七竖八地躺着几具僧人尸体。看着眼前这血腥的一幕，张青惊恐万分，但事已至此，后悔也无济于事。于是，他索性一不做二不休，一把火点燃了这座曾经熟悉的寺庙，然后趁着夜色匆匆逃离了这个地方。
从此，张青踏上了一条不归路，成为了一名劫匪，终日游荡在大树坡一带，靠着打劫过往行人商旅为生。
在那段当劫匪的日子里，有一天，张青像往常一样埋伏在大树坡附近，准备伺机而动。就在这时，一支商队缓缓走来。张青见时机成熟，一声唿哨，带着手下们从树林中冲了出来。可没想到这次他们遇到了硬茬子——这支商队竟然是孙二娘父女所带领的。一番激战过后，张青及其手下被打得落花流水，狼狈不堪。而张青本人更是被孙二娘的父亲轻易制服。原本以为自己此番必死无疑，谁知这位老人却有着一颗菩萨心肠。他并没有痛下杀手，反而对张青产生了一丝怜悯之情。经过一番交谈，老人觉得张青虽然误入歧途，但本性并不坏，遂决定给他一个改过自新的机会。就这样，老人不仅饶了张青一命，还将他收作女婿，并把自己的宝贝女儿孙二娘许配给了他。
后来，孙二娘的父亲不幸离世。失去了依靠的张青和孙二娘商议之后，决定在十字坡开一家酒店，以此谋生。这家酒店表面上是个寻常客栈，实则暗藏玄机，夫妇二人利用各种手段，继续干着一些不太光彩的勾当。
鲁智深一路疾行，朝着二龙山的方向赶去。这一日，正走到一处名为十字坡之地，只见前方有一家酒肆。鲁智深此时也感到有些口渴饥饿，便迈步走了进去。
这家酒肆乃是张青夫妇所开，那妇人唤作孙二娘。她见鲁智深身材魁梧、相貌粗犷，心中便起了歹意，想要用药将他迷倒，然后谋财害命。然而，就在孙二娘准备动手之时，张青却突然回来了。
张青一眼就瞧见了鲁智深身后背着的禅杖，心下一惊，暗想此人定非寻常之辈。他赶忙上前制止了孙二娘，并向鲁智深赔礼道歉。待得知鲁智深乃江湖中人时，张青更是心生敬意，连忙让人取来解药，将鲁智深救醒。
鲁智深醒来之后，对张青的救命之恩感激不已。三人一番交谈下来，甚是投机。张青听闻鲁智深要前往二龙山投奔邓龙，当即表示自己与那邓龙相识，可以为他引荐。鲁智深听后大喜过望，连连道谢。
再说武松，因替兄报仇杀死了西门庆和潘金莲，被官府捉拿。差役们押着他路过十字坡时，进了张青夫妇的酒店歇脚。
武松何等机敏之人，一进店门便察觉出孙二娘心怀叵测。但他不动声色，故意装作酒醉的样子，引得孙二娘放松警惕。待到时机成熟，武松猛然出手，一下就制住了孙二娘。
正在这时，张青恰好赶回店中。眼见妻子被擒，他先是吃了一惊，随后赶紧报上自家名号。武松一听对方是张青，也就松开了手。双方互通姓名之后，相谈甚欢，竟当场结为兄弟。
后来，武松在鸳鸯楼大开杀戒，为躲避追捕逃至张青店内。这次却是店里的伙计误将他当作坏人给捉住了。好在关键时刻张青认出了武松，急忙将他救下。
考虑到武松此刻处境危险，张青灵机一动，想出一个主意。他让武松装扮成云游头陀的模样，并建议他前往二龙山投靠鲁智深和杨志。就这样，武松在张青的帮助下成功脱身，踏上了前往二龙山之路。
呼延灼率领大军气势汹汹地杀向桃花山，一时间战火纷飞，喊杀声响彻云霄。山主李忠亲自率众迎战，怎奈这呼延灼勇猛异常，他所带领的官军更是训练有素，装备精良。几番激战下来，李忠渐渐力不从心，最终接仗失利。
无奈之下，李忠只得派人快马加鞭赶往二龙山求救。二龙山上的好汉们听闻此事，个个义愤填膺。张青、鲁智深、杨志和武松等人当即点齐兵马，风驰电掣般地奔赴桃花山而去。
当他们抵达战场时，只见双方正杀得昏天黑地，难解难分。张青等人二话不说，立刻冲入敌阵，与呼延灼展开一场惊心动魄的厮杀。这一战直打得天昏地暗，日月无光。然而，尽管众好汉英勇无畏，可呼延灼也绝非等闲之辈，双方僵持不下，一时之间谁也无法取得明显优势。
就在这时，呼延灼见久攻不下，担心粮草不济，便下令收兵撤回青州。而这边厢，桃花山总算暂时逃过一劫。
可还没等众人松口气，又传来一个坏消息。原来，呼延灼回到青州后并未闲着，而是继续出兵围剿附近的山寨。这不，白虎山的首领孔明不幸被其活捉，其弟孔亮侥幸逃脱，一路仓皇逃至桃花山向张青等人求助。
面对如此严峻的形势，众人聚在一起商议对策。经过一番深思熟虑，大家一致认为即便集合三山之力，恐怕也难以攻克青州城救出孔明。正在众人愁眉不展之际，有人提出不妨派遣孔亮前去联络梁山泊的兵马，共同攻打青州。此计一出，众人皆觉得可行。
孔亮星夜兼程赶赴梁山泊，将事情原委一五一十地告知宋江等人。宋江听后，当即决定发兵相助。于是乎，梁山大军浩浩荡荡地开赴青州。
在梁山军与三山联军的强大攻势下，青州城终于被攻破。张青眼见大势已去，深知再抵抗也是徒劳无益，遂带着兄弟们一同归降了梁山泊。由于张青为人机敏，善于打探消息，且待人热情周到，故而在梁山众多好汉中脱颖而出，坐上了第一百零二把交椅，并负责“打探声息”“邀接来宾头领”以及管理“西山酒店”等重要事务。
此后，张青跟随梁山军队南征北战，历经无数次生死考验。无论是征讨辽国，还是平定田虎、王庆之乱，他都始终冲锋在前，奋勇杀敌。虽然书中未曾对他在这些战役中的具体表现做过多详述，但从每次大战过后梁山军所取得的辉煌战果来看，张青无疑为梁山立下了赫赫战功。
征方腊战死：在征讨方腊的歙州一役中，神箭手庞万春射死了欧鹏，宋军军心大乱，张青在乱军中战死，死后被追封为义节郎.