林冲连杀三人，在沧州再也无法安身，便去投奔柴进。柴进帮助他化装出关，脱离虎口，又写了一封信，介绍他去梁山泊入伙。梁山泊在山东济州，方圆八百余里，中间是宛子城、蓼儿注，有三个好汉在那儿扎寨，为首的叫“白衣秀士”王伦，第二个叫“摸着天”杜迁，第三个叫“云里金刚”宋万。当初王伦和杜迁落难时，柴进曾帮助过他们，彼此之间常有书信往来。
林冲拿了柴进的书信，接连赶了十几天的路，终于来到济州附近。时值隆冬，天又飘起了大雪，不多久，便满地如银。林冲踏着雪只管赶路，不觉有点儿疲乏，天色又渐渐地晚了，见前面大湖边上有一个酒家，心想，不如先进去暖暖身子，再询问上山的途径。于是，他进去叫了些酒菜。三杯酒下肚，林冲不由满腹烦恼：想当初自己在京城当教头时，生活何其逍遥自在！如今被高俅这厮陷害，弄得有家难回，有国难投。想到这里，他不觉悲愤难平，问酒保要了笔砚，趁着酒兴，在墙上题了八句诗：
仗义是林冲，为人最朴忠。
江湖驰誉望，京国显英雄。
身世悲浮梗，功名类转蓬。
他年若得志，威震泰山东！
这时，忽然有一个穿皮袄的汉子走来把他一把批住，说道：“你好大胆！官府悬赏三千贯是你，却落在我手上！”林冲大吃一惊，说道：“你真的要拿我请赏？”一边说、一边暗暗戒备，准备出手。那汉子却笑了：“我拿你为什么？且跟我来，到里面说活。”说完，松开手，把林冲带到后面的一个水亭里。原来此人姓未名贵，人称“旱地忽律”，是梁山泊首领王伦手下的一名头目，负责山与外界的联络。林冲把来意说明，并拿出柴进的推荐信。未贵便留林冲在酒店住下，安排他明天上山。
第二天一早，未贵叫林冲起身，用过早饭。这时，天还没有亮。朱豪把水亭的窗户打开，或出弓箭，对准湖心的芦苇丛射了一箭。林冲奇怪地问：“这是什么意思？”朱贵告诉他这是山寨里的号箭，表示有人要进山、果然，不一会儿，芦苇丛里摇出一腹快船，来到水亭下。
朱贵和林冲坐船来到对岸，然后下船登山，过了三道关后，才到达大寨。只见四面高山，三关雄伟，团团围定。中间镜面似的一片平地，大约方三五百丈。靠近山口，是山赛的正门，两边是耳房。林冲跟着朱贵进了山寨，来到聚义厅，见中间虎皮交椅上坐着一个人，正是王伦，左右两把交椅，分别坐着杜迁和宋万。朱贵把林冲请求入伙的事说了，林冲又从怀里取出柴进的书信呈上。王伦看了柴进的书信，也不言语，肚子里却打起了小算盘：自己是个不及第的秀才，杜迁和宋万的本事也有限；那林冲却是八十万禁军教头，武艺高强，倘若让他入伙，只怕日后控制不了，倒不如给一些银子把他打发掉，免得留下后患。
想到这里，王伦干笑一声，吩咐小喽罗摆上酒宴，东拉西扯地说些闲话，绝口不提入伙之事。喝完酒，他叫喽罗用一个盘子托出五十两白银，朝林冲拱了拱手，说道：“柴大官人举荐教头来敝寨入伙，只是敝寨粮食短缺，势力单薄，恐怕误了教头的前程。略有一些薄礼，望乞笑纳，另寻大寨安身歇马，请勿见怪。”林冲听了十分意外，说道：“林冲诚心投奔人伙，不为银两而来，乞头领照察。若能收录，实为平生之幸。”那王伦却一味推诿，不肯应允。
朱贵看不过去，插进来劝道：“哥哥在上，莫怪小弟多言。这位教头是个有本事的人，他来入伙，必能为山寨出力。再说，柴大官人自来对山寨有恩，不纳此人，柴大官人处没法交代。”杜迁、宋万也主张收留林冲，说道：“柴大官人面上，留他在这里做一个头领也好。不然，显得我们不讲义气，让江湖上的好汉见笑。”
王伦见众人都主张收留林冲，心里不悦，却不便太固执，改口道：“兄弟们有所不知，虽说林冲在沧州闯下大祸，但他是个当过禁军教头的人，只怕他不甘心落草，日后会有翻悔。”林冲道：“小人一身死罪，故而来山寨入伙，哪里还能反悔？”王伦说：“既然如此，三天之内，你交一个投名状来。倘若没有投名状，莫怪我不能留你。”林冲一听便说：“这有何难？我马上就写。”说罢，叫喽罗拿笔。朱贵在一旁笑道：“教头，你错了。所谓‘投名状’，是要你下山去杀一个人，将人头献上，以表示自绝后路，真心落草。”林冲这才知道王伦是有意刁难，心里闷闷不乐。
次日凌晨，林冲拿了朴刀，叫喽罗领着下山过湖，找一条僻静的小路，等候客人过往。隆冬季节，行人稀少，等了一天，一个人也没有，林冲只好回山。到第二天，林冲仍然没等到过往的行人。回山寨时，王伦看着他冷笑道：“我说过给你三天期限，如今两天已过。若是明天再没有投名状，便请挪步下山，不必再见了。”林冲心中愤怒，无奈虎落平阳，龙困浅池，只好由他去说。
第三天一早，林冲又提了刀，去路边守候。看看已是中午，仍没有一个人来，林冲仰天长叹道：“想不到我林冲沦落到这等地步，想做个强盗也不成！”正打算回山拿行李离开，喽罗在一旁叫道：“好了，好了，那不是有人来了！”林冲一看，果然有一个汉子挑着行李从山坡下往这里过来。林冲第一次，没有经验，人还未到面前，就大喝一声跳了出来。那汉子见了林冲，叫一声“啊呀”，扔下担子，拔腿就跑。林冲只抢到一担行李，气得连连跺脚。他担心没有人头王伦仍然会刁难，就叫喽罗先把担子挑上山去，自己继续等候。喽罗走后没多久，却见一个大汉手提朴刀，从山坡下大步赶来，一边寻一边骂：“杀不尽的强盗，把我行李拿到哪里去了？酒家正要来提你们这些城，倒敢来捋虎须！”林冲见他来势凶猛，喝声“来得正好”！跳出去与他相斗。两人连斗三十多个回合，不分胜负。那汉子焦躁起来，大声喊道：“快把行李还我！”林冲正没好气，哪里答应，怒睁豹眼，倒竖虎须，提着朴刀，只顾与他搏斗。
两人你来我往，又斗了十多个回合。正打得激烈，却听得有人叫道：“两位好汉不要斗了！”林冲闻言，收刀跳出圈外，回头一看，山顶上站着王伦和杜迁、宋万及许多喽罗。王伦等走下山来，对两人说道：“两位真是好武艺，棋逢对手，将遇良才！”然后，询问那大汉姓名。那大汉也很直率，坦言相告：姓杨名志，人称“青面兽”，宋初名将杨老令公的子孙，早年应过武举，曾任殿司制使之职，只因为奉旨去太湖押运花石纲，途经黄河时翻了船，无法回京交旨，流落在外，如今遇到大赦，准备了一些财物，想回京城枢密院打点，再谋一个职务。王伦听了大喜，说道：“原来是杨制使，小可数年前到东京应举时便闻制使大名，今日幸会。请到山寨喝三杯水酒，然后便纳还行李，如何？”杨志没办法，只好随他们上山。
饮酒时，王伦心想：若留林冲，实在没一个人制得住他，不如做个人情，留下杨志，让他与林冲作对。于是，他举杯说道：“杨制使，可否听兄弟一言？当今朝廷，昏君无道，高俅专权。像兄弟这样有本事的，他哪里容得下你？不如听我劝，就在小寨歇马，大秤分金银，大碗吃酒肉。”杨志谢过王伦，说道：“洒家有个亲眷在东京，前番官司连累了他，一直未曾酬谢。所以我想去他那里走一趟，望众头领还了洒家行李。若不肯还，我便空手去了。”王伦见杨志执意不从，只得作罢。
第二天，众头领设酒宴为杨志送行，叫小喽罗挑了行李，一齐把杨志送到山下。经过此事，王伦没有理由再拒绝林冲，就答应他入伙，坐了第四把交椅。