1946年八年抗战刚刚结束。内战在东北一触即发。
在复杂的国内外环境中，东北境内政治土匪活动猖獗，到1946年冬天，已经对民主改革形成致命威胁……
《林海雪原》讲述的就是在这样一个复杂的历史背景下，一只骁勇善战的小分队与在东北山林盘踞多年的数股土匪斗志斗勇的故事。
女县长鞠萍率领的工作队正在夹皮沟开展土改，深夜遭到奶头山匪首许大马棒的突袭。危难中通讯员白茹突出重围向牡丹江民主联军二团部求救，途中被进城买粮食的团部炊事员杨子荣所救……
鞠县长的亲弟弟二团参谋长少剑波带兵火速援救夹皮沟，可土匪已逃之夭夭。
由于土匪作战的游击特性，军分区领导决定由少剑波组建一支精干的小分队深入林海雪原追剿土匪，并要求他们寻找出一张标有牡丹江地区潜伏特务分布情况的地下联络图。
少剑波意识到局势的严峻和自己身上责任的重大，精心挑选了一批身怀绝技的战士，如身高力大的"坦克"刘勋苍，夜行千里的"长腿"孙达得，攀缘能手栾超家等等。军分区田司令则将身边懂得土匪黑话，了解东北风情的炊事员杨子荣安排进了小分队。
少剑波听说老杨身上有很多江湖气息，成分复杂，不太想接受，碍于田司令员的命令，决定先让他当伙夫，看看再说……
白茹也央求田司令替她说情，积极要加入小分队为鞠县长报仇……
驻扎在牡丹江的苏联红军突然包围了二团团部并缴了械，杨子荣从跟随苏联红军的翻译身上看出了破绽，夜里和坦克溜出团部，在大烟馆活捉了正和土匪串谋陷害民主联军的翻译，解除了危机。杨子荣也因此赢得了少剑波和小分队其他成员的初步信任。
小分队第一站决定驻扎夹皮沟摸清匪情，没想到他们刚到，原土改工作队的房子就不明不白地着了火，杨子荣在火场发现了一只可疑的破旧胶皮鞋，决定以此为突破深入侦察。杨子荣和刘勋苍密林侦察数天终于发现了重要情报，胶皮鞋的主人是个小炉匠，真名栾平，是奶头山的联络副官，杨子荣在没有打草惊蛇的情况下活捉了栾平……
在审问栾平的过程中发现在夹皮沟寄居多年的外乡女人槐花失散多年的老公就是奶头山的土匪"老北风"，而槐花也无意中发现杨子荣居然就是在山东老家和她订过亲的杨宗贵。
杨子荣因此开始琢磨如何里应外合剿灭奶头山的办法……
首先，他们通过顶替栾平接捻子，捉到了土匪刁占一，从刁占一打开了栾平的缺口。顽
固不化的栾平终于供出地下联络图由他老婆保管，并交代出联络图全是日文，他根本看不懂
。藏匿大烟土的地点也只有奶头山的老北风和军需副官胡彪最清楚。
为了进一步掌握敌情，少剑波派杨子荣等去寻找栾平老婆，自己则去赶集。集市的不太平让少剑波分析到各路土匪为了加紧找寻联络图，都坐不住了。他决定尽快剿灭奶头山。
杨子荣和孙达得在寻找栾平老婆期间，发现了对奶头山了如指掌的蘑菇老人。白茹治好了蘑菇老人的病，赢得了老人的信任。经过蘑菇老人的详细介绍，少剑波了解到形势的严峻和作战的困难。栾超家则对蘑菇老人提到的鹰嘴崖产生了兴趣……
杨子荣设计活捉了下山接捻子的老北风，并借助槐花的力量让老北风里应外合，打了个措手不及，将奶头山一举歼灭。
奶头山取得的巨大胜利使小分队士气高昂，少剑波鼓励群众生产自救，启动了日伪时期留下的小火车头，夹皮沟的第一列火车开到了牡丹江。
小火车的开动使土匪们气急败坏，他们要给立足未稳的小分队点颜色……小火车运行遭到土匪的伏击，负责押车的高波等战士英勇牺牲，而随车送到牡丹江受审的小炉匠栾平却中途溜走了。
栾平在火车上同样被抓获的土匪处得知他老婆被威虎山的土匪挟持的消息，溜到土匪联络点神河庙了解情况。被守在外面侦察的杨子荣等人发现，突然袭击搜庙，摧毁了据点缴获了电台，从栾平手中救出了李月娥，栾平滚下山崖……
李月娥流产大出血，白茹英勇献血。小分队安排李月娥住在槐花家中，槐花竟然在李月娥棉袄的夹层中发现了一张联络图。可是，军分区却无法破译这张联络图……
少剑波总结了小火车被炸的教训，按照军分区的指示准备攻打大锅盔。但是大锅盔是平原，小分队的马追不上土匪的爬犁。少剑波从苏联红军的记录片中想到了滑雪，军分区派来了苏军少校萨沙前来教小分队滑雪，很快就在茫茫林海里出现了一支行动飞快的滑雪小分队……
随后，小分队充分利用集体智慧和滑雪的优势，"将计就计"、"调虎离山计"、"毁巢切屁股"、"槽头炸马"、"林海雪原大周旋"等一系列的智勇之战，将林海雪原中的大锅盔山和四方台上4个旅的匪徒逐一剿灭。
此时的杨子荣也已经不是当初满身江湖气的炊事员老杨头，已经成长为一个智勇双全的侦察英雄。他将各路匪徒的情况摸得清清楚楚，并与孙达得、老北风一起活捉了日本女特务野田清子，巧妙地利用马的特性设计击毙了胡彪，找到了大烟土。老北风也因此得到了田司令的亲自接见，正式加入了民主联军。
这些性格、外表、年龄、出身迥然不同的革命军人，在共同的剿匪战斗生涯里逐渐结下了比同志更亲密的兄弟情谊。
为了彻底消灭最后也是最顽固的威虎山上的顽匪，少剑波和杨子荣数夜未眠，共同上演了一出机智壮烈的"智取威虎山"……