此时正赶上雨季，水坝上的水很快就满了。智伯瑶命令兵士在水坝上挖开了个豁口，大水便直冲晋阳，灌到了城里。城里的房子被淹，老百姓无家可归，不得不跑到房顶上去避难。灶头也被淹没在水里，人们只能把锅挂起来做饭。然而，晋阳城的老百姓对智伯瑶恨之入骨，他们宁可被水淹死，也不肯投降。
智伯瑶见晋阳城久攻不下，便约韩康子、魏桓子一起去察看水势。他指着晋阳城得意地说：“你们看，晋阳不是就快完了吗？早先我还以为晋水像城墙一样能拦住敌人，现在才知道大水也能灭掉一个国家呢。”韩康子和魏桓子表面上顺从地答应，心里却暗暗吃惊。原来魏家的封邑安邑（今山西夏县西北）、韩家的封邑平阳（今山西临汾市西南）旁边各有一条河道。智伯瑶的话正好提醒了他们，晋水既能淹晋阳，说不定哪一天安邑和平阳也会遭到晋阳同样的命运。
晋阳被大水淹了之后，城里的情况越来越艰难。赵襄子心急如焚，他对门客张孟谈说：“民心固然没变，可是要是水势再涨起来，全城也就保不住了。”张孟谈安慰道：“我看韩家和魏家现在虽然追随智伯瑶，但也是迫不得已，并非心甘情愿。我愿意冒险去跟他们两家说说看。”当天晚上，赵襄子就派张孟谈偷偷地出城，先找到了韩康子，再找到魏桓子，并约他们反过来一起攻打智伯瑶。韩、魏两家本来就对智伯瑶心怀不满，经张孟谈一番劝说，自然都同意了。
第二天夜里，过了三更，智伯瑶正在自己的营里睡得香甜，猛然间听见一片喊杀的声音。他连忙从卧榻上爬起来，发现衣裳和被子全湿了，再定睛一看，兵营里全是水。他开始还以为大概是堤坝决口，大水灌到自己营里来了，赶紧叫兵士们去抢修。但是不一会儿，水势越来越大，把兵营全淹了。智伯瑶正在惊慌失措，一霎时，四面八方响起了战鼓。赵、韩、魏三家的士兵驾着小船、木筏一齐冲杀过来。智家的兵士被砍死和淹死在水里的不计其数，智伯瑶全军覆没，他自己也被三家的人马逮住杀了。
韩、赵、魏为了免除后患，开始率军攻打智氏封邑，一次就杀了智伯家族二百余口，天下为之震惊！他们还把智家的土地也由三家平分。此后，他们又一鼓作气把晋国留下的其他土地也瓜分了。
公元前403年，韩、赵、魏三家打发使者上洛邑去见周威烈王，要求周天子把他们三家封为诸侯。周威烈王望着面前的使者，心中五味杂陈。他深知，不承认也没有用，如今三家势力强大，自己的命令对他们来说不过是耳旁风。不如做个顺水人情，还能保住一些颜面。于是，他把三家正式封为诸侯。
打那以后，韩（都城在今河南禹县，后迁至今河南新郑）、赵（都城在今山西太原东南，后迁至今河北邯郸）、魏（都城在今山西夏县西北，后迁至今河南开封）都成为中原大国。加上秦、齐、楚、燕四个大国，历史上称为“战国七雄”。从此，战国时代真正来临，中国历史进入了一个更加波澜壮阔的时期，各国之间的战争、外交、改革等精彩纷呈的故事接连上演，成为中国历史上一段不可磨灭的记忆。