匈奴作为古代北方强大民族的自我族称，似始见于《史记 匈奴列传》：匈奴首领单于派遣使者致书文帝，书中有 天所立大匈奴单于，敬问皇帝无恙 等语。匈奴人又自称为 胡 。《汉书 匈奴传》记载匈奴单于致书武帝，书中有 南有大汉，北有强胡。胡者，天之骄子也 的话语；汉人有时也称匈奴为 胡 。匈奴人的族源，史书虽有记载，但解释颇有分歧。或认为秦汉时的匈奴，是商周时的 鬼方 、 猃狁 ，春秋战国时的 戎 、 狄 。实际上，匈奴族源可能是多源而非来自单一氏族或部落。

匈奴人 随畜牧而转移 ，四处迁徙放牧畜群，居无定所。其衣食住行，大多仰给于畜牧及相关产品。匈奴人的食物，以畜肉、乳浆、奶酪等为主。他们以皮、革、裘等为衣，以毡毯为帐幕住处；其他物品，如铠甲等，也多用皮革制成。除畜牧业外，狩猎在社会经济生活中还占有一定地位；也有一小部分匈奴人从事农业，生产粮食。匈奴人在战国中晚期进入铁器时代，掌握冶铁技术，生产铁制工具，冶铁业逐渐成为一个独立的、有相当规模的手工业部门。从出土刀、剑与汉式刀剑相似性来看，匈奴是从中原地区那里接受了铁器文化。
秦汉时代的边疆民族匈奴人有本民族的语言，但没有文字。他们相信死后灵魂不灭，祭祀天地、日月、祖先及鬼神，避祸祈福。匈奴人的服饰、发式，史书记载不详。《淮南子 齐俗训》中说：匈奴之族，纵体拖发。所谓纵体，是说不检束容止，大概指裸露肤体；拖发亦即披发。服制方面，大抵皆尚左衽。一夫多妻的现象在匈奴中很普遍，收继婚的习俗也还保留着， 父死，妻其后母；兄弟死，皆取其妻妻之 。匈奴人崇尚战功， 人人自为趣利，善为诱兵以冒敌 ；战争中能斩首者，予以赏赐；所劫掠的人员、财物等，归其所有， 得人以为奴婢 。其风俗以壮健者为尊，老弱者为贱， 壮者食肥美，老者食其余 （《史记 匈奴列传》）。其原因在于匈奴以战功为事，老弱不能战斗，故健壮者吃肥美之食，无非是为了保卫本族，父子方能相互保全。匈奴人的艺术，在题材上反映了他们的游牧和狩猎生活，纹饰多是草原常见的动物等形象，如马、牛、羊、鹿。
秦朝末年，长城以北的匈奴政权，也出现了王位更替。头曼单于最初指定冒顿为王位继承人。后来，头曼单于想废长立幼，送冒顿到大月氏作人质，紧接着发兵攻打月氏，想借刀杀人，杀掉冒顿。冒顿在紧急关头逃归匈奴，头曼单于认为他勇敢强健，故任命他为万骑将领。冒顿当上万骑将领后，平时练兵，便以鸣镝（能发出声响的箭头）为号令， 鸣镝所射而不悉射者，斩之 （《史记 匈奴列传》）。他先是鸣镝射鸟兽，将不射者斩杀；后鸣镝射自己喜欢的善马，斩杀左右以及不敢射之人；后又鸣镝射自己的爱妻，将左右不敢射者悉加斩杀。就这样，没有人敢不听从号令了。前209年，冒顿在跟随父亲头曼单于狩猎的时候，忽然鸣镝射向头曼单于，其左右亦遂鸣镝而射头曼。头曼单于死，冒顿自立为单于。冒顿单于在位期间（前209年~前174），匈奴势力不断扩张起来。匈奴向东攻灭了东胡王，西边进攻月氏而迫使其西迁，南边兼并楼烦、白羊河南王，收复秦蒙恬所占领的匈奴地，后在北边又降服了丁零，控地东尽今辽河，西至葱岭，北抵贝加尔湖，南抵长城。
冒顿单于将匈奴控制的广大地区分为左、中、右三部：中部为单于庭，与汉的代郡（今河北蔚县一带）、云中郡（今内蒙古托克托县境）相对；左部为左贤王庭，与汉的上谷郡（今河北怀来县境）相对，东面连接秽貉、朝鲜；右部为右贤王庭，与汉的上郡（今陕西榆林一带），西面连接月氏和羌、氐。单于是匈奴的最高首领，称为 撑犁孤涂单于 ：撑犁是匈奴对 天 的称谓，孤涂是对 子 的称谓，单于指广大之貌； 撑犁孤涂单于 ，即像天子那样广大的首领。单于总揽军政及外交大权，由左右骨都侯辅政。诸大臣由贵族担任，世代相袭为官。左、右贤王是匈奴政权在地方上的最高长官。
匈奴尚左，故常以太子任左贤王。左、右贤王之下，又左、右谷蠡王和左、右大将等，他们既是部族首领，也是军事将领。部族首领之下，又有千长（千骑长）、百长（百骑长）、什长（十骑长）等中下级带兵长官，分领数量不等的骑兵，指挥作战。骑兵主要来源于及龄壮丁。由于自小就经受严酷的生活技能训练，使得匈奴男子各个都有娴熟的骑射本领，养成吃苦耐劳、骁勇善战之特点。这种军政兵民合一的政权组织形式，短期内可以聚结大量人马，随时举国出征。匈奴最强盛时， 控弦之士三十余万 。
白登之围 后，娄敬向高祖建议与匈奴 和亲 ：汉朝把宗室女当公主嫁给冒顿单于，并于每年馈赠絮缯酒食等礼物，以缓和匈奴的侵扰。刘邦采纳刘敬之议，与匈奴和亲，开放汉与匈奴间的关市贸易萧启庆：《北亚游牧民族南侵各种原因的检讨》，载《台湾学者中国史研究论丛 经济脉动》，第242~243页。，但金、铜、铁器等物品不在交易之列《张家山汉墓竹简》［二四七号墓］，第206页。。文景时，继续和亲政策，厚予馈赠，但匈奴仍不断侵扰，有时烽火警报竟逼近长安城。为抵抗匈奴侵扰，文帝采纳晁错之议，募民迁徙塞下，垦田筑城，加强边防。晁错入粟边塞得以拜爵之议，也是在此背景下提出来的。
武帝即位后，改变和亲政策，以武力反击匈奴。元光二年（前133），汉军在马邑（今山西朔县）附近设下埋伏，企图一举歼灭入侵匈奴主力。匈奴单于识破汉军计谋，仓皇撤退。 马邑之谋 揭开了汉、匈大规模战争的序幕。自此后，匈奴屡次大规模进攻边郡，汉军也屡次发动反击、进攻。在汉、匈奴交战过程中，涌现出一大批卓越的军事将领，如 飞将军 李广、大将军卫青、骠骑将军霍去病。汉朝对匈奴作战接连获胜，基本解除匈奴对边境的威胁。为巩固对新获之地及边境的统治，汉置河西四郡，在北边实行屯田，迁徙数十万民众充实、开发新地域；边塞的防御设施，如长城、城堡、烽燧等，也有序建立起来。
汉、匈长达数十年的战争，给匈奴帝国以沉重打击。第一，匈奴人口、牲畜大量被俘，国力大大损耗。前121年及前119年的两次战争中，匈奴士卒被斩、虏的，合计至13万之多。第二，匈奴退出许多适宜游牧的地区，如河套、河西等，不得不远走漠北苦寒之地，这对匈奴的生产、生活影响甚大。匈奴在失去祁连山、焉支山后，《史记》注引《西河故事》说道， 亡我祁连山，使我六畜不蕃息；失我焉支山，使我妇女无颜色。 又因天灾雨雪频繁，普通民众生活艰难。宣帝地节二年（前68），匈奴出现饥荒， 人民畜产死十六七 。第三，匈奴羁属力量瓦解。在匈奴势力日渐削弱时，匈奴的羁属部族开始反抗， 丁令乘弱攻其北，乌桓入其东，乌孙击其西。凡三国所杀数万级，马数万匹，牛羊甚众 （《汉书 匈奴传》）。此外，匈奴内部为争夺单于之位，相互厮杀，内讧不断。宣帝五凤元年（前57），有 五单于争立 事件。他们为此展开混战， 死者以万数，畜产大耗什八九，人民饥饿，相燔烧以求食，因大乖乱 （《汉书 宣帝纪》）。内外交困之中的呼韩邪单于，于宣帝甘露元年（前53），率领部众南下至阴山附近，归附汉朝；两年后，他亲自朝觐宣帝，表达归附诚意。汉对呼韩邪单于礼遇有加，赏赐丰厚，后又允许其北归单于庭；对归降的匈奴民众，汉朝也多次转运粮草救济。
建昭三年（前36），陈汤矫诏发汉军及西域胡兵，诛杀活动于西边的郅支单于。呼韩邪单于且喜且惧：喜者，郅支已诛，政敌已清除，无后顾之忧；忧者，牵制汉朝且用以自重的外力不存，恐不再受汉朝廷重视。他上书元帝表达上朝觐见之心。前33年，呼韩邪单于入朝，汉对之礼遇、赐赠如初，且加赐衣服、锦、帛等；朝见期间，他自言愿娶汉女为汉女婿，以亲近汉朝。元帝遂将后宫宫女王嫱（字昭君）嫁给他。为庆祝汉匈和亲，元帝改年号为竟宁，取边境安宁之意。呼韩邪单于大喜，上书愿为汉守卫自上谷（今河北怀来县境）以西至敦煌（今甘肃敦煌市）一线的北边， 请罢边备塞吏卒，以休天子人民 （《汉书 匈奴传》）。汉本着安不忘危的警惕，婉拒其请求。
昭君出塞和亲，汉匈维持和好局面。从宣帝至成帝以来， 边城晏闭，牛马布野，三世无犬吠之警，黎庶亡干戈之役 （《汉书 匈奴传》）。王莽时，无理干预匈奴内部事务，如将 匈奴单于玺 改为 新匈奴单于章 ，又如企图募兵30万攻打匈奴，激起匈奴的强烈不满，他们入塞侵扰边境，掳掠吏民、牲畜，北边重遭大害。两汉之际，匈奴勾结、支持割据势力卢芳，与之经常寇扰汉之北边。
东汉初建，光武帝忙于统一战争，无力反击匈奴，对匈奴采取了守势：在主动遣使与匈奴通好未果的情况下，罢省定襄郡，徙其民于西河；徙雁门、代郡、上谷等郡吏民6万余口于居庸、常山以东；增加沿边诸郡兵力，修筑堡壁及亭燧。在边境线收缩的情况下，匈奴左部入居塞内。建武二十年（44），匈奴一度进军至上党、扶风、天水等郡，成为东汉王朝的严重威胁。但就在这时，匈奴人连遭旱、蝗灾害，草木尽枯，人畜饥疫，死亡大半。东边的乌桓乘机进攻匈奴，迫使匈奴北徙；匈奴内部又发生争夺统治权的内讧。
建武二十四年（48），匈奴日逐王比被南边八部拥立为南单于，他袭用祖父呼韩邪单于的称号，请求内附， 愿永为蕃蔽，扞御北虏 （《后汉书 南匈奴传》），获准。自此，匈奴分裂为南北两部。南单于入居云中（今内蒙古托克托），不久又转驻西河郡的美稷（今内蒙古鄂尔多斯市东胜附近），分屯部众于北边各郡，助汉守边。汉政府经常以财物、粮食、布帛、牛羊等赈济南匈奴民众，双方和平相处，边境安定，原来内徙的边郡居民陆续返回。
南匈奴内附的一百多年间，大体与汉朝维持和好关系。和帝初，南匈奴领有34 000户，23万多口，兵士5万余人，较之内附时的四五万人增加四五倍之多。入塞居住的南匈奴人，缓慢向东向南内迁；东汉末年向今山西北部、中部移动。他们与汉人杂居，逐步向定居和农耕生活过渡。建安末，曹操分南匈奴为五部，每部择立贵族为帅，派汉人为五部司马，加以监督；司马氏时，将匈奴部帅改为都尉，取消他们的部落特权，加强对匈奴的控制。
为缓和北匈奴的侵扰，汉答应与之 合市 贸易。章帝时，北匈奴贵族驱牛马万余头，到武威与汉人 合市 交易。明帝永平八年（65），为隔绝南、北匈奴交通合谋不轨，汉政府于五原郡曼柏（今内蒙古鄂尔多斯市东北部），设置度辽营及度辽将军。北匈奴始终是汉政府的威胁。明帝时，北匈奴受丁零、鲜卑、南匈奴等夹攻及西域国家反击，势力薄弱，部众离散。为保障河西地区的安全，恢复与西域地区之交通，汉发动了对北匈奴的进攻。永平十六年（73），汉军四路出击，除窦固一路逐击北匈奴至蒲类海（今新疆巴里坤湖）外，其余三路都因北匈奴闻风逃往漠北，无功而返。章帝末，北匈奴大乱，又遭遇饥、蝗，部众、牲畜死亡严重。和帝永元元年（89），窦宪、耿秉率兵出征北匈奴，斩首众多，俘获牲畜百万余头，北匈奴归降者约20余万人。汉军出塞三千余里，直至燕然山（今蒙古国杭爱山），刻石颂功而还。永元二年（90），汉军又击败伊吾地区的匈奴；永元三年（91），汉军出居延塞，大败北匈奴单于于金微山（今阿尔泰山）。北匈奴大败后，单于率残众西逃。西迁的匈奴人，历经厮杀、血战，先停足于西域地区，后迁往中亚、欧洲，由此引发了影响深远的 民族大迁徙 。
北单于逃亡后，漠北陷入混乱，乌桓、鲜卑乘势兴起。乌桓、鲜卑等族，因在匈奴之东，故被称为 东胡 。乌桓，或称乌丸，活动的中心区域在西辽河上游的西拉木伦河和老哈河流域。乌桓人骁勇善射，以随水草放牧为主，略从事农业，居无定所。父子男女相对蹲踞，以髡头为便利。所谓 髡头 ，可能是剃周围之发而留顶发、垂辫于后。女子到出嫁时，才养发分髻。他们以动物毛皮为衣裳、毡帐。乌桓之俗， 有勇健能理决斗讼者，推为大人（首领） ；其 大人 传袭不需父子相承或兄弟相继的条件，亦即史书所说的 无世业相继 。乌桓姓氏无常，以 大人 健者名字为姓； 大人 更替，乌桓姓氏也随之改变。 大人 以其威望号召部落小帅， 大人 以下各自畜牧营产，不相役属。乌桓曾臣服于匈奴冒顿单于。武帝时，霍去病击破匈奴左贤王，迁乌桓于上谷、渔阳、右北平、辽西、辽东五郡塞外，为汉侦察匈奴动静；汉置护乌桓校尉，以防止其与匈奴交通。
昭帝以后，乌桓势力渐强，曾骚扰幽州边境，后保塞降附汉朝。东汉初年，乌桓、匈奴连兵为寇，代郡以东尤被其害， 五郡民庶，家受其辜，至于郡县损坏，百姓流亡 。建武二十五年（49），辽西乌桓大人郝旦等率众归附，汉封赏其渠帅，使之居于塞内的缘边诸郡，招徕乌桓人。汉于上谷宁城（今河北宣化附近）复置乌桓校尉，兼领鲜卑，管理乌桓、鲜卑的互市事务。明、章、和帝三世，乌桓保塞无事，此后不时寇边。东汉末， 幽、冀吏人奔乌桓者十万余户，尚欲凭其兵力，复图中国 （《后汉书 乌桓传》）；建安十二年（207），曹操率军大破乌桓王踏顿，胡、汉降者20余万口，被迁徙于塞内；曹操还将乌桓人编入军队，乌桓突骑之勇天下知名。
鲜卑内部部落众多，如魏晋时的慕容部、宇文部、拓跋部等。其起源地也有所不同，如慕容部原居鲜卑山，拓跋部先世居于大兴安岭北部东麓地区。据史书记载，鲜卑的语言、习俗与乌桓相近。男子娶妇、女子出嫁均 髡头 。西汉初，鲜卑被冒顿单于攻破，徙至辽东塞外；武帝时，乌桓人南徙后，慕容部迁至饶乐水（今西拉木伦河），与乌桓相接。东汉初，鲜卑与乌桓侵扰北边，杀掠吏民。建武二十五年，鲜卑始与汉通驿使。此后，一些鲜卑大人陆续率众归附，保塞无事。汉出击北匈奴后，鲜卑因此转徙其地， 匈奴余种留者尚有十余万落，皆自号鲜卑，鲜卑由此渐盛 （《后汉书 鲜卑传》）。
此后，鲜卑或降或叛，威胁北边郡县。2世纪中叶，在杰出首领檀石槐的率领下，鲜卑势力有了长足发展。檀石槐（约137~约181），为人勇敢，富有谋略，被推举为大人。檀石槐势力最盛时， 因南抄缘边，北拒丁零，东却夫余，西击乌孙，尽据匈奴故地，东西万四千余里，南北七千余里 （《后汉书 鲜卑传》），其间的山林川泽、盐场牧地都处于鲜卑人的统辖下。他建立起庞大的鲜卑部落联盟，并将控制的地域分为三部，各置大人主领，但皆隶属自己；连年寇扰幽、并、凉三州，杀略不可胜数。檀石槐去世，后继者不肖，鲜卑部族分裂，势力逐渐衰落；自檀石槐后，诸 大人 之位遂世代传袭。鲜卑入塞要较乌桓为晚，但其影响却较乌桓为大：鲜卑于魏晋十六国时期，先后建立不少民族政权，拓跋魏曾一度统一北方，乌桓人始终未建自己独立的国家，甚至连稳定持久的乌桓势力都不存。这在很大程度上是因为乌桓、鲜卑因言语、习俗相通，使两者在代北地区能长久共生乃至整合、熔融，从而孕育了一个包容乌桓及其他族的有强大生命力的新拓跋部。代北地区大体指阴山以南，陉岭以北，上谷以西，黄河以东的草原丘陵地带，地理上为山河所限制，具有闭锁性质。由于汉魏裁撤边郡，内徙边民。先后进入代北的鲜卑拓跋部（主要来自阴山方向）和乌桓（主要来自上谷方向）长久积淀在这一地区：拓跋凭借自己相对稳定的组织力量，吸引、包容西来的社会组织松散的乌桓，甚至使乌桓奉戴拓跋名号；乌桓则以其强大武力支持拓跋。拓跋与乌桓在代北共生，是拓跋组织和乌桓武力之结合。