据考古证明,远在6千年以前,临夏县境内已有人类定居,并创造了马家窑、半山、马厂3种类型的文化。文化遗址有居住的房屋、室穴、灰坑及墓地;出土的遗存,有种类繁多、质地细腻、造型古朴典雅、色彩绚丽的陶器;还有大量的石斧、石刀、石铲、石纺轮等生产工具及碳化了的稷穗和籽粒。说明在4——5千年以前,本地的先民已处在由母系社会向父系社会过渡的阶段,过着以狩猎、牧业、农业的原始社会生活。到了距今3——4千年时的齐家和辛店文化时期,人类社会进入了父权制的氏族社会。畜牧业高度发展,齐家文化和辛店文化,人们认为是古代生活在我国西北地区的羌族文化。
汉以前,今临夏县是羌人居住之地,双城一带是羌人罕チ干候邑。战国后期,秦灭罕チ干候,以其地置县。汉昭帝始元六年(公元前81年)置金城郡,木包罕县归属之。临夏县古为木包罕县辖地,后县名缕经更改,但治所一直在临夏县。1949年8月22日,临夏县解放。1950年县市分置,县址设在韩家集,后来县市几经分合,1983年又分置至今,县人民政府仍驻韩家集。
临夏县是农业与畜牧业的交错分布带,是古代民族之间往来和迁徙的桥梁。历史上,先后有羌、汉、匈奴、鲜卑、吐谷浑、吐蕃、女真、蒙古、回、藏等民族在这里定居,各族人民群众和睦相处,友好往来,共同劳动。