青岡一帶古代為土著貊族人活動地區，金朝設有兵站，元朝屬成吉思汗四弟帖木格斡赤斤的封地，明朝屬奴爾干都司管轄。清乾隆43年（1758）將此地劃為伊克明安旗游牧，后又全部收回。清政府采取封禁政策，長期將此地指定為圍場（放牧打獵的地方），除軍隊和滿族達官貴人以及土著少數民族可入境狩獵放牧外，漢族人不準進入這一地區。直到清咸豐10年（公元1860年）才開始對漢人開放。清光緒23年至28年（公元1897年至1902）六年間，大批漢族移民從河北、遼寧、吉林等地源源而來，他們鑿井建房，開荒種地，飼養畜禽，通肯河西岸人煙日漸稠密，農牧業日見興盛，已具備設縣條件。駐守黑龍江的將軍達桂、副督統程德全遂于光緒30年11月3日（公元1904年12月9日）向清政府奏請“添設地方各官，以資治理”。奏摺中說：“柞樹崗則設知縣一員，名青岡縣，并設巡檢兼典史事一員，隸海倫廳屬”。清光緒30年12月24日（1905年1月29日），慈禧太后、光緒皇帝朱批允準這一奏請，青岡縣正式建立.

  本縣建立后，除1923年根據黑龍江省指令劃北部與拜泉縣接壤的土地120萬畝歸新成立的明水縣外，縣境再無變更。

       青岡縣幅員面積2685平方公里，耕地面積256.3萬畝，草原面積60.2萬畝，林地面積70萬畝，地貌構成為“一水二草二林五分田”。

       地勢由東北向西南逐漸傾斜，東部較高多崗地；西部較低多洼地；境內無山，只有土崗一脈，屬小興安嶺余脈，由縣東北入境，沿通肯河西岸蜿蜒向南延伸，直至蘭西二龍山，名為柞樹崗。建縣時，全縣共分5個區、4個鄉。中華民國前期，青岡縣劃分為5個區。民國20年（1931年）“九.一八”事變前，在5個區的基礎上，將村、屯劃為主村、副村（自然屯），全縣有128個主村，330個副村，每個主村管理若干個副村。偽滿康德元年（1933年），全縣實行保甲制，設5個警察署、5個區、12個保、195個甲；康德三年（1933年）由保甲制改成街村制，全縣劃分為一個街，6個村；康德6年（1939年）又將六個村劃為分21村；1945年新的青岡縣政府成立，1946年將全縣分成8個區；1948年分成12個區；1955年將城區改為青岡鎮；1956年又將其余的農村11個區劃成27個鄉鎮；1958年又把農村鄉、鎮合并成12個鄉，同年10月實行人民公社化時，全縣13個鄉鎮均改為人民公社；1970年又劃出城郊公社；1974年將14個公社調整為19個公社；1980年將青岡鎮公社改為青岡鎮人民政府，1984年以后，逐漸調整為19個鄉鎮（6鎮13鄉）。2001年又調整為15個鄉鎮（6鎮9鄉）。目前，青岡縣下轄4個街道社區、15個鄉鎮(11鎮4鄉)、165個行政村、864個自然屯，總人口51.3萬，其中，農業人口37.7萬。