高加索指得是包括格魯吉亞，愛美尼亞，阿塞拜疆，達干斯坦，伊朗和土爾其在內的區域。是俄語詞匯，翻譯過來就是牧羊犬的意思。與普通的牧犬不同，高加索實質上是一種牲畜的護衛犬，該犬種的繁育目的就是可以和牧群形影不離有效得抵御掠奪者－－－無論狼群，熊還是盜賊。
幾個世紀以來，成群的羊生活在高加索，高加索是位于布拉克和里海之間的高地，與土耳其和伊朗毗鄰。高加索牧羊犬與優秀的守護犬相似，至少600年來一直守護著生活在這里的羊免受人類和其它動物的侵害。
高加索犬在20世紀60年代到達原西德。當時是作為邊境巡邏犬，尤其是沿著柏林牆巡邏。1989年，當柏林牆被拆，7000只強壯的巡邏犬被解散。許多犬被送給德國普通家庭。在德國精細的育種確保了這種謹慎。獨立犬的前途，隨著它的大眾化，育種家們更注意選擇它們的溫順品性。
這種大型、被毛粗獷的犬被多數人傳說是藏獒的後代，也有人說是與藏獒同屬于亞洲起源的巨獒，然而現代考古學提出了一種新的看法。非常多的現代研究表明了工作犬種所有牧羊犬的祖先應該發源于住在伊拉克和美索不達米亞覆蓋有森林的山區里的古代犬。
高加索犬是原產于車臣等前蘇聯中亞少數民族地區的古老大型護畜犬，冷戰結束前未被西方犬界所曉。游牧部落停留在高加索的偏遠地帶，他們帶來了這種工作犬，在稍有外界基因干涉的情況下，這種工作犬演變成了現代的高加索犬，這一種在我們這個時代稀有珍貴的犬種。這一犬種的名字不但來源于它的起源地，還來源于這種狗存在的目的。
高加索犬已被（國際犬聯）公認為G2（作業犬）品種。它是現有大型犬中仍然保持強烈護衛本能的稀有犬種，最適合看家護院，守衛別墅，倉庫，農場或牧場。因此，高加索犬是「雅俗共賞」具有多種用途最適合產業養殖的實用犬種。