天文6年(1537)、織田信長の叔父、織田信康によって木之下城より城郭を移して築いたといわれています。木曽川沿いの小高い山の上に建てられた「後堅固（うしろけんご）の城」で、中山道と木曽街道に通じ、木曽川による交易、政治、経済の要衝として、戦国時代を通じて重要な拠点となりました。

天文16年(1547)、織田信秀が美濃（岐阜県）の斉藤氏を攻めた「稲葉山城攻め」に出陣した信康が死去し、その子織田信清が城主となりますが、織田信長に反抗したため攻められ、織田信長の家臣で乳兄弟、池田恒興（いけだつねおき）が入城しました。

天正10年（1582）「本能寺の変」で織田信長が倒れて後継者争いで世の中は乱れ、天正12年（1584）に秀吉対徳川家康・織田信長の次男信雄（のぶかつ）との間で「小牧・長久手の戦い」がはじまりました。当時の犬山城主は織田信雄の家臣、中川定成でしたが伊勢へいって不在であり、池田恒興が木曽川をわたり城内に侵入し、落城しました。後に秀吉が入城しました。以後、小牧山城に陣を構えた家康とにらみあいが続きましたが、両者の間で和が結ばれ、犬山城は織田信雄に返還されました。

その後、犬山城主はめまぐるしく変わりましたが、文禄4年(1595)秀吉の家臣石川光吉が城主に、慶長5年(1600)、関が原の合戦後、家康側の小笠原吉次が入城。

江戸時代に入り、元和3年(1617)尾張徳川家の重臣成瀬正成（なるせまさなり）が拝領。このとき改良が加えられ、現在の天守の姿ができたといわれています。以後、成瀬家が幕末まで城主を務めることになります。

明治4年（1871）廃藩置県で愛知県の所有となり、天守以外のほとんどの建物が取り壊されました。

明治24年（1891）、マグニチュード8.4の「濃尾大地震」によって天守が半壊するという大きな被害に会いました。そのため、同28年に修理を条件として県から旧藩主の成瀬家に譲与され、成瀬家と犬山町民が義援金を募り、無事修復されました。

昭和10年、国宝に指定されました。昭和27年規則改正にともない国宝に再指定されました。昭和40年（1965）解体修理完了。全国唯一の個人所有の城として保存されてきましたが、平成16年（2004）、「財団法人犬山城白帝文庫」の所有となって現在にいたっています。