下野国小山荘の豪族・小山朝政は、1189（文治5）年、幕府より勿来の関北部の菊田荘を与えられた。 13世紀頃（鎌倉時代）、朝政の子孫・秀時が菊田荘上遠野郷の入遠野に日ノ澤城を築き、上遠野氏を称するようになった。 14〜15世紀頃（室町時代）、上遠野氏は上遠野城を築き居城を移した。 上遠野氏は15世紀頃（室町時代中期）までには岩城氏の傘下に入り、 16世紀初め（戦国時代初期）には岩城常隆の娘を妻に迎え、重臣としての地位を固めていった。 1602（慶長7）年、岩城氏の所領没収に伴って上遠野氏も所領を失い、上遠野城は廃城になったと考えられる。 その後、上遠野城の一部は棚倉藩陣屋の資材として流用されたようである。

上遠野城は、東から南にかけて上遠野川に囲まれた比高約110mの丘陵に築かれた城である。 城域は中心部のみで東西約200m、南北約200mであり、全域で東西約600m、南北約650mである。 中心部に曲輪が集中しており、特に主郭部は周囲を切岸・土塁・空堀などで囲まれた堅固な造りとなっている。 さらに主郭部の一部には低い野面積みの石垣が見られる。 中心部以外はほとんど曲輪も見られず、アップダウンの激しい痩せ尾根が続いている。

小領主の城であるため、小規模な城で遺構も大したことないだろうと思っていたが… 城の中心部には大規模な遺構（小領主の割にはだが）が残っていた。 地元の方によって整備されており、遺構の状態も良くて大変満足できた。 特に主郭部の切岸には驚かされた。 これを見たら攻め手も強引に力攻めするのは躊躇してしまうだろう。 とても上遠野氏だけで造れたとは思えない。岩城氏の助力があったのだろうか。 さらに主郭部に至る尾根のアップダウンにもうんざりである。 攻め手もこれでは嫌気がさしてしまうことだろう。 そんなわけで近くまで来たなら一度訪れてみることをお勧めする。