大河原町从绳文时代初期（约6000年前）开始就有人类居住。大约在 4 世纪或 5 世纪，儿岛地区建造了一个钥匙孔形的古坟（岛馆古坟），这表明该地区居住着一个强大的统治家族。 从平安时代的遗迹中屋敷前遗迹中，通过发掘确认了曾经建有瓦顶石建筑，可见那是土地。 江户时代，这里成为奥州公路的驿站，作为稻米和红花的生产中心而繁荣。另外，大河原是仙台藩的直辖地，县令署和藩主的住宿设施御刈屋都位于此处。 明治时代后，国家政府和县政府的分支机构设在该镇，并发展为政府机关镇。