かつて尾関山は、川平山という名であり、出城があった場所に1601年福島正則の家臣、
尾関正勝が入場したことから尾関山と呼ばれるようになりました。
公園としては、1911年に東京の日比谷公園を設計した吉田弘蔵が設計し、本格的に整備されました。
1990年には、日本さくらの会により「別撰さくら名所」に選定されています。