当線が開通する以前、
関東と新潟県を結ぶ鉄道ルートは「高崎線・
信越本線ルート」と「
東北本線・
磐越西線ルート」の二つがあった。しかし、いずれも関東と新潟を直線的に結ぶルートではないうえ、信越本線には
碓氷峠の急峻な勾配があり時間的ロスを生じていた。こうした中、上越国境の茂倉岳直下を
清水トンネルで越える短絡経路として、上越線が建設された。このうち、水上 - 石打間は最急勾配20‰で建設され、当初から電化された区間である。
開業当初、それまで
上野駅 -
新潟駅間は信越本線経由の急行列車で11時間6分を要していたのが、新設された上越線経由の急行列車は7時間10分で結び、一挙に4時間の所要時間短縮が図られた。
上越新幹線の開業後は首都圏と新潟との都市間輸送の役割を新幹線に譲り、全線を直通する旅客列車は夜行列車などわずかとなったが、首都圏と新潟・秋田方面とを結ぶ
貨物幹線という側面を持っており、今もなおその重責を担う。また、
奥羽本線・
田沢湖線の
ミニ新幹線化(
標準軌化)後は、
東北本線が運行不能になった際の首都圏と青森・北海道方面との長距離列車の唯一の迂回路としての機能も担っている。