경인선에 이어 건설된 한반도의 2대 간선축인 서울-부산간 철도인 경부선과 서울-신의주간 철도인 경의선은 한반도의 근대화에 크게 기여했다. 대한제국 정부는 국가 근대화를 위해 철도를 건설하고 싶었지만 기술도 돈도 없어 외국에서 조달하기로 했다. 대한제국 시대에 일본 시부사와 에이치(渋沢栄一)가 설립한 경부철도주식회사에 의해 건립되었다.대한제국 정부로부터 먼저 일부 구간의 철도 건설권을 취득했던 미국으로부터 부설권을 사서 전 노선을 건설하였다. 경부 철도 주식회사는 대한제국 정부, 일본제국 정부, 영국 자본으로 구성되었다. 1898년9월, 이윽고 부설권을 취득한 일본은 '경부철도'를 설립하고 1901년6월 일본은 경부철도주식회사를 세워, 8월 20일에 서울 영등포와 부산 초량에서 각각 착공식을 거행했다. 일본은 영국에서 자금을 빌려와 미국이 가졌던 부설권과 건설 장비를 구입하였다[1]. 경부철도주식회사의 자본금의 4분의 1은 일본 국고에서 나왔으며, 불입금의 10배에 달하는 사채모집도 승인되었다. 시부사와 에이이치 사장은 "경부선은 조선에서 일본의 유일 맥관이자 사활의 기관"이라고 황족, 부호에서 시골 농부까지 주식을 사서 애국하라고 선동하였으며, 이 국민주 모금운동으로 2,500만 원의 거대 자본금을 조달하였다.[2]1904년러일전쟁이 발발하자 군수물자 수송등의 이유로 급격히 공사가 진행, 1904년12월 27일에 완공되어 1905년에 전선이 개통되었다. 일본은 영국처럼 차량이 좌측으로 다녔기 때문에 경부선의 열차도 좌측통행을 하게 되었다. 1906년 러일전쟁 후, 일본의 수상 사이온지는 경부철도 매수법안을 의회에서 통과시켜 경부선과 경의선을 조선통감부 철도관리국 소관으로 국유화하였다.
철도 예전선 주위에 사는 조선인들은 토지 징발과 인력 동원, 물자조달 등을 좌우한 일본군의 영향 아래 있었으며, 노반공사에 농번기임에도 불구하고 강제로 동원되었으며, 식량과 가축에 대한 강제 징발도 수시로 자행되어 유랑민이 속출하였다. 대한매일신보는 '철도가 통과하는 지역은 온전한 땅이 없고 기력이 남아 있는 사람이 없으며, 열 집에 아홉 집은 텅 비었고, 천 리 길에 닭과 돼지가 멸종하였다'고 보도했다. 시흥과 파주, 곡산과 평산 그리고 평양에서 조선인들은 이에 항의하는 싸움을 벌였고, 선로상에 큰 돌을 놓아 저항하였다. 이런 사건의 주모자는 잡히는 대로 사형에 처해졌다.
1908년에는 경부선과 같은 해에 완공되었던 경의선과의 직결 운행이 이뤄져 부산과 신의주를 잇는 직통 급행열차 융희호를 운행하기 시작했다. 국권침탈 이후에는 일본과 만주를 잇는 경부선과 경의선의 중요성이 더욱 커지면서 1910년대에 전면개량이 이루어졌다. 남만주철도의 노선과 직통운행도 이뤄져 한반도와 중국대륙을 잇는 국제열차가 운행되기도 하였다.
1945년 8.15 광복 이후에도 대한민국 중추 철도로서의 기능을 수행하였고, 한국 전쟁때 한강철교가 폭파되기도 하였으나 군수물자와 병력수송의 역할을 담당하였다. 전후에는 유엔군의 공여와 미국의 원조로 들어온 디젤 기관차가 투입되어 서울-부산 간 소요시간이 크게 단축되기도 하였다.
1960년대와 1970년대에 서울로의 급격한 인구 유입과 도시화로 인한 통근수요에 대응하기 위해 서울-수원 간의 전철화와 서울-영등포 간의 복복선화가 진행되어 1974년8월 15일에 경인선(구로-인천), 경원선(청량리-성북)과 함께 통근형 전동차를 운행하여, 서울 지하철 1호선과의 직통운행을 개시하였다. 통근 수요가 계속 증가하여 선로 용량이 한계에 이르자 1981년12월 23일에 영등포-수원 간 복복선화가 이뤄져 통근형 전동차와 일반열차의 운행 선로가 분리되었다(통근형 전동차는 2선, 일반열차는 1선). 그리하여 통근형 전동차를 어느 정도 대량으로 수용하는 것이 가능해져 급증하는 통근 수요에 대응할 수 있게 되었다. 1984년에는 열차선을 이용하여 서울-수원 간을 빠르게 잇는 직통열차(현 급행열차)가 등장하였으나 러시아워에 3, 4회만 운행하였다.
계속된 개량과 CTC의 도입, 150 km/h 고속주행이 가능한 새마을호 객차의 도입 등에 힘입어 1985년11월 16일 영업최고속도를 140 km/h까지 끌어올릴 수 있게 되었다. 이후 서울-부산 간 최단 소요시간이 새마을호, 무궁화호, 통일호가 각각 4시간 10분, 4시간 50분, 5시간 15분으로 단축되었다.
그러나 계속된 수요증가와 대부분의 철도가 경부선을 중심으로 뻗어나가는 단점 때문에 1990년대에 이르러 선로 용량은 만성적으로 부족하게 되었다. 이를 해결하기 위해 경부선 전구간의 복복선화와 고속신선의 도입이 검토되었는데 소요시간 단축과 이에 따른 대량의 여객수송이 가능한 이점이 부각되어 고속신선의 도입이 결정되었다. 고속철도 시스템은 프랑스의 TGV가 선정되어, 2004년4월 1일에 시흥-지천의 경부고속신선이 개통되어 KTX가 운행 개시되면서 서울-부산 간을 2시간 40분에 연결하여 기존 새마을호에 비해 1시간 30분 이상을 단축시켰다.
이와 더불어 수원-천안 간의 복복선화와 전철화가 진행되어 2003년4월 30일에는 수원-병점 구간이 1차 개통, 2005년1월 20일에는 병점-천안 간이 복복선화되어 천안까지 통근형 전동차의 운행범위가 확대되었다. 이와 함께 기존의 서울-수원 간 직통열차가 서울(용산)-천안 간 급행열차로 바뀌었다. 또한 전구간 전철화 사업도 진행되어 KTX의 운행을 위해 대전조차장-옥천, 지천, 대구-부산 구간이 2004년 4월 1일에 전철화된 것을 시작으로 2005년 3월말 천안-조치원 구간이 전철화되었고 2006년 12월초까지 잔여 구간인 조치원-지천 간의 전철화가 이루어졌다. 이에 따라 2007년3월 1일부터 경부선에도 전기 기관차 운행이 시작되어 열차 운행 비용 절감에 도움이 되고 있다.
고속철도 개통과 동시에 일부 구간의 선형 개량이 이루어졌으며 이는 기존의 속도제한 90~100 km/h를 대폭 상향조정하여 140~150 km/h 주행이 가능하도록 직선화하여 기존선의 운행시간을 단축하였다. 2000년 이후 노선이 이설된 구간은 다음과 같다.
용산삼각선은 용산역에서 부산 방향으로 0.8 km 떨어진 지점에 있는 삼각선이다. 경부선 한강철교 북단에서 분기하여 경원선 이촌역 부근에서 경원선과 합류한다. 국토교통부의 한국철도영업거리표 상 노선 번호는 30201이다.
용산삼각선을 따라 비정기적으로 전동차가 운행하기도 한다. 예를 들자면, 2010년 7월 17일부터 주말에만 토요일과 일요일 각각 1편성씩 왕복으로 동인천역-용문역, 병점역-용문역 간 주말 특급 열차가 신설되어 이 구간도 수도권 전철의 열차가 경유하였으나, 계절별 수송수요 편차가 크게 나타나는 등 이용객 저조로 2010년 12월 1일부터 운행이 중지되었다. 서울 지하철 1호선이나 경부선 용산-서울역 구간 완행선로의 고장시 우회 선로로도 이용된다.[44]
오늘날 경부선은 경부선 본선과 경부고속선, 호남선, 전라선, 장항선의 철도교통량을 모두 처리하는 대한민국의 기간 교통망으로 기능하고 있다. 앞서 언급한 노선의 모든 철도교통량이 모여들기 때문에 경부1선의 서울~금천구청 구간은 대한민국 철도에서 가장 많은 일 여객 179회(광역철도 제외)를 처리하고 있다.[45]
아래는 2024년도 철도통계연보에 나온 경부선 구간을 경유하는 정기열차 운행빈도이다. (단위 : 회/일, 작성기준 : 편도, 주중)
경부선은 2015년 기준으로 1년에 약 7천 3백만 명을 수송했으며, 이는 약 1억 4천만 명인 한국철도 전체의 지역 간 여객 수송량 가운데 약 54%에 달하는 양이다. 거리별 이동량을 나타내는 인거리(passenger-Km)수치 역시 압도적이며, 전체 약 234억 인km 가운데 51%인 119억 인km를 경부선이 담당하고 있다. 다음 자료는 2000년부터 2015년까지 한국철도공사 한국철도통계 내용을 모은 것이다.