新干线能在短短5年半内建成，是因为战前曾有“子弹列车”计划，即用9个小时联结东京与山口县下关，由此实现包括跨海段在内从东京至北京的构想。

该计划于1941年动工开建，工程已在静冈县新丹那隧道等地推进，后因战况恶化而作罢。

建设东海道新干线时，利用了该计划中已完成收购的土地以及未建完的隧道等。

东海道新干线0系列车在营业运行首日，最高时速就达到了210公里。开发时，全球尚无时速超过200公里的铁路。日本战败后，原日军的技术人员无处发挥专长，他们聚集在国铁，最终打造出了划时代的列车。例如，在底部车架设计方面，就有战争中研究零式舰载战机的技术人员参与。新干线开通前的测试中，创下了时速256公里的最高纪录。

1964年10月1日，国铁总裁石田礼助在东京站的庆祝通车仪式上剪彩。伴随铜管乐队奏出的轻快曲子，清晨6点，“Hikari”（光）1号列车启程。从新大阪站同时出发的2号列车也开赴东京，全程4个小时基本准点运行。

昭和天皇和香淳皇后出席了在国铁总部举行的通车典礼。昭和天皇祝贺称：“大家克服诸多困难，出色完成了工作。今天迎来了通车典礼，我深感欣慰。”

东海道新干线的开通拉近了东京与大阪两地，乘车时长从原来的约7个小时缩短至最短4个小时。在经济高速增长的时代背景下，新干线横空出世，高速公路网迅速铺开，电器产品日益普及……这令当时的日本人意气风发，坚信未来光明璀璨。为了实现高速运行，新干线采用了标准轨距（1435毫米），而不是日本铁路普遍采用的窄轨（1067毫米）。

为了安全运行全球首条高铁，国铁技术人员充分运用了不断打磨积累的当时的技术精华。其中，国铁首次采用的列车自动控制系统（ATC：Automatic Train Control）这一安全对策特别值得一提。通过改良ATC等对安全的不懈追求，尽管新干线以全球罕见的高密度时刻表高速运行，但开通以来从未发生过行驶时乘客死亡的列车事故。引以为豪的准点运行率也是新干线的特点之一。

东海道新干线的初代车辆是0系。车头部分的“圆鼻子”形状十分招人喜欢。爱称是Hikari号和站站停的“Kodama”（回声）号。此后，在比0系车头更细长的100系之后，“Nozomi”（希望）号在1992年登场。

民营化以后的JR东海开发的流线型300系投入使用，营业运行的最高时速达到270公里。东京与新大阪之间的乘车时长缩短至2个半小时。

JR西日本也开发了新型车辆500系。1997年在山阳新干线投入营业运行，最高时速达到300公里。细长流线型的车头形状和圆筒状车身等设计令人联想起飞机，因而大受欢迎。

1999年，车头形似“鸭嘴”的700系Nozomi号亮相东海道和山阳新干线。之后又有N700系、N700A、N700S这些新车辆陆续被开发出来并投入运行。

另一方面，长期作为新干线“招牌”的0系车辆在1999年退出东海道新干线，2008年在山阳新干线也结束定期运行。影响了全球高铁发展的0系车辆被捐赠给铁路发祥地英国，在约克的英国国家铁路博物馆展出。

历代技术人员为提高安全性、创造舒适的车内环境以及顾及周边环境等持续付出努力，也给铁路迷带来乐趣。