Dahulunya Kelurahan Rengas Pulau adalah suatu kampung yang berada di pinggiran Kota Medan. Sebagian besar wilayahnya merupakan daerah pertanian dan pemukiman penduduk. Sekitar tahun 1942 menjelang kemerdekaan Republik Indonesia, sebagian daerahnya adalah perkebunan tembakau.
Pasca kemerdekaan tahun 1945 daerah perkebunan tersebut ditinggalkan oleh Bangsa Belanda kemudian dikelola oleh penduduk setempat. Nama Rengas Pulau sendiri diambil dari pohon yang tumbuh ditengah-tengah delta sungai Deli yaitu pohon Rengas, yang lokasinya sekarang adalah wilayah lingkungan tiga puluh (30) Kelurahan Rengas Pulau.
Sejak tahun 1945 disebut Penghulu Rengas Pulau, kemudian berubah menjadi Kampung Rengas Pulau, hingga pada akhirnya sekitar tahun 1980 di rubah lagi namanya menjadi Kelurahan Rengas Pulau.