Kostić je svoje književno stvaranje počeo u jeku romantizma, pored Zmaja, Jakšića i drugih vrlo istaknutih pisaca. Pa ipak, za nepunih deset godina stvaranja on je istaknut u red najvećih pesnika i postao najpoznatiji predstavnik srpskog romantizma. Napisao je oko 150 lirskih i dvadesetak epskih pesama, balada i romansi, tri drame: Maksim Crnojević (napisana 1863, objavljena 1868), Pera Segedinac (1882) i Uskokova ljuba ili Gordana (1890); estetičku raspravu Osnova lepote u svetu s osobenim obzirom na srpske narodne pesme (1880), filosofski traktat Osnovno načelo, Kritički uvod u opštu filosofiju (1884) i veliku monografiju O Jovanu Jovanoviću Zmaju (Zmajovi), njegovom pevanju, mišljenju i pisanju, i njegovom dobu (1902).
Od prevodilačkog rada najznačajniji su njegovi prevodi Šekspira: Hamlet, Romeo i Julija i Ričard III. U prozi je napisao i nekoliko pripovedaka („Čedo vilino", „Maharadža", „Mučenica").