La ciudad surgió a comienzos del siglo XVII como Pago de los Arroyos, sin acta fundacional,8​ en la encrucijada del Camino Real que llevaba por una parte a Córdoba y desde allí al "arriba" y por la otra parte al resto del Litoral hasta, por lo menos, Paraguay, marcando una etapa en la cual sirvió de paraje de carretas a orillas del río Paraná.
Hacia fines del siglo XVII y principios del XVIII, se estableció la primera población permanente registrada: la estancia del capitán Luis Romero de Pineda. Durante 1719, las tierras de la estancia San Miguel del Carcarañal, propiedad del hijo de Antonio de Vera Mujica, fueron adquiridas por los jesuitas. Estas tierras definirán luego parte de los límites en el pago.

A su vez, atendido por franciscanos se estableció en la zona el Pago del Salado, para hacer frente a las irrupciones de los indios calchaquíes. Luego, hacia 1724, Santiago Montenegro se estableció también en la zona y de manera permanente, para más tarde instalar un molino. Esta etapa facilitó que se estableciera un oratorio en torno a una capilla dedicada a la Virgen del Rosario.

En su costa, a orillas del río Paraná, el jefe de las instalaciones defensivas sobre el río Paraná, general Manuel Belgrano, organizó las baterías Independencia y Libertad. La batería Libertad estaba en la punta de la barranca que formaba ángulo entre las calles Santa Fe y Córdoba, la que en el siglo siguiente fue rebajada para ensanchar la plaza Brown. A las 6:30 del 27 de febrero de 1812, el poblado asistió al acto en el que por primera vez se enarboló la Bandera de la Argentina creada por Manuel Belgrano, quien la hizo jurar por sus soldados. Por ello se la denomina Cuna de la Bandera. Aunque el uso de dicha bandera sería desautorizado por el gobierno de entonces, sería oficializada cuatro años después por el Congreso de Tucumán, el 9 de julio de 1816. 

Para 1823, el pueblo recibió el título de villa (ciudad pequeña con jurisdicción municipal). El 5 de agosto de 1852, dado su paulatino crecimiento demográfico y comercial, Rosario fue declarada ciudad, por iniciativa del general Urquiza; convirtiéndose pocos años después en el principal puerto de la Confederación Argentina.

Entre 1862 y 1873, Rosario fue promovida y designada como Capital Federal en tres ocasiones por el Congreso de la Nación Argentina, pero los vetos a las leyes por parte de Bartolomé Mitre y Domingo Faustino Sarmiento lo impidieron, respondiendo a la concentración de poder y al proyecto unitario de Buenos Aires. El 29 de septiembre de 1893 se libró el combate naval de El Espinillo (la isla que se encuentra a un kilómetro frente al centro de la ciudad) entre fuerzas leales al Gobierno y sublevados de la Revolución radical de 1893.

En los últimos 15 años del siglo XIX, la ciudad duplicó su población, en parte debido a la inmigración. Por ello y dada la importante concentración obrera, Rosario se convirtió en el epicentro del movimiento anarquista argentino. Para 1926, el 47 % de sus habitantes eran de origen transatlántico, la mayoría llegados de Europa (Italia, España, Irlanda, entre otros países) en los comienzos de la Primera Guerra Mundial.
El 20 de junio de 1957, se inauguró el Monumento a la Bandera,​ símbolo de Rosario y único en su tipo que conmemora el nacimiento de la insignia patria a la que alude su nombre.