Die Herkunft des Beinamens „die weiße Stadt“, mit dem sich Arequipa schmückt, bezieht sich wahrscheinlich nicht auf das weiße Sillar-Gestein vulkanischen Ursprungs, mit dem viele der alten historischen Gebäude im Zentrum Arequipas erbaut wurden, sondern eher auf die hellere Hautfarbe der einstmals im Stadtzentrum lebenden spanischstämmigen Bewohner, die es den Einheimischen verboten, in der Innenstadt zu leben.
Die ältesten Spuren menschlicher Besiedlung, die in der Umgebung Arequipas gefunden wurden, stammen aus der Zeit zwischen 8000 v. Chr. und 6000 v. Chr. Über 400 archäologische Orte wurden bis heute registriert
Ab etwa 1250 brachten die Inkas die Gegend um Arequipa unter ihren Einfluss, bis 1537 der spanische Konquistador Diego de Almagro el Viejo die Umgebung eroberte und Garcí Manuel de Carbajal 1540 die Stadt Villa de Nuestra Señora de la Asunción del Valle Hermoso de Arequipa als spanische Residenz gründete, später kurz Arequipa genannt.
Der Name der Stadt leitet sich mutmaßlich von dem Quechua-Ausspruch „are quepay“ ( „Bleiben Sie!“) ab, den der Inka Mayta Cápac bei seiner Ankunft im Tal des Rio Chili getan haben soll. 1541 erhielt sie vom spanischen König Carlos V. die Stadtrechte. Ab diesem Zeitpunkt entwickelte sich Arequipa zur Handelsstadt zwischen der Küste und den Anden. Besonders wichtig war hierfür auch das Colca-Tal mit der ergiebigen Landwirtschaft. In der Umgebung wurde zudem intensiv Bergbau betrieben, sowie Wein und Wolle produziert. Mit Einführung der Eisenbahn, die ab 1870 bis zum Seehafen Matarani fuhr, und 1904 den Anschluss zu den Städten Cuzco und Puno herstellte, stieg die Bedeutung Arequipas als Handelsstadt
Die Kathedrale von Arequipa gilt als einzigartig in Peru, da sie die gesamte Seite der Plaza de Armas einnimmt. Mit ihrem Bau wurde 1629 begonnen, ihre heutige Form erhielt sie aber durch den 1844 abgeschlossenen Wiederaufbau nach einem Brand. Einige Jahre später wurde sie durch das Erdbeben von 1868 erneut schwer beschädigt. Der beim Erdbeben von 2001 herabgestürzte Glockenturm wurde bis 2004 wieder aufgebaut. Zum Ende des 19. Jahrhunderts ließ man für die Kathedrale eine Kanzel aus Frankreich und eine Orgel aus Belgien anschaffen. Zudem wurde an vielen Stellen Marmor aus Italien verwendet. Die Kathedrale von Arequipa ist zudem eine der weniger als 100 Kirchen weltweit, denen es erlaubt ist, die Flagge des Vatikans zu hissen.