Aunque el pueblo de Albalate del Arzobispo tiene un origen eminentemente musulmán, por nombre (al-balat, “el camino”), estructura (en alto y con calles estrechas) y emplazamiento, estar al lado del río Martín hace pensar que hubiera emplazamientos anteriores.

La localidad tiene restos de arte rupestre levantino, del Eneolítico y del periodo romano. De la época musulmana se conservan restos de una muralla, cimientos del castillo y posiblemente de la iglesia.
Ramón Berenguer IV conquista la localidad y en 1149 dona la villa y el castillo al obispo Bernardo de Zaragoza. A partir de ese momento y durante más de seis siglos, Albalate estuvo incorporada a la mitra zaragozana. En 1205, Pedro II concedió mercado semanal. Los dominios de Albalate fueron ampliándose en época medieval, llegando a estar formados por Albalate, Andorra, Almochuel, Arcos -hoy desaparecido-, Ariño y El Cardadal y la Cañada Real hasta Monzón. En 1318 la villa empezó a ser conocida como Albalate del Arzobispo y comenzó a edificarse el castillo gótico que luego se convertiría en residencia arzobispal y almacén. El arzobispo, señor temporal de la villa se encarga del gobierno y la justicia y tiene derechos sobre las aguas del río Martín y sobre los molinos de aceite, cuyos restos se observan a la entrada de la localidad. Debió de ser un núcleo importante en la zona, como lo pone de manifiesto la existencia de una judería.
La aljama de judíos de la villa fue repoblada en el año 1400 bajo la protección de García Fernández de Heredia, arzobispo de Zaragoza, probablemente con judíos huidos de otras zonas castigadas por las persecuciones de 1391. Se les permitió erigir sinagoga y elegir un lugar para enterrar a sus muertos. También se les asignó un baile o merino para que los gobernase y protegiese. Es posible que con esta medida el arzobispo de Zaragoza tratase de solucionar el excesivo endeudamiento del concejo de la villa años atrás.
Durante la Edad Media, Albalate comprendía también los municipios de Andorra, Almochuel y Arcos. En 1318 la villa empieza a ser conocida como Albalate del Arzobispo y comienza a edificarse el castillo gótico que se convertirá en residencia arzobispal y almacén.
 Durante los silos XV y XVI se levanta la nueva iglesia de la Asunción (sobre los restos de una anterior de la que se conserva la torre) y la ermita de la Virgen de Arcos, una hermosa construcción manierista.
El siglo XVIII representará otra época dorada para el municipio. Apoya a Felipe V en su disputa por el trono contra los Austrias durante la guerra de Sucesión y con eso se gana las 3 “flores de lis” (símbolo Borbón) que adornan su escudo. Se construye el puente y la iglesia de San José. Y grupos ilustrados introducen una nueva variedad de olivo: el empeltre.

La evolución de la población continuaría, aunque fue duramente castigada por varias guerras durante el siglo XIX y XX. El 21 de marzo de 1836, las fuerzas carlistas de Cabrera unidas a las de Quílez sostuvieron en las inmediaciones de Albalate una escaramuza con las tropas gubernamentales del coronel Churruca. En el transcurso de esta primera Guerra Carlista, la villa fue hostigada en repetidas ocasiones por los seguidores del Pretendiente.
La villa fue castigada durante la Guerra Civil, que aunque no causó daños materiales significativos, produjo gran mortandad. A partir de los años 50 hay una fuerte emigración a Zaragoza y Cataluña y son ahora nuevos vecinos de otros países los que equilibran la pérdida demográfica.