Un 11 de enero de 1957 fue fundado en el partido de Avellaneda, Arsenal de Sarandí, el club denominado de «los Grondona», ya que los hermanos Julio Humberto y Héctor, ambos fallecidos, fueron jugadores y dirigentes de la entidad, y Julio Ricardo, hijo del ex presidente de la AFA, es su actual titular.
Arsenal tiene el mérito de llevar trece temporadas consecutivas y nunca descendió desde la máxima categoría. Fue subiendo, peldaño a peldaño, desde la Primera D, que en otras épocas se llamó categoría Aficionados, hasta la Primera División.
En aquel enero de 1957, un grupo de jóvenes entusiastas, entre los que estaban los hermanos Grondona, Juan Carlos Urtasún, Juan Elena y Orlando Acosta, entre otros, decidieron fundar un club de fútbol.
Adoptaron el nombre de Arsenal en homenaje al club inglés y los colores de la camiseta con la banda que cruzaba el pecho, siendo todos los fundadores habitantes del partido de Avellaneda, con el celeste de la casaca de Racing y el rojo, de la de Independiente.
La inscripción en los registros de la AFA fue el 3 de marzo de 1961 y el debut en Aficionados se produjo el 13 de mayo de ese año, en un empate 1-1 frente al desaparecido Piraña, de Parque de los Patricios.
Ese día el equipo formó con: Lunardelli; R. Berdia y Ribaudo; Rivas, A. Pérez y Bufatelli; Oliva, González, Ferrari, Julio Humberto Grondona y O. Pérez.
En 1962 consiguió el ascenso a la Primera C como campeón e invicto. En 1986 a la Primera B; en 1992 al Nacional B, cuando ganó el Zonal Sudeste ante Alvarado de Mar del Plata. El acceso a la máxima categoría del fútbol local lo alcanzó en 2002, tras vencer en la final a Gimnasia y Esgrima de Concepción del Uruguay.
Arsenal jugó su primer partido en Primera División el 28 de julio de ese 2002 ante Olimpo de Bahía Blanca en el estadio de Lanús, donde ganó por 1 a 0 con gol de Mauricio Piersimone.
Su mejor participación en Primera División fue en el Torneo Clausura 2012, donde se coronó campeón, de la mano del técnico Gustavo Alfaro, consiguiendo 38 puntos.
Su máximo invicto fue de 12 partidos, con 9 victorias y 3 empates, la racha más larga de su historia en Primera División. El invicto se lo cortó San Martín de San Juan, que lo goleó 4 a 0.
Otro logro de importancia en su historia fue el 7 de noviembre de 2012, cuando se coronó campeón de la Supercopa Argentina 2012, venciendo a Boca Juniors en definición de penales, con 4 a favor para Arsenal y 3 para Boca.
El 5 de diciembre de 2007 se consagró campeón de la Copa Sudamericana (doblegó a América de México en la definición), logrando así su primer título en la historia a nivel internacional. Ese título le permitió jugar la Copa Suruga Bank en Japón, ante el Gamba Osaka, al que venció 1-0 con gol de Carlos Casteglione, adjudicándose el trofeo.
En el 2017 participará de la Copa Sudamericana por haber clasificado en el séptimo puesto del campeonato de Primera División 2016.