Defensa del equipo amateur, José Arnau tuvo su oportunidad durante la dura pretemporada 1939, en la cual el club, en plena reconstrucción tras la Guerra Civil, estuvo probando jugadores en todas las posiciones para conformar una plantilla competitiva. Participó en tres encuentros amistosos bajo las órdenes de Ramón Encinas hasta el mes de diciembre, pero finalmente fue descartado para la plantilla final y no llegó a debutar en competición oficial. Pese a ello, la carrera futbolística de Arnau fue larga y exitosa.

Tras ser descartado por el club de Mestalla, fichó por el Castellón, club en el que jugó durante varias temporadas hasta 1947, a excepción de una cesión al Ceuta, con el que marcó 5 goles en 19 partidos en Segunda en el curso del 43. Su estancia en el club de La Plana se resume en 113 partidos oficiales y 32 goles anotados. Un magnífico rendimiento en uno de los mejores Castellones de la historia que le permitió fichar por el Atlético de Madrid en el verano de 1947. Dos temporadas en el club colchonero, en las que no tuvo excesiva continuidad, especialmente tras la llegada del técnico argentino Lino Taioli Alberti, por lo que tras jugar únicamente 17 partidos, optó por firmar con el Málaga, permaneciendo 5 temporadas en el club andaluz (3 en Primera y 2 en Segunda), en las que jugó un total de 112 encuentros y anotó un gol.

José Arnau se retiró del fútbol en activo en 1954 y falleció en Valencia el 6 de enero de 1992, a la edad de 74 años.