José Rosa nasceu em Petrópolis, no Rio de Janeiro em 1846, na fazenda dos Coutos de Magalhães.
Como escravo, seus recursos para aprender a ler e escrever eram escassos. No entanto, os pedaços de baraúna improvisava o lápis para escrever no chão ou na casca de bananeira. Sua professora era a sinhá, que quando viajava para a cidade, trazia cartilhas novas que o escravo logo procurava ler. Com o tempo, o escravo conseguiu ler os jornais que o sinhô trazia para casa; como era muito trabalhador para seus senhores era considerado uma pessoa da casa.
O movimento pela libertação era assunto em todos os jornais e José Rosa, acompanhava tudo o que era escrito sobre a abolição da escravatura por Joaquim Nabuco, José do Patrocínio e José Bonifácio.
No dia 13 de maio de 1888, a nostalgia das senzalas foi trocada por uma alegria jamais vista. Todos os homens seriam livres para trabalhar onde quisessem e deviam receber pelo trabalho.
Foi nesta etapa da vida que José Rosa resolveu vir para São Paulo e começou a trabalhar como oleiro na olaria de Pedro Cristi, bairro de Pinheiros. Lá ficou até 1900, quando veio para Osasco trabalhar na fazenda Carapicuíba, de propriedade do coronel Delfino Cerqueira. A sede ficava no alto do jardim das Flores onde hoje está a caixa d’água.
Trabalhou na construção do Quartel de Quitaúna. Depois conseguiu se instalar em um terreno no bairro do Munhoz Jr., que pertencia ao Estado. E costumava argumentar: “aqui, o barro é muito bom e eu continuo a fazer tijolos. Assim não esqueço da minha profissão”.
Zé Rosa morreu em 1976 em Osasco aos 130 anos como a pessoa mais velha do Brasil.