José de Anchieta nasceu no dia 19 de março de 1534, em Tenerife, Ilha do Arquipélago das Canárias, Espanha. Era um dos doze filhos de João López de Anchieta e de Mência Diaz de Clavijo y Llarena. Foi batizado em 7 abril de 1534, na Paróquia de Nossa Senhora dos Remédios, atual Catedral de San Cristóbal de La Laguna, de onde seu pai era prefeito.

José viveu com a família até aos quatorze anos de idade, quando se mudou para Coimbra, Portugal, para estudar filosofia no Real Colégio das Artes e Humanidades, anexo à Universidade de Coimbra. Ali, em 1 de maio de 1551, entrou como noviço da Companhia de Jesus. Mas, pouco tempo depois, foi acometido por uma tuberculose óssea, que lhe causou uma escoliose. Como último recurso, os médicos aconselharam-lhe a partir para o Brasil, onde o clima era mais saudável.