Sinh ra ở vùng Basque thuộc Tây Ban Nha, José de Azpiazu bắt đầu học Guitare năm 13 tuối với người thầy dạy đầu tiên là chú của ông - Ngay từ khi còn trẻ, Azpiazu đã được mời biểu diễn tại các đại nhạc hội ở San Sebastian.  Ông đã đạt thành công đáng kể trong việc biểu diễn độc tấu Guitare, nhưng đồng thời vẫn dành phần lớn thời giờ rảnh cho hội họa, là một tài năng khác của ông.  Năm 1929, Azpiazu đã chiếm giải nhất về thiết kế và hội họa thuộc trường phái hiện đại ở San Sebastian.  Ông cũng là người hoạt động tích cực trong Hội nghiên cứu truyền thuyết dân gian vùng Basque.

Năm 24 tuổi, Azpiazu chơi guitar cho Radio Bilbao và ông bắt đầu cuộc đời biểu diễn guitare chuyên nghiệp.  Chẳng bao lâu sau, ông đã gác bỏ những hoạt động khác để dành trọn thời gian cho cây guitar và đã trình diễn khắp Tây Ban Nha trong nhiều năm.  Vì cuộc Thế Chiến thứ hai nên mãi đến năm 1950 ông mới bắt đầu có cơ hội trình diễn ở nước ngoài.  Ông đã thực hiện thành công những buổi biểu diễn ở Thụy Sĩ và xuất hiện trong nhiều chương trình phát thanh.

Khi ở Genève ông quen với họa sĩ Andrés Segovia Jr, và sau đó được giới thiệu với người cha là danh cầm Andres Segovia.  Segovia có ấn tượng tốt đối với Azpiazu và đã tiến cử José de Azpiazu làm giáo sư Guitar tại "College of Music" ở Genève.  Azpiazu cũng là một người cải biến và sáng tác cho Guitar đầy tài năng. Ttập "Azpiazu's Suite in C" đã chiếm giải nhất trong cuộc thi quốc tế 1954 tổ chức ở Modena, Italy.