En el año 1885 nació José Simón Ramírez de Galarreta y Pernías, creció en el taller de su padre y con él aprendió el oficio. Además de guitarrero, era guitarrista y, a los 20 años, fue contratado para hacer una gira de dos años por Sudamérica.
Le costó mucho convencer a su padre para que le diera permiso para aceptar el contrato, pero finalmente lo consiguió dado que dos años no era demasiado tiempo. Sin embargo, la gira se fue prolongando y esos dos años se convirtieron en casi 20, ya que, una vez que la rondalla con la que viajó se disolvió, decidió quedarse en Buenos Aires.
Allí conoció a la española Blanca, quien más tarde sería su mujer. Tuvieron dos hijos: José y Alfredo.
En 1923 recibió la noticia de la muerte de su padre y decidió regresar a Madrid con su familia. Dos años más tarde se hizo cargo de la guitarrería ubicada en la calle Concepción Jerónima número 2.
En aquellos momentos, la tienda, que estaba en la planta baja, era atendida por Jesús Martínez, mientras que en el taller, situado en el piso de arriba, trabajaban: Alfonso Benito y Antonio Gómez como oficiales; Marcelo Barbero, aún como aprendiz; y Manuel Rodríguez -de sobrenombre “Marequi”- como barnizador.
José Ramírez II fue también un maestro reconocido, por ello obtuvo en el año 1923 la Medalla de Oro en la Exposición Iberoamericana de Sevilla. Por desgracia, en el año 1936, a los muchos males que trajo consigo la Guerra Civil española, se sumó la dificultad para conseguir materiales y maderas destinados a la construcción de guitarras (situación que se mantuvo durante mucho tiempo después de la contienda).
Aquella escasez fue la causa principal de las discusiones con su hijo José Ramírez III, cuando este alcanzó el nivel de oficial y empezó a hacer sus experimentos.