Eric Von Schmidt nació el 29 de mayo de 1930, en Westport, Connecticut (Estados Unidos). Provenía de una familia de pintores y él mismo, además de cantautor, era un notable y reconocido pintor e ilustrador. Su vida cambió cuando escucha en la radio al bluesman Leadbelly y se anima a tocar la guitarra.
Estando en la Armada, destinado en Washington, descubre los fondos sonoros del departamento de folclore de la Biblioteca del Congreso. Tras un viaje a Italia, en 1958 se instala en Nueva York y comienza a actuar en los locales de la ciudad. Conoce a Joan Baez y a Bob Dylan, influyéndoles por su manera de interpretar. Graba su primer álbum en 1962, pero un año antes, Bob Dylan incluye en su estreno discográfico de título homónimo, «Baby, let me follow you down», canción escrita por Von Schmidt. Su relación con Dylan siguió en los años sucesivos.
Grabó discos hasta finales de los años 70, pero durante los años 80 y 90 se centró en su actividad gráfica. En 1995, dieciocho años después de haber publicado su último elepé, Von Schmidt regresó con el álbum de canciones nuevas Baby, let me lay it on you.
En 2000 se le diagnosticó un cáncer en la garganta. Falleció el 2 de febrero, por causas que no han trascendido, en su casa de Westport.