Josef Koudelka est né en 1938 à Boskovice en Tchécoslovaquie. Passionné de photos, il rencontre en 1961, Anna Favora, historienne de la photo, qui deviendra son amie et sa collaboratrice. Tout en exerçant son métier d'ingénieur en aéronautique, il poursuit un travail photographique sur les Gitans qui lui vaudra une reconnaissance internationnale.
En 1970, il s'installe en Angleterre. En 1971 il entre à l'agence Magnum. En 1986, il réalise pour la DATAR, des photos panoramiques sur les paysages ruraux et urbains en France.
En 1990 il rentre dans son pays natal et poursuit un travail sur les paysages dévastés par les exploitations minières et sidérurgiques.
Josef Koudelka est naturalisé français depuis 1980. Il vit à Paris et à Prague.