Nació el 3 de febrero de 1948 en Estocolmo, Suecia, y se crió en las ciudades suecas de Sveg  y Borås. Aunque comenzó como dramaturgo (con veinte años ya era autor y ayudante de dirección para el teatro Riks de Estocolmo), ha escrito numerosas novelas de corte tanto juvenil como adulto, y es conocido sobre todo por la serie de libros centrados en el personaje del detective Kurt Wallander, que han sido traducidos a varios idiomas y llevados a televisión. En 2001 fundó, junto con el antiguo editor de Ordfront y de Norstedts, Dan Israel, su propio sello editorial, Leopard.

Ha residido durante muchos años compartiendo su hogar sueco con Mozambique, donde dirige el Teatro Avenida de Maputo. Su novela La falsa pista obtuvo el premio británico de novela negra Macallan Gold Dagger en el 2000. Sus obras destacan dentro del género de intriga ya que parecen ir más allá de lo meramente policíaco para expresar mensajes sociales: el paro, la inmigración y la inseguridad ciudadana suelen estar presentes en sus novelas. Está casado con Eva Bergman, hija del conocido cineasta Ingmar Bergman.