Karim Ziani est né le 17 aout 1982 à Sèvres dans les Hauts-de-Seine dans une famille originaire de la Kabylie.
En 1995, Karim intègre au début de sa carrière les équipes jeunes du Racing club de France, puis en 2001, il rejoint Troyes avec qui il signe son premier contrat professionnel.
Par ailleurs, Karim fait sa première sélection avec l'Équipe Nationale d'Algérie en février 2003, contre la Belgique.
Après une période de prêt passé avec le FC Lorient en 2ème division, le club Breton décide de recruter le jeune milieu de terrain pour la saison 2005-2006. A la fin de la saison FC Lorient remonte en Ligue 1 et Karim Ziani, reçoit le prix du meilleur joueur de Ligue 2.
En ao˚t 2006, Karim choisit de signer pour FC Sochaux-Montbéliard pour une durée de 3 ans. L'année qui suit il remporte avec son club la Coupe de France contre l'Olympique de Marseille et réalise sa saison la plus aboutie depuis le début de sa carrière.
Pendant 2 années successives (2006 et 2007), Karim fut désigné Ballon d'Or en Algérie (El Heddaf/Le Buteur).
Après une belle saison passée avec Sochaux, Ziani signe un contrat en juin 2007 avec Marseille, d'une somme de 8 millions d'euros pour une durée de 4 ans. Il restera deux ans dans la cité phocéenne en alternant le bon et le moins bon. Il rejoint ensuite la Bundesliga 1 l'été 2009 et signe en faveur du VLF Wolfsburg sans parvenir ‡ s'y imposer véritablement, freiné notamment par une pubalgie tenace qui l'empêchera de jouer ‡ son meilleur niveau.
Il dispute sa première Coupe du Monde avec les Vers en juin 2010 sous les ordres de Rabah Saadane et s'impose comme le patron de l'Èquipe depuis ses dÈbuts en 2003.
Il signe ensuite en Turquie, Ã Kayserispor, en janvier 2011 et y gagne rapidement sa place en milieu de terrain.