Dès 1923, une légation ouvre ses portes dans un palais afghan de Kaboul, quartier Deh Afghanan, avec à sa tête Maurice Fouchet, ministre plénipotentiaire.

Du 15 janvier 1943 à la fin de la Deuxième guerre mondiale, la légation doit fermer ses portes, les intérêts français sont alors confiés à la Turquie.

À sa réouverture en 1945, la légation est élevée au rang d'ambassade.

En mars 1967, l'ambassade acquiert une villa sur une parcelle de l'ancien parc royal rue Sadah Mohammed Hashim Kahn devenue avenue de Cherpour, quartier Chahr-e Nao. Les travaux de construction et de réaménagement durent un an. En mai 1968,  Georges Pompidou premier ministre, inaugure la nouvelle ambassade et la résidence.

En 1980, suite à l'invasion soviétique, les relations diplomatiques franco-afghanes sont interrompues et l'ambassadeur Georges Perruche, est rappelé à Paris. À partir de cette date et jusqu'en 2002, la représentation française en Afghanistan est confiée à un chargé d'affaires.  Il occupe  les locaux de l'ambassade jusqu'au 6 février 1989, date à laquelle l'ambassade ferme une première fois ses portes pour des raisons sécuritaires.  Le chargé d'affaire rejoint alors le bureau des ambassadeurs itinérants à Paris. Entre 1990 et 1992, les locaux de l'ambassade sont de nouveau accessibles, le chargé d'affaires s'y déplacera régulièrement sans toutefois s'y installer. L'ambassade fermera une 2de fois du 18 août 1992 au 27 novembre 1997. En 1999, le chargé d'affaires quitte le bureau des ambassadeurs itinérants et s'installe en résidence à l'ambassade de France au Pakistan (Islamabad).

Le 14 mars 2002,  la France rétablit des relations diplomatiques avec l'Afghanistan, un ambassadeur est nommé et l'ambassade est réouverte la même année. Après de grands travaux de restauration, d'agrandissement et d'embellissement, l'ambassade est de nouveau inaugurée le 18 juillet 2010 par monsieur Bernard Kouchner, ministre des Affaires étrangères et européennes.

Le 31 mai 2017, un attentat détruit l'ambassade d'Allemagne située non loin et souffle l'ambassade de France, elle est réduite de moitié. Le personnel s'installe dans des annexes et des constructions modulaires.

En 2019, l'équipe déménage dans l'immeuble Jefferson.

Le 15 août 2021, face à la dégradation de la situation sécuritaire en Afghanistan, les autorités françaises décident d'évacuer l'ambassade et se déplacer vers l'aéroport de Kaboul, suivra l'évacuation du personnel diplomatique et des ressortissants dans le cadre de l'opération Apagan..

En avril 2021, le niveau 2 du plan d'urgence et de sauvegarde est déclenché, les archives sont rapatriées au Centre des archives diplomatiques de Nantes (CADN) en l'état  (le 30 avril 2021).

Le 15 aout 2021, les locaux de l'ambassadde sont évacués, la direction des Archives déclenche le niveau 3 du plan de sauvegarde et d ?'urgence en demandant au poste de procéder à la destruction des archives restées sur place (voir la NDI-2021-0395074).