Une équipe de physiciens théoriciens du secteur Sciences Physiques et Mathématiques (SPM) du CNRS, rejoint le laboratoire en 2001, et constitue un groupe de recherche, le « GReCO » (Gravitation et Cosmologie), sous le label de « Formation de recherche en évolution » (FR 2435). Ces physiciens travaillent sur les théories de la cosmologie primordiale et de la gravitation, ouvrant des angles de recherche complémentaires à ceux de l'astrophysique et de la cosmologie observationnelle, traditionnellement étudiées dans le laboratoire au sein du secteur Sciences de l'Univers (INSU).

En 2001, l'IAP rejoint l'Université Pierre et Marie Curie (Paris 6) et devient une unité mixte de recherche, l'UMR7095.

En 2005, Laurent Vigroux devient directeur de l’Institut d’Astrophysique de Paris. L’IAP et le GReCO fusionnent en une seule unité mixte de recherche CNRS-UPMC (UMR 7095).
Les équipes se structurent autour de six groupes de recherche :

• Physique Théorique : gravitation et cosmologie ;
• Grandes Structures et Univers profond ;
• Cosmologie et Astrophysique des Hautes Energies ;
• Origine et Evolution des Galaxies ;
• Physique Stellaire, Planétaire et Planètes Extrasolaires ;
• Exoplanètes et Milieu Interstellaire.

Par un décret du 30 novembre 2005, l’IAP obtient le statut d’Observatoire des Sciences de l’Univers et d’Ecole Interne de l’Université Pierre et Marie Curie. Le 24 novembre 2006, Laurent Vigroux est nommé, par arrêté ministériel, directeur de l’Observatoire Institut d’Astrophysique de Paris de l'Université Pierre et Marie curie, pour une durée de cinq ans.