Syn inżyniera elektryka, żołnierza Armii Krajowej i Batalionów Chłopskich, Jerzego Karpia, i nauczycielki, Teresy z domu Ptak. Urodził się 2 lipca 1952 r. w Zamościu. W 1962 r., na skutek nacisków ze strony Służby Bezpieczeństwa, rodzina przeniosła się do Podkowy Leśnej i zamieszkała w domu przy ul. Cichej. Teresa Karpiowa została nauczycielką niższych klas w szkole podstawowej, do której uczęszczał też Marek.
Jego najbliższym przyjacielem w tym czasie był Sławomir Chaciński. Marek pasjonował się biologią, zbierał literaturę przyrodniczą, prowadził sumiennie zielniki, hodował w domu gady. Zorganizował w szkole konkurs przyrodniczy. Przy tym, jak wspomina Małgorzata Klisińska „miał dużą wiedzę ogólną”.
„Fascynacja przyrodą i wycieczki rowerowe Marka – pisze jego biograf, Andrzej Brzeziecki – o mały włos nie stały się przyczyną poważnych kłopotów rodziny Karpiów”. W 1966 r., z kolegami, skopiowawszy stary plan Podkowy Leśnej, postanowili uzupełnić go o nowe ścieżki. Na mapie znalazły się też obiekty wojskowe, rozmieszczone w Lesie Młochowskim. Na skutek donosu Służba Bezpieczeństwa rozpoczęła długotrwałą inwigilację podejrzanych.
W 1967 r. Marek Karp ukończył szkołę podkowiańską i rozpoczął naukę w liceum ogólnokształcącym w Milanówku. Po maturze zaczął studiować archeologię na Uniwersytecie Warszawskim, po pewnym czasie przeniósł się jednak na historię. Obronił pracę magisterską „Świadomość więzi ogólnopaństwowych i regionalnych w średniowiecznych mitach początków Polski”.
Wielokrotnie wyjeżdżał do rodziny w Londynie. Wydaje się, że znaczące w życiu Marka stało się spotkanie z przebywającym na emigracji wybitnym sowietologiem, Stanisławem Swianiewiczem, przed wojną współzałożycielem Instytutu Naukowo-Badawczego Europy Wschodniej.
Należał do grona najwybitniejszych znawców kwestii politycznych obszaru postsowieckiego (Ukraina, Białoruś, Kaukaz Południowy, Azja Centralna), a szczególnie Litwy (ze Żmudzi wywodziła się rodzina Karpiów). Wspierał aspiracje litewskie od chwili proklamowania przez republikę niepodległości, negocjował w sprawie napięć między Litwinami i mniejszością polską. Za zasługi na rzecz zbliżenia narodów polskiego i litewskiego otrzymał w 2000 roku Krzyż Oficerski Orderu Wielkiego Księcia Gedymina.
Często bywał w Podkowie Leśnej, najżywsze kontakty podtrzymywał z Bohdanem Skaradzińskim, Janem Jarco (także pracownikiem Ośrodka Studiów Wschodnich) i Ákosem Engelmayerem. Brał udział w organizowaniu „spotkań z autorem” w podkowiańskim kościele.
Zmarł 12 września 2004 r. na skutek obrażeń, których doznał w wypadku samochodowym; jego okoliczności nie wyjaśniono. Pochowany został na Cmentarzu Wojskowym na Powązkach. Pośmiertnie (wraz z OSW) przyznano mu Nagrodę im. Jerzego Giedroycia, a Ośrodek otrzymał jego imię. Nadano mu też Krzyż Oficerski Orderu Odrodzenia Polski (2004).