1935-ben a Lenini Komszomol Színház tagja lett, s hamarosan a filmvásznon is feltűnt. 1939-ben Chaplin-számával megnyerte az esztrádművészek össz-szövetségi versenyét, a Nagy Honvédő Háború alatt a fronton lépett fel, a háborút követően külföldön is sokszor vendégszerepelhetett.
Jellegzetes humora leginkább konferansziéként bontakozott ki, eltérő jellemeket személyesített meg, görbe tükröt tartva az ellentmondásos világ elé. Milliók nevettek és sírtak szatirikus, a pantomim és a drámai monológ elemeit felhasználó műsorain, amelyeknek hősei a valós életből vett figurák voltak. Előadásait szívesen látogatták a szovjet vezetők, nagy rajongója volt a szovjet bürokrácia ellen harcot indító Nyikita Hruscsov is. A modern Oroszország is "köszönhet" neki valamit: Vlagyimir Putyin elnök szülei Rajkin egyik előadásán találkoztak először. Egy mondás szerint a Szovjetunióban "a legértékesebb nem hivatalos fizetőeszköznek" egy Rajkin-előadásra szóló belépőjegy számított, Rajkint és társulatát sokszor küldték mintegy szelepként a Szovjetunió olyan vidékeire, ahol feszültségek mutatkoztak.
Rajkinnak voltak ellenségei is: rendszeresen kapott (természetesen névtelen) antiszemita leveleket, a leningrádi káderek szovjetellenesnek tartották. Szerencséjére Hruscsov utóda, Brezsnyev is kedvelte és társulatával Moszkvába hívta. Szatírába illik, hogy Rajkin monológjainak jelentős részét az a Mihail Zsvanyeckij írta, aki szovjetellenesnek tekintett humora miatt jószerivel csak közönségtalálkozókon szerepelhetett. A Rajkin nevével összeforrt Szatyirikon színház felépítése is rajkini paródiába illett: egy épülő, majdnem kész mozit alakítottak át színháznak, de mellette felépítettek egy új mozit...
Rajkin külföldi fellépésein ügyelt arra, hogy a helyi közönség nyelvén is megszólaljon. Magyarországon először 1961-ben járt, utoljára 1986-ban. Azóta is legendásak jellegzetes akcentusával magyarul mondott szavai: válámi ván, de ném áz igázi, avagy a nyúlról szóló monológ: á nyúl el-szem-te-lene-dett.
Rajkin, aki szovjet emberek nemzedékeinek segített abban, hogy átvészeljék a nehéz időket, 1987. december 23-án halt meg Moszkvában. Megkapta a Szocialista Munka Hőse kitüntetést, a Szovjetunió Lenin-díjas kiváló művésze volt; 90. születésnapja tiszteletére bélyeget adtak ki portréjával.
