Érettségi után műszaki rajzoló volt, majd három évig aknászként szolgált a határőrségnél a déli határvidéken, s a laktanyai élet, a gyakori riadók és a megtörtént tragédiák írói pályájának meghatározó élményei lettek. Leszerelése után a Szabad Hazánkért és a Néphadsereg című lapok munkatársa lett. Első, 1954-ben megjelent Garabonciás diák című kötetében elbeszélő költemények és verses mesék kaptak helyet, de Gáll felismerte, hogy a líra nem az ő műfaja. 1958-ban a Magyar Rádió dramaturgja lett, 1968-tól rajzfilmdramaturgként dolgozott, 1971-ben az Új Írás című laphoz került. Nehezen alkotott, műveit sokszor átírta, csiszolgatta, míg a végső formát megtalálta.
Első regénye, a Patkánylyuk 1961-ban jelent meg, s minden hiányossága ellenére is pontos környezetrajz, jól érzékelteti a kor nyomasztó atmoszféráját. Az 1962-es Kétpárevezős szerelemben elbeszélés-ciklussal kísérletezett, a ciklikus szerkesztésre, a visszatérő szereplők és a különböző kérdések sajátos elrendezésére későbbi munkáiban is akad példa. Szereplői munkások, bányászok, pártmunkások, katonatisztek, galeri-tagok voltak, közéleti kérdéseket - sztrájkszervezés, határátlépés, üldöztetés, éjszakába nyúló pártértekezlet - boncolgatott, a magánélet, a szerelem, az érzékiség nem kapott helyet műveiben. Ezért hatott meglepetésként 1970-ben Napimádók című regénye, amelyben egy idillikus szerelmi, házastársi kapcsolat történetét elevenítette meg.
1975-ben jelent meg Az öreg című kisregénye, főhősében, a régi munkásmozgalmi harcosban a társadalomért tenni akaró, tisztességes, de a csalódásoktól megkeseredett magányos ember lélektanilag is hiteles alakját ábrázolta. A kisregény sikerét jóval felülmúlta az egy évvel később megjelent A ménesgazda, Gáll legérettebb, legkiforrottabb műve. A személyi kultusz időszakát, az ötvenes évek elejének fojtogató légkörét, a háború előtti világ jellegzetes figurái és a munkáskáderek közötti konfliktust az író rendkívül plasztikusan és hitelesen érzékeltette. A műből 1977-ben Kovács András készített sikeres filmet.
Az 1980-as Vaskor novelláiban a roncsoló politikai mechanizmus hiteles és igen pontos bemutatására vállalkozott. A ciklus egy részében a határőrségnél töltött időszak élményanyagát dolgozta fel, utolsó három novellájában pedig családjáról, ifjúságáról vallott. Gáll nagy figyelmet fordított a feltörekvő írónemzedék munkáira, új írókat mutatott be miniportrék formájában, részt vett a fiatal írók műveiből összeállított antológiák szerkesztésében, bábáskodott a Mozgó Világ elindításánál. Két ízben (1967, 1976) József Attila-, 1978-ban pedig Kossuth-díjjal tüntették ki.
A gyermekkorától súlyos izületi betegséggel, Bechterew-kórral küzdő író egy otthoni baleset következtében halt meg 1982. október 20-án. Halála után két elbeszéléskötetét is kiadták, Nő a Körúton címmel drámakötete is megjelent.