Rózsa Pál 1925-ben született Budapesten. Középiskolai tanulmányait a Toldy Ferenc gimnáziumban, egyetemi tanulmányait a Műegyetemen végezte, 1949-ben gépészmérnöki diplomát szerzett. 1949-ben a Miskolci Nehézipari Műszaki Egyetemen lett tanársegéd a Borbély Samu által vezetett Matematikai Intézetben, 1950-ben a Közoktatásügyi Minisztérium Felsőoktatási Főosztályára került, ahol a műszaki egyetemek alaptárgyainak előadója lett. 1951-1955 köztött az MTA Alkalmazott Matematikai Intézetében volt Egerváry Jenő aspiránsa, később tudományos munkatárs, illetve főmunkatárs, 1960-63 között Egerváry utódjaként a Mátrixelmélet és alkalmazásai csoport vezetője. 1963-68 között a KFKI Matematikai Főosztályát irányította. 1968-ban egyetemi tanárrá és a BME Építőmérnöki Kar Matematika Tanszéke vezetőjévé nevezték ki. 1978-ban átkerült a Villamosmérnöki Karra, ahol 1982-1990 között a Matematika Tanszéket vezette. 1974-86 között a BME Közművelődési Bizottságának elnöke is volt. 1995-ben történt nyugdíjazása óta a BME Villamosmérnöki és Informatikai Kar Számítástudományi és Információelméleti Tanszékének volt emeritus professzora. Kutatási tevékenységének középpontjában a mátrixelmélet és a numerikus módszerek, továbbá ezek műszaki alkalmazásai álltak. Mintegy 120 publikációjának több, mint a fele az elméleti fizika, a műszaki mechanika, a hidak és szerkezetek mechanikája témakörökbe nyúlik át, de vannak társszerzős dolgozatai az elektrotechnikával, geotechnikával, a szabályozáselmélettel és a vegyipari alkalmazásokkal kapcsolatban is. Ő kezdeményezte a Bolyai János Matematika Társulat „Numerikus módszerek” nemzetközi konferenciasorozatát. Több, mint 50 konferencián volt előadó, gyakran meghívott előadó.

Oktatási tevékenysége során mérnök, matematikus és fizikus hallgatók generációit tanította. Számos jegyzet, tankönyv szerzője, kiemelkedő a háromszor kiadásra került „Lineáris algebra és alkalmazásai” és a 2 éve megjelent "Bevezetés a mátrixelméletbe" című könyve. Több dolgozatban foglalkozott a matematika népszerűsítésével és a matematikaoktatás kérdéseivel is. Több amerikai és nyugat-európai egyetemen volt vendégprofesszor.

Munkásságát 1979-ben a Brnoi Masaryk Egyetem ezüstérmével, 1985-ben a Munka Érdemrend ezüst fokozatával, 1995-ben a Köztársasági Érdemrend tiszti keresztjével, 2005-ben az Egerváry emlékplakettel ismerték el.

Főbb kutatási területei: A mátrixelmélet és alkalmazásai a műszaki és természettudományok területén. Elsősorban strukturált mátrixokkal kapcsolatosan az inverz szerkezetére és a spektrális tulajdonságokra vonatkozó vizsgálatokat végzett. Főbb eredményei: Sávmátrixok inverzének a szerkezetét vizsgálva bevezette a szemiszeparábilis mátrixok fogalmát és blokkmátrixok vizsgálatára redukálta a feladatot. Periodikus kontinuánsok spektrális tulajdonságait vizsgálva meghatározta annak a feltételét, hogy a feladat egyszerűen faktorizálható legyen. A Sylvester-Kac mátrix spektál felbontására explicit előállítást adott, később kiterjesztette ezt a szinguláris értékek szerinti felbontásexplicit előállítására. Bevezette a tranzitív mátrixok fogalmát, amelyek segítségével döntéselméleti feladatok megoldását tette lehetővé. Az elméleti eredményeket széleskörűen alkalmazta az elméleti fizikában (többek között kristályrácsok rezgéseinek vizsgálatára), az elektrotechnikában (négypólus láncokon végbemenő tranziensjelenségek vizsgálatára, pl. távvezetékek esetén) , a vegyiparban ellenáramú szétválasztó műveletek esetén azelméleti tányérszám meghatározására, a műszaki mechanikában, valamint hídszerkezetek elméletében több szabadságfokú rendszerekre vonatkozó feladatok analitikus megoldására, az operációkutatásban döntéselméleti problémák vizsgálatára, amelyekben döntő szerephez jutott az ún. szimmetrikusan reciprokmátrixok tranzitív mátrixszal való legjobb közelítésének a meghatározása.