Édesapja a szeghalmi zsidó elemi iskola tanítójaként tevékenykedett. A négy polgári osztály elvégzését követően kárpitos segédlevelet szerzett és 1922-ben belépett a Famunkások Szakszervezetébe. 1926-tól az illegális Kommunista Ifjúmunkások Magyarországi Szövetsége és a Kommunisták Magyarországi Pártja tagja, 1927-től a KIMSZ KB titkára. 1929 februárjában letartóztatták és két év börtönre ítélték. Kiszabadulása után ismét a KIMSZ titkáraként tevékenykedett. 1932-ben hat hónapot töltött Berlinben a Vörös Szakszervezeti Internacionálé nyugat-európai irodájában, mint gyakornok, majd Moszkvában került, ahol 1933 és 1935 között a Nemzetközi Lenin Iskola hallgatója volt. Hazatérését követően a KMP budapesti bizottságának titkárává választották. 1936-ban másodszor is letartóztatták és tizenöt év fegyházra ítélték. 1944 végén a nyilas hatóságok a börtönből próbálták meg deportálni, de sikerült megszöknie a Németországba tartó vonatról. 1945-ben a Magyar Kommunista Párt KV Tömegszervezési Osztály helyettes vezetője. 1946 elejétől 1948-ig a Káderosztály politikai munkatársa. 1948-ban a Kinevezési és Alkalmazási Bizottság főtitkára. 1950 közepén kinevezték az Állami Ellenőrzési Központ elnök-helyettesévé, melynek 1951-től lett az elnöke. 1949. május 15-én a Magyar Függetlenségi Népfront Vas megyei listáján országgyűlési pótképviselő, behívására 1951. május 16-án került sor. 1953. május 17-én a budapesti választókerületben ismét mandátumot szerzett. 1955-től az állami ellenőrzési miniszter helyettese. 1954-től az MDP Központi Revíziós Bizottság tagja. Külügyminiszter-helyettessé 1956. április 19-én nevezték ki. 1959. augusztus 16-ától Magyarország bécsi követe, 1964. december 16-ától 1966-ban bekövetkezett haláláig nagykövete volt.

A hagyaték a Kádár-rendszer két politikailag rendkívül érdekes időszakát dokumentálja. Az egyik a Kádár János vezette párt és kormányküldöttség 1958 februárjában lezajlott romániai látogatása, melynek történései alapvetően meghatározták az 1956-os forradalom utáni magyar külpolitika viszonyulását az erdélyi magyarsághoz, a másik pedig a forradalom után teljesen befagyott magyar-osztrák kapcsolat évekre elhúzódó konszolidációjának folyamata, mely a „külügyminiszterek találkozóján” Péter János magyar külügyminiszter Bruno Kreisky osztrák külügyminiszternél tett látogatásával zárult le 1965 áprilisában. Sebes István az 1958-as delegációba, mint külügyminiszter-helyettes került be és a román féltől reprezentációs ajándékként kapott fénykép-albuma mindenképpen kuriózumnak számit. Az osztrák-magyar viszony alakulását pedig Sebes István, mint bécsi magyar követ, illetve nagykövet asszisztálta végig, ezért a hagyaték számtalan fontos politikai és reprezentációs alkalom eseményeit bemutató fotót őriz 1966-ig tartó szolgálati idejéből. Ilyenek például Bruno Kreisky első, 1962-es látogatása a Bankgasse-n, vagy Fock Jenő, a Minisztertanács elnökhelyettesének Bruno Pittermann osztrák alkancellár meghívására történt 1964. júliusi bécsi utazása, mely mintegy hivatalosan is bevezette Bruno Kreisky 1964. októberi budapesti fogadását. Részletes fotódokumentáció őrzi a hagyatékban a „külügyminiszterek találkozóját”, de a politikai legitimációt a magyar kultúra világhírű képviselőinek (Kodály Zoltán, Ferenczy Béni, Domanovszky Endre) személyével is megtámogatni kívánó törekvések is jól tetten érhetők a fényképeken.