Рођен је у Зрењанину у јеврејској лекарској породици, а његови родитељи су убијени након немачке окупације 1941. године. Ивањи је преживео страхоте нацистичких концентрационих логора Аушвиц и Бухенвалд, о чему је касније писао у својим делима.
Током живота, Ивањи је написао импресиван број књижевних дела - 26 романа, неке на српском, неке на немачком, три збирке приповедака, три књиге поезије, драме, књиге за децу, мемоаре, есеје. Такође, био је веома активан и као преводилац, превео је дела познатих аутора попут Киша, Албахарија, Брехта, Борхерта, Граса, Бела, Енценсбергера, Јасперса.
Поред књижевног рада, Ивањи је имао значајну улогу у културном животу. Радио је као наставник нацртне геометрије, новинар, уметнички директор Савременог позоришта у Београду, заменик управника Народног позоришта, а био је и Титов преводилац за немачки језик. У периоду од 1974. до 1978. године, обављао је функцију аташеа за културу и штампу у југословенској амбасади у Бону. Такође, био је генерални секретар Савеза књижевника Југославије.
Иван Ивањи оставио је неизбрисив траг у српској књижевности и култури. Његово дело, како књижевно тако и преводилачко, остаје да сведочи о богатом животу и искуствима која је стекао. Време и место комеморације и сахране биће накнадно објављени, а Ивањи ће остати упамћен као важан део културне баштине.
Ово је само део легата који је Иван Ивањи оставио за собом, а његова дела ће и даље инспирисати и бити део књижевног наслеђа које ће се чувати и читати у годинама које долазе.