Mittlerweile ist es ja so das wir große mengen an RAM und HDD kapazität haben

Das Problem bei 32Bit ist der Adressraum. Grob gesagt kann man mit 32Bit theoretisch nur 4GB adressieren. Um mehr Speicher adressierbar zu haben muss das OS den Speicher in Pages aufteilen die Adressen entsprechend umrechen usw. Da hat der Prozesser dann entsprechend viel zu tun. gerade wenn das OS das alles verwaltet nur mit 32Bit Adressen arbeitet. Es muss also alles in den 32Bit Adressraum gemappt werden.
Die Anwendungen profitieren dadurch das die Speicherzugriffe etwas schneller werden und die Compiler effektiveren Code erzeugen können.
Bei 32Bit Software die mit long (64) bit Zahlen rechnet ist es so das sozusagen 2x eine 32bit Zahl mit nullen aufgefüllt wird und durch den Prozessor geschickt wird, anschließend werden beide Erbnisse wieder zu der erforderlichen 64bit Zahl zusammenkopiert. Das ist natürlich nicht so effektiv als wenn man direkt ne 64bit zahl als ergebniss bekommt.
Richtig bermerkbar macht sich das halt bei sachen wie Netzwerk, Verschlüsselung, Audio, Video,.. also da wo viele Daten verechnet werden.
Und aktuelle Office Versionen gibt es doch in 64Bit. Es dauert halt ne weile bis man alte Software so umbaut das die nativ mit 64Bit laufen.