Die LR44 hat 1,5V und das Modul zieht nicht viel Strom.
Du könntest mal versuchen, zwei Dioden (nein, keine LED, sondern Kleinsignaldioden wie z.B. 1N4148 ) in Reihe zu schalten und mit Vorwiderstand (hier wieder wie bei den LEDs) an das Netzteil zu hängen.
Über den Dioden müssten so 1,2V bis 1,4V anstehen, die Du ans Spannungsversorgung für das Modul nimmst.
Statt den zwei 1N4148 (Conrad-Preis: 5 Cent/Stück) kannst Du auch eine ZTE1,5 nehmen (Conrad 180459, ca. 50 Cent)
Kontaktschaum?? Nie gehört, ich kenne nur diese Gummi-Kontaktstreifen...
Wenn das Display keine angeklemmten Metall-Kontakte hat sondern nur die auf das Glas aufgedampften Leiterbahnen herausführt, wird der abgesetzte Betrieb mechanisch sehr schwierig.