Interessante! Osservo solo una cosa: una cifra di un carattere ASCII
(esteso?) può andare a 0 a 9 (visto che si parla di 3 cifre, SUPPONGO
che venga espresso in base 10). 9 in un byte può rappresentare uno
scostamento significativo sul valore R, G o B al quale viene applicato,
per cui si intruduce una quantità di "rumore" che penso possa essere
anche visibile ad occhio nudo. Non sarebbe più pratico "scomporre" bit
per bit il byte da criptare, "spalmandolo" su 8 byte dell'immagine? In
questo modo lo scostamento massimo sarebbe 1/255 (il bit sarebbe per
forza di cosa 0 o 1) e, credo, pressoché non rilevabile a occhio nudo.
E' ben vero che sarebbe necessario più spazio, ma questo non dovrebbe
essere un problema.

Cosa sono le 3 cifre dei caratteri?