Visual Basic 6 - Problema calcoli Double

Forum - Visual Basic 6 - Problema calcoli Double - Pagina 2

Pagine: [ 1 2 ]

theprogrammer (Normal User)
Guru^2

Messaggi: 2509
Iscritto: 28/01/2009

Postato alle 15:03
Venerdì, 09/10/2009

Testo quotato

Postato originariamente da ilmettiu:
Comunque non son capace di usare Decimal

Codice sorgente - presumibilmente VB.NET

Dim v1 As Variant, v2 As Variant, r As Variant
    
    v1 = CDec(22.24)
    v2 = CDec(22.22)
    
    r = CDec((v1 - v2) / 2)
    
    MsgBox r

Alfonso (Ex-Member)
Guru

Messaggi: 688
Iscritto: 30/09/2009

Postato alle 15:59
Venerdì, 09/10/2009

CURRENCY 8 byte Un numero intero proporzionato compreso tra – 922.337.203.685,477,5808 e 922.337.203.685.477,5807.

Dim v1 As Currency, v2 As Currency, r As Currency

v1 = 22.24
v2 = 22.22
r = v1 - v2

MsgBox r

v1 = 22.2422
v2 = 22.22
r = v1 - v2

MsgBox r

v1 = 22.24
v2 = 22.2222
r = v1 - v2

MsgBox r

ilmettiu (Ex-Member)
Pro

Messaggi: 88
Iscritto: 17/09/2009

Postato alle 18:30
Venerdì, 09/10/2009

Ah, molto bene, ho sempre usato CInt, CStr, Cdbl... Ma non ho pensato, al tempo, di usare CDec

Visto che non funzionava, ho tranquillamente aggirato il problema. Ho usato Single al posto di Decimal. Quanto al problema attuale, invece, penso che sia la soluzione giusta: Un numero esagerato di decimali e, spero, più precisione di Double nelle sottrazioni. Currency mi sarà decisamente utile, ma non stavolta: 4 decimali sono spaventosamente pochi. Direi che il problema è risolto con successo, ragazzi... Grazie a tutti!

P.S.: Il calcolo è quello della semidispersione, sto progettando un programma da usare in laboratorio su notebook, per questo mi serve precisione. Me ne è appena stata bocciata una versione di prova, qui sul sito... E sono anche d'accordo, faceva un po' schifo

Pagine: [ 1 2 ]