Hex Berechnungsfehler?

NoUse4aNick

Mitglied
Guten Nachmittag,

Ich verzweifle hier gerade an meinem VB berechnungsprogramm.

Mir wurde die Aufgabe gestellt das ich ein Programm schrieben soll, welches mit Hex Werten Rechnen kann.

0x980433D5 * 0x41C64E6D + 0x6073 ist die gleichung welche gelöst werden soll.

Berechne ich das per Hand, Taschenrechner oder PHP bekomme ich 0x270ED2FB2D535824 als Ergebniss, was auch stimmt. vb allerdings spuckt mir jedesmal 0xE548848E2D534F9 aus.

Folgende codes habe ich bereits versucht:
Code:
Dim sErg As String
sErg = CDec(&H980433D5) * CDec(&H41C64E6D) + CDec(&H6073)

Code:
Dim sErg As String
sErg = &H980433D5 * &H41C64E6D + &H6073

Woran kann das liegen, das VB immer abweichende werte bekommt? ( das gilt für alle Rechnungen in diesem Größenbereich)

Ich benutze VB 6 habe es aber auch im .net versucht wo das Resultat das selbe ist.

lg
 
Zurück