Дебилизм какой-то..

drums2004

08.04.2009 - 02:14

Две самописки. Из одной по ОЛЕ обращаюсь к документу в другой . В документе в строчной части реквизит "Количество" формата Ч10.3. В документе глазами видно - в поле Количество число 5.6 . Прога выдает
Сообщить(Док.Количество);
5.599999999999999999
Это как понимать ?
Движок 25 .

К списку тем

1 >

К списку форумов

Интересные темы

odines.ru

21.11.2024 - 13:44

Смотри также:
реквизит типа "Документ"
Есть ли возможность развернуть наименование колонки
помогите отловить "Ошибка при выполнении команды"

Re: Дебилизм какой-то..

Барчук

1 - 08.04.2009 - 02:52

Как побочных эффект ОЛЕ, нет там такого типа как число с фиксированной точкой. Погрешности перевода так сказать )). 7.7 тут ни при чем.

Re: Дебилизм какой-то..

pit

2 - 08.04.2009 - 02:54

Чувствуется почерк настоящего дятлоЭсника... Большого... Неотвратимо наезжающего на бетонный столб, как автомобиль Крас.... И сносящего нужный столб...

P.S. если тебе знакомо словосочетание - переменные типа вариант.... тогда вопросов бы не было....

Re: Дебилизм какой-то..

Барчук

3 - 08.04.2009 - 02:56

(2) Настоящим одинэсникам вообще не знакомы типизированные переменные. Это только предатели с++ и паскаля что то помнят )).

Re: Дебилизм какой-то..

pit

4 - 08.04.2009 - 02:56

1-Барчук > Это не только тетя Оля.... Это еще и бабушки - баба Зина, баба Глаша и тетя Даша... которые живут в платформе

Re: Дебилизм какой-то..

pit

5 - 08.04.2009 - 02:58

3-Барчук > понаехали тут ....в нерезиновую....

Интересные темы

odines.ru

21.11.2024 - 13:44

Смотри также:
Журнал регистраций
отсутствует интерфейс IInitDone.....
Не получается проверить 2НДФЛ :(

Re: Дебилизм какой-то..

Железяка

14 - 08.04.2009 - 03:30

Все это очень интересно, но к теме ветки никак.

Re: Дебилизм какой-то..

МимохожийОднако

15 - 08.04.2009 - 03:31

(0)Округли

Re: Дебилизм какой-то..

drums2004

16 - 08.04.2009 - 06:41

(15) хмм .. до чего округлять то ? например 3.12 так и передается 3.12
(2) не умничай :) .. может в 1С по твоему освобождение памяти как в С вставить ? не для того его писали ..

Re: Дебилизм какой-то..

Vacony

17 - 08.04.2009 - 06:49

(16) писали то не дл ятого, хотели ведь как лучше... а вышло что имеем...

Re: Дебилизм какой-то..

Jimbo

18 - 08.04.2009 - 13:30

окр(Док.Количество * 1000)/1000

Re: Дебилизм какой-то..

19 - 08.04.2009 - 15:53

Интересно, в ВУЗах теперь понятия машинных нулей и единиц не дают?

Re: Дебилизм какой-то..

drums2004

20 - 08.04.2009 - 18:09

(18) и что получится ?
(19) это ты к чему ?
Что интресно .. смотрел - например 5.08 в поле - так и выплевывает - 5.08, 3.12 - 3.12 ну и т.д. а вот 5.6 - выдает 5.5999999999999 ..что за такая магия чисел ?

Re: Дебилизм какой-то..

Ужас бухгалтера

21 - 08.04.2009 - 18:33

(20) http://www.ibm.com/developerworks/ru/library/j-jtp0114/index.html

Re: Дебилизм какой-то..

Ужас бухгалтера

22 - 08.04.2009 - 18:36

(21+) http://en.wikipedia.org/wiki/Floating_point#Accuracy_problems

Re: Дебилизм какой-то..

drums2004

23 - 09.04.2009 - 01:42

(20) мдя ...
короче пошел кривым путем .. проверяю число на длину (больше 6) и только после этого округляю .. млин ..

Re: Дебилизм какой-то..

pit

24 - 09.04.2009 - 01:56

23-drums2004 > ну и .....

Re: Дебилизм какой-то..

slawa

25 - 09.04.2009 - 02:11

А просто ОКР(Док.Количество, 3) - не поможет ?

Re: Дебилизм какой-то..

Jimbo

26 - 09.04.2009 - 05:34

(25) - ну это уже если не поможет - а ведь по ходу не помогает по ОЛЕ
(20) а ты возьми и попробуй, мой код 5.6 из 5.5999 выдаст

Re: Дебилизм какой-то..

US1C

27 - 09.04.2009 - 07:18

А на 27 платформе не пробовал?

Re: Дебилизм какой-то..

pit

28 - 09.04.2009 - 08:19

одноЭсники в своем стиле.... (25-27)

Re: Дебилизм какой-то..

Jimbo

29 - 09.04.2009 - 08:35

(28) а ты хто ?

Re: Дебилизм какой-то..

pit

30 - 09.04.2009 - 09:10

29-Jimbo > я? Главный статистик по дятлам....

Re: Дебилизм какой-то..

31 - 09.04.2009 - 09:24

Хотя бы поинтересовались, сто есть COM соединение...
Хотя бы поинтересовались, в каком виде процессор получает вещественное число, чтоб быть в состоянии произвести над ним арифметическую операцию...
Хотьбы поняли, что формат числа в ОЗУ, и формат числа в записи БД - это две разные сущности...

Хотите избавиться от "девяток" - округляйте. Формат представления (а следовательно, точность представления) тоже можно получить по OLE...
И ни в коем случае не вздумайте задуматься о внутреннем представлении полученного значения. Войдете в неприрывный цикл и свихнетесь...

Re: Дебилизм какой-то..

ELEA

32 - 09.04.2009 - 10:02

29, он главный дятел...

Re: Дебилизм какой-то..

pit

33 - 09.04.2009 - 14:25

(32) дятел - это ты... рядовой посетитель. А я счетовод, веду учет птицев по уровню .....

Re: Дебилизм какой-то..

Железяка

34 - 09.04.2009 - 14:32

(33)четвертой не будет.

Re: Дебилизм какой-то..

bvk

35 - 09.04.2009 - 15:59

(34) Не переживай, у него еще с "тазиком" есть.:)

Re: Дебилизм какой-то..

drums2004

36 - 09.04.2009 - 17:05

ну вы блин даете :)
Тема то так себе а вы флейм такой развели :)
А насчет (2) - pit'у - я в свое время на банковском языке RSL прогил .. там столько типов данных - тебе в страшном сне не снилось :)