Нужны советы про данные(числа)
-
- interested
- Сообщения: 3
- Зарегистрирован: 21 апр 2020, 12:07
- Версия LabVIEW: 8.5
- Контактная информация:
Нужны советы про данные(числа)
Я делаю виртуальную лабораторию для студентов .Там все работает кроме лампочки.Я думаю проблема в числах которые после запятой выходят семь или восемь цифр .Мне надо после запятой сделать три или четыре цифры .Я даже туда добавил конвертацию цифр 'SGL' но оно тоже не помогает. Пожалуйста можно только скрины у меня старая версия лабвью а новую комп не тянет.
Заранее спасибо-
- professor
- Сообщения: 3409
- Зарегистрирован: 31 июл 2011, 23:05
- Награды: 2
- Версия LabVIEW: 12-18
- Благодарил (а): 49 раз
- Поблагодарили: 176 раз
- Контактная информация:
Re: Нужны советы про данные(числа)
Не понятно, что за лампочки у вас не работают, но в коде есть много странностей
Зачем 10 000 раз повторять запись в индикатор? тут же самое, да ещё лишний N задан, потому что автоиндексация сама всё сделает. Странно сравнивать булевскую с булевской, чтобы подать результат на селектор. Если выкинуть сравнение, результат будет ровно тот же. Ну и совсем странно перед сравнением ухудшать точность до sgl (при том что второе сравниваемое явно dbl) Подозреваю, что вопрос именно про это.
"Плавающие" числа бесполезно так сравнивать. Почти наверняка получите "не равно".
Проверять надо с заданной точностью
Зачем 10 000 раз повторять запись в индикатор? тут же самое, да ещё лишний N задан, потому что автоиндексация сама всё сделает. Странно сравнивать булевскую с булевской, чтобы подать результат на селектор. Если выкинуть сравнение, результат будет ровно тот же. Ну и совсем странно перед сравнением ухудшать точность до sgl (при том что второе сравниваемое явно dbl) Подозреваю, что вопрос именно про это.
"Плавающие" числа бесполезно так сравнивать. Почти наверняка получите "не равно".
Проверять надо с заданной точностью
-
- interested
- Сообщения: 3
- Зарегистрирован: 21 апр 2020, 12:07
- Версия LabVIEW: 8.5
- Контактная информация:
Re: Нужны советы про данные(числа)
Мне надо чтобы когда цифры совпадают горела лампочка.Если надо могу скинуть полную дипломку. Там правда еще страннее .
Последний раз редактировалось Адильбек 18 май 2020, 19:33, всего редактировалось 2 раза.
-
- professor
- Сообщения: 3409
- Зарегистрирован: 31 июл 2011, 23:05
- Награды: 2
- Версия LabVIEW: 12-18
- Благодарил (а): 49 раз
- Поблагодарили: 176 раз
- Контактная информация:
Re: Нужны советы про данные(числа)
я уже написал, что нужно сделать, чтобы цифры "совпадали".
Арифметика с плавающей запятой страдает тем, что с виду одинаковые значения совершенно не одинаковые в последних битах. Из-за этого точное равенство мало когда достижимо.
-
- Похожие темы
- Ответы
- Просмотры
- Последнее сообщение