• Авторизация
Дневник Воробей_из_Питера Лента друзей - Дневник - Полная версия


о калькуляторах... 23-10-2009 19:02 к комментариям - к полной версии - понравилось!


тьфу...
как могут три калькулятора при вычислении одной и той же величины выдавать 3 разных результата????? и при том каждый раз разный...
они что результат постоянно умножают на какую нибудь квадратичную функцию времени????
вверх^ к полной версии понравилось! в evernote
Комментарии (6):
Daria_A_Daria 23-10-2009-20:09 удалить
такое часто бывает!!))
у меня из 12 компьютеров, 8 показывают разные результаты в одной из программ..
Обратиться - Ответить - К полной версии
Воробей_из_Питера 24-10-2009-00:00 удалить
Темная_Королева, я узнал почему...
2 калькулятора были восьмизначными...
но один девятую цифру "5" округлял в сторону большего, а второй в сторону меньшего...
отсюда погрешность...
а заданнй задаче нужно было считать очень мелкие погрешености, и это округление в разные стороны оказалось существенным...
ну а третий был просто инженерным, 16-значиным, но я неправельно его запрограмировал...
так что всё хорошо...
Exsel рулит)))
Обратиться - Ответить - К полной версии
Daria_A_Daria 24-10-2009-00:04 удалить
я наверное с раза 8 врубилась что ты написал..
я по ходу вообще отупела за последний месяц...
Обратиться - Ответить - К полной версии
little_bit_of_love 24-10-2009-01:08 удалить
странная реакция, но я поржала над этим xDD
молодец, что разобрался))
Обратиться - Ответить - К полной версии
Воробей_из_Питера 24-10-2009-09:27 удалить
Неформальная_Волчица, чё в ней странного?
а что мне остаётся делять, кроме как разбираться?
Обратиться - Ответить - К полной версии


Комментарии (6): вверх^

Вы сейчас не можете прокомментировать это сообщение.

Дневник о калькуляторах... | Воробей_из_Питера - Сушествую не живя | Лента друзей Воробей_из_Питера / Полная версия Добавить в друзья Страницы: раньше»