Ieee-754 – вопросы и ответы

72
голоса
2
ответа
Скажем, я должен хранить 2147483648 как float (а не как число с фиксированной точкой, например integer) в 32-битной системе. Для этого какова будет мантисса (значимость) и показатель? И как это чис...
6 лет, 3 месяца назад Parveez Ahmed
83
голоса
3
ответа
В соответствии с документацией в math.h есть функция fma() . Это очень приятно, и я знаю, как работает FMA и для чего его использовать. Однако я не уверен, как это реализовано на практике? Меня бол...
5 лет назад the swine
60
голосов
2
ответа
У меня есть достойное понимание того, как работает плавающая точка, но я хочу знать, как решались конкретные размеры экспонентов и мантисса. Насколько они оптимальны? Как можно измерить оптимальнос...
9 лет, 2 месяца назад monguin
52
голоса
1
ответ
У меня довольно теоретический вопрос: умножает ли y на 2 ^ x и вычитает y быстрее, чем умножение y на [(2 ^ x) -1] напрямую? (y*(2^x) - y) vs (y*((2^x)-1)) Я применил фильтр скользящей средней по н...
5 лет, 2 месяца назад luksen
77
голосов
1
ответ
Было объявлено , что (даже учитывая байтовую сущность) плавающая точка IEEE754 не может быть обменена между платформами. Итак: Почему, теоретически, плавающая точка IEEE не заменяется между платфор...
6 лет, 4 месяца назад Damien
60
голосов
1
ответ
Лучший способ, которым я нашел, чтобы создать decimal.Decimal число. decimal.Decimal число с определенным количеством значимых цифр - это тот, который использовался для инициализации переменной klu...
4 года, 2 месяца назад kjo
61
голос
1
ответ
Я работаю над сравнительным исследованием, в котором я должен провести сравнение серийных и параллельных версий алгоритма (алгоритм NSGA-II, если быть точным скачать ссылку здесь ). NSGA-II - эврис...
7 лет, 10 месяцев назад Abhinav
52
голоса
4
ответа
У меня есть двойной номер, я хочу представить его в 64-битной двоичной строке IEEE 754. В настоящее время я использую такой код: double noToConvert; unsigned long* valueRef = reinterpret_cast<un...
8 лет, 2 месяца назад jero2rome
-4
голоса
1
ответ
У кого-то есть код для преобразования из старого MSB в ieee (delphi real)? В google я основал только 4-битное преобразование, но не для 8 бит: function MBF2IEEE(MBFVal: Single): Single; var Output:...
8 лет, 2 месяца назад pragmatic_programmer
70
голосов
1
ответ
Я следил за этим скомпилированным кодом (я не знаю компилятора и не имею исходного кода). Sub1: mov edx,[esp+04h] and edx,00000300h or edx,0000007Fh mov [esp+06h],dx fldcw word ptr [esp+06h] retn М...
4 года, 6 месяцев назад barej
59
голосов
1
ответ
кто-то, кто может мне помочь, у меня есть следующий недостаток, чтобы ввести отрицательный десятичный двоичный файл, в этом случае введите -20 (11000001101000000000000000000000), который вызывает м...
6 лет, 11 месяцев назад David
84
голоса
1
ответ
Мне интересно, является ли макс поплавок представленным в IEEE 754: (1.11111111111111111111111)_b*2^[(11111111)_b-127] Здесь _b означает двоичное представление. Но это значение 3.403201383*10^38 , ...
7 лет, 10 месяцев назад Qiang Li
60
голосов
1
ответ
Я пытаюсь преобразовать 64-разрядное шестнадцатеричное число в float в PHP. 40F82C719999999A Если я запустил это на странице преобразования IEEE-754 с плавающей запятой по адресу http://babbage.cs....
4 года, 2 месяца назад SyntaxError
60
голосов
1
ответ
IEEE-754 64-битная двойная точность с плавающей запятой не может представлять целое число 9007199254740995 и вместо этого хранится 9007199254740996 . Почему не 9007199254740994 ? Мне интересно, как...
3 года, 4 месяца назад Max Wizard K
52
голоса
1
ответ
В csapp говорится: "Округление к четным числам позволяет избежать этого статистического предвзятости в большинстве реальных ситуаций. Оно будет увеличиваться примерно в 50% случаев и округлять вниз...
2 года, 7 месяцев назад Suden und Gelobnis des Gefalle
69
голосов
1
ответ
Если я выполняю операцию с плавающей точкой (одиночная точность) на хосте и устройстве (арка GPU sm_13), будут ли значения другими?
7 лет, 10 месяцев назад Abhinav
78
голосов
0
ответов
Я просто не могу понять, как можно найти следующее целое число, используя преобразование с плавающей точкой IEEE754. Например: 4.5 = 1.001 x 2^2 E = 2 + 127 = 129 M = 00100000000000000000000 одной ...
1 год назад xAndreei
73
голоса
1
ответ
Я нашел тему ниже для преобразования MBF в IEEE. Конвертировать MBF Single и Double to IEEE Кто-нибудь может объяснить, какова функция кода, отмеченного ниже? Знак Dim Как Byte = mbf (6) И ToByte (...
9 лет, 5 месяцев назад Chiu
68
голосов
2
ответа
Согласно Wolfram Alpha, это верно для x > 2 . 6.0/(x+16) > 2.0/(x+4) Чтобы получить наименьшее возможное x , я использую numpy.nextafter() . >>> from numpy import nextafter >>&...
7 лет, 3 месяца назад user4910881
59
голосов
3
ответа
Мне нужно преобразовать двоичное число 0000 0110 1101 1001 1111 1110 1101 0011 в плавающую точку IEEE. Ответ: 1.10110011111111011010011 x 2 ^ -114, но как получается показатель экспоненты?
8 лет, 11 месяцев назад Carlos
48
голосов
0
ответов
В стандарте IEEE-754 указано, что при переполнении результат может быть оценен как Infinity и MAX_VALUE . Как я уже рекомендовал несколько раз, я решил посмотреть, что об этом говорит стандарт ECMA...
3 года, 4 месяца назад Max Wizard K
49
голосов
0
ответов
IEEE-754 определяет два правила округления среди других, которые предписывают округлять до положительной бесконечности или отрицательной бесконечности. Как я должен применять эти правила для двоичн...
3 года, 5 месяцев назад Max Wizard K
69
голосов
2
ответа
В JavaScript 0.1 + 0.2 = 0.30000000000000004 и является ли математика с плавающей запятой? объясняет, почему из-за математики IEEE 754 . Я работаю с приложениями в области финансов
5 лет назад Kevin Hakanson
49
голосов
2
ответа
Как работают аппаратные реализации квадратного корня с плавающей запятой? Какой алгоритм они будут использовать, и может ли кто-нибудь предоставить ссылки на реализации verilog/vhdl?
5 лет, 7 месяцев назад Veridian
69
голосов
2
ответа
Как это реализовать? // round to the nearest double so that x + ref doesn't cause round off error double round(double x, double ref) { } Итак, double x = ....; double y = ....; double x_new = round...
6 лет назад paolo_losi
73
голоса
0
ответов
Как указано в стандарте IEEE для арифметики с плавающей точкой (2008) Раздел 4.3.3 Реализация этого стандарта должна обеспечивать roundTiesToEven и три направленных атрибута округления. Внедрение д...
1 год, 11 месяцев назад Arma6815
102
голоса
1
ответ
Я сначала изучаю преобразование из десятичных чисел в стандарт IEEE 32 с плавающей точкой и в настоящее время путаюсь, потому что вижу несколько слайдов лекций и примеры из университетов, которые д...
6 лет, 11 месяцев назад Tastybrownies
60
голосов
1
ответ
Возможно ли использование плавного умножения в Racket? Я пытаюсь перенести некоторый числовой код, который опирается на одно округление операции с fma , но после нескольких поисков не нашел способа...
3 года, 12 месяцев назад ztatlock
90
голосов
1
ответ
Я пытаюсь преобразовать номер -11.25 в двоичный код с использованием стандартных битов 32- стандарта IEEE 754. Это то, что я получил до сих пор: -11.25 = 1011.0100 1.0110100 * 2 ^ 3 3 + 127 = 130 =...
4 года, 10 месяцев назад Marga
98
голосов
1
ответ
Надеюсь, вы можете помочь мне с этой проблемой. Я работаю для клиента, и в его технических заметках мне нужно ОТПРАВИТЬ двойное значение для IEEE Floating 8byte point в С#. Это только одна часть, п...
6 лет, 4 месяца назад Phillip Kemp
-9
голосов
2
ответа
Прежде всего, я хотел бы отметить, что я не носитель языка, и мне действительно нужны некоторые термины, используемые чаще. И второе, что я хотел бы упомянуть, это то, что я не математик, гениальны...
5 лет, 4 месяца назад Genis
94
голоса
2
ответа
Может кто-нибудь, пожалуйста, объясните мне следующий результат. Я знаю, что это имеет какое-то отношение к точности с плавающей запятой, но порядок магнитуды (разница 1e308) меня удивляет. 0: высо...
5 лет, 7 месяцев назад AllYouCanEat86
60
голосов
1
ответ
Я работаю над кодом для преобразования числа с плавающей запятой в эквивалентную строку. Например, если число равно: 2.3456, то строка также должна быть 2.3456 (без конечных нулей). Я искал в stack...
6 лет, 5 месяцев назад Dref D
69
голосов
2
ответа
Как преобразовать mx 10 ^ x в nx 2 ^ y. Я хочу скрывать 2,93 x 10 ^ 12 до представления IEEE-754.
7 лет, 4 месяца назад p.j
-5
голосов
2
ответа
Длина диапазона равна Range.Max - Range.Min Например, "[0-1]" и "[3.5-4.5]" являются примерами диапазонов длины 1. Итак, какой диапазон длины (1), если таковой имеется, имеет самые двойные числа то...
4 года, 2 месяца назад Paul Totzke
92
голоса
5
ответов
Я хотел бы иметь ближайшее число ниже 1.0 в качестве плавающей запятой. Прочитав статью wikipedia на IEEE-745 , мне удалось выяснить, что двоичное представление для 1.0 является 3FF0000000000000 , ...
9 лет, 4 месяца назад martinus
61
голос
3
ответа
Я пытаюсь распечатать IEEE754 после получения целочисленного типа, но он не показывает правильный ответ для меня. Я хочу передать целое число в функцию "void ieee (int x)" в методе main, затем она ...
9 месяцев, 3 недели назад Sangmin Choi
86
голосов
1
ответ
Могут ли номера с плавающей запятой IEEE 754 представлять собой то же самое значение при использовании нескольких бит? Например: 128 exp 3 == 1024,0 256 exp 2 == 1024,0 1024 exp 0 == 1024,0 Соответ...
4 года, 2 месяца назад Giffyguy
77
голосов
2
ответа
Я пытаюсь точно выполнить цикл с одного числа с плавающей запятой до следующего. Скажем, мне нужно зациклиться от std::numeric_limits<float>::epsilon() до 1 , которые являются точно представл...
5 лет, 2 месяца назад alisianoi
Чтобы , пожалуйста,
Выберите тему жалобы:

Другая проблема