Floating-Point – вопросы и ответы

130
голосов
1
ответ
Работа над выполнением манипуляций в стеке с плавающей запятой: fld qword [perResult] ;load st0 with perimeter fsub qword [firstSide] ;take st0 and minus firstSide, st0= perimeter - firstSide fmul ...
8 месяцев, 3 недели назад user1050632
-5
голосов
3
ответа
У меня есть строковое представление процентного изменения котировки акций в формате +6.63 и некоторые из -0.06 , которые мне нужно проверить, это положительное изменение или отрицательное... после ...
8 месяцев, 3 недели назад x-code
66
голосов
2
ответа
Когда многие люди пытаются объяснить число чисел с плавающей запятой, разделите его на три части: Знак бит, указывающий отрицательный или положительный Показатель, показывающий масштаб (например, 8...
8 месяцев, 3 недели назад CanadaIT
103
голоса
2
ответа
Как вычесть десятичное значение в сборке . IA32 (linux) 1: mov edx, 1/2 sub ecx, ebx sub ecx, edx mov bal2, ecx Я пробовал это, но он каким-то образом пропускает вычитание с десятичной точкой. И ес...
8 месяцев, 3 недели назад Pavitar
92
голоса
2
ответа
Я понимаю множество проблем при сравнении поплавков и жалуюсь на их использование в этом случае - но я не автор таблицы и имею только небольшое препятствие, чтобы подняться... Кто-то решил использо...
8 месяцев, 3 недели назад Amy B
136
голосов
2
ответа
Есть ли способ конвертировать float в unsigned char fbytes[8] , чтобы: Если значение float f1 < f2 , то fbytes1[i] НИКОГДА не должно превышать fbytes2[i] при 0 <= я <= 7 ? Цель состоит в т...
8 месяцев, 3 недели назад jeffreyveon
-9
голосов
1
ответ
Как удалить нули, которые не будут влиять на числовое значение float X1 = (-b + sqrt(pow(b,2) - (4*a*c)))/(2*a); иногда, если X1 был числом без десятичного числа, это будет X1=4.0000 как я могу изб...
8 месяцев, 3 недели назад Tarek
65
голосов
3
ответа
Я новичок, я пытаюсь напечатать значение float до четырех мест с обеих сторон. Например, 11.3 будет 0011.3000 . Для этого я использую следующую строку: float t = 11.3; printf("%4.4f", t); Но я полу...
8 месяцев, 3 недели назад Tabish Saifullah
66
голосов
2
ответа
У меня есть несколько расчетов на стороне клиента с JavaScript. var total = (((3 * 24)/100) + 3); // результат 3.7199999999999998 Мне нужно сохранить этот номер 3.7199999999999998 в базе данных, ка...
8 месяцев, 3 недели назад Constantin
129
голосов
2
ответа
Я хочу отобразить сегмент линии на виртуальное целое пространство в минимальное среднее время для любой ориентации/длины сегмента. Сегмент определяется двумя точками с вещественными значениями (удв...
8 месяцев, 3 недели назад ags
91
голос
1
ответ
В числовом приложении я хотел бы знать, произошло ли исключение с плавающей запятой после завершения вычислений. По умолчанию деления с плавающей запятой и недопустимые операции игнорируются молча....
8 месяцев, 3 недели назад Fabian Knorr
79
голосов
3
ответа
Это простая программа, но я не могу понять логику/работу, выполняемую в то время как цикл за сценой. Проблема: Напишите программу, которая печатает каждое число от 0 до 1, которое имеет цифру после...
8 месяцев, 3 недели назад pss
92
голоса
3
ответа
Когда я сделал (0.0006 * 100000)% 10 и (0.0003 * 100000)% 10 в python, он вернулся 9.999999999999993 соответственно, но на самом деле это должно быть 0. Аналогично в С++ fmod (0.0003 * 100000,10) д...
8 месяцев, 3 недели назад lijo050
-6
голосов
2
ответа
Я только начал изучать с плавающей точкой и познакомиться с материалом МСП. Я все еще очень смущен о мантиссе... Может кто-нибудь объяснить мне, как я могу получить часть экспансии поплавка. Прошу ...
8 месяцев, 3 недели назад Hanming Zeng
111
голосов
2
ответа
Существуют новые спецификаторы формата для типов intN_t , например %"PRIiN" и %"SCNiN" , для семейств функций printf и scanf . Каковы, если таковые имеются, спецификаторы нового формата для float_t...
8 месяцев, 3 недели назад Cacahuete Frito
79
голосов
2
ответа
Я String(format: "%.2f") 0 в качестве аргумента для String(format: "%.2f") , он работает на iPhone 5s, se, 6, 6s и т.д., Как и ожидалось... Однако он перестал работать на iPhone 5, я догадался, что...
8 месяцев, 3 недели назад Irakli Vashakidze
66
голосов
1
ответ
Я должен генерировать случайные числа для двух групп вектора размера N. Вероятность для одной группы равна p, а для другой - q = 1-p. (Например, для населения 1000 с p = 0,5, я должен генерировать ...
8 месяцев, 3 недели назад kialvatlan
65
голосов
1
ответ
У меня проблема с двойным (TaxRate здесь), который не имеет того же значения, когда он проходит через функции: Сначала я вызываю функцию DataContext.UpdateCategory(theCategorie.Code, theCategorie.D...
8 месяцев, 3 недели назад Gregoire
79
голосов
2
ответа
Я пытаюсь добиться того, что указано ниже в ожидаемых выходных разделах. Текстовый файл содержит 5 чисел с плавающей запятой в каждой строке, последняя из которых бесполезна, поскольку он просто кл...
8 месяцев, 3 недели назад Zaafir
112
голосов
2
ответа
Стандарт C, который, как я знаю, использует С++ для этих вопросов, имеет следующий раздел: Когда значение целочисленного типа преобразуется в реальный плавающий тип, если преобразованное значение м...
8 месяцев, 3 недели назад Julian Kniephoff
66
голосов
2
ответа
Хорошо, я знаю, что это немного странный вопрос: Я пишу этот кусок кода Java и должен загружать необработанные данные (приблизительно 130000 плавающих точек): Эти данные никогда не меняются, и поск...
8 месяцев, 3 недели назад dosse91214
65
голосов
1
ответ
У меня есть библиотека обработки сигналов, которая функционирует в спецификации. Однако я нашел несколько хороших мест для рефакторинга. Я хотел бы включить модульное тестирование в свой рабочий пр...
8 месяцев, 3 недели назад learnvst
79
голосов
1
ответ
Предположим, что мы имеем уравнение y = k1 * x + b1 = k2 * x + b2. Пусть вычисляется x в поплавках. Я знаю, что это плохой выбор, но я хочу понять причину результатов, которые я получаю. Также пуст...
8 месяцев, 3 недели назад perlik
-9
голосов
1
ответ
Сегодня я столкнулся с действительно странной проблемой. У меня есть значение с плавающей запятой от Elasticsearch 81.73685999999999 . Мне нужно округлить до 2 десятичных знаков. Это такая тривиаль...
8 месяцев, 3 недели назад Čamo
-7
голосов
1
ответ
У меня есть вход, который является String . Ввод всегда будет String представлением десятичного числа, как и один из следующих примеров: 3.14159265 314159265 314159265e5 Я определил enum под назван...
8 месяцев, 3 недели назад Markus Appel
120
голосов
2
ответа
Друг показал мне, что (по крайней мере, на консоли Google Chrome) следующий оператор выводит true: 1/Math.pow(0.9999999999999999, Number.MAX_SAFE_INTEGER) === Math.E И действительно, 1/Math.pow(0.9...
8 месяцев, 3 недели назад soktinpk
91
голос
3
ответа
Когда я попробовал это: HashSet<Double> set = new HashSet<>(); Double d1 = new Double(0); Double d2 = new Double(0); Double d3 = new Double(-0); set.add(d1); System.out.println(set.cont...
8 месяцев, 3 недели назад CSnerd
128
голосов
2
ответа
Просто это, просто, когда я положил: float f; if(f%1){ //do something // Он возвращает ошибку, есть ли способ сделать modulo для типов float или мне нужно сделать преобразование? Я использую xCode ...
8 месяцев, 3 недели назад raej99
92
голоса
4
ответа
Я выполняю некоторое обслуживание кода на работе, и я столкнулся с этим небольшим фрагментом... public CharSequence filter(CharSequence source, int start, int end, Spanned dest, int dstart, int den...
8 месяцев, 3 недели назад Nathaniel
1079
голосов
30
ответов
Есть ли способ сделать шаг между 0 и 1 на 0,1? Я думал, что смогу сделать это следующим образом, но это не удалось: for i in range(0, 1, 0.1): print i Вместо этого он говорит, что аргумент шага не ...
8 месяцев, 3 недели назад Evan Fosmark
103
голоса
1
ответ
Я понял, что ничего не мешает коду хранить значение NaN, отличное от глобального NaN в переменной. Однако я быстро понял, что это зависит от браузера. Хранение такого значения в переменной отлично ...
8 месяцев, 3 недели назад ASDFGerte
128
голосов
1
ответ
Я знаю, что поплавки могут приводить к нечетному поведению в диапазонах из-за их неточного характера. Я ожидал бы возможности неточных значений. Например: [0.1,0.3..1] может дать [0.1,0.3,0.5,0.7,0...
8 месяцев, 3 недели назад zivarah
80
голосов
3
ответа
Мне было интересно, есть ли reliable способ преобразования Float x в haxe в String с указанным числом десятичных знаков, например 3. Прямой метод состоит в том, чтобы сначала преобразовать x в стро...
8 месяцев, 3 недели назад tinlyx
120
голосов
1
ответ
Я продолжаю пытаться запустить эту функцию, но программа продолжает говорить, что мне нужно ввести float на 6-й строке ниже. Когда я пытаюсь ввести функцию float(), она все еще говорит, что мне нуж...
8 месяцев, 3 недели назад user2442129
80
голосов
2
ответа
Как это работает внутри страны? Как он решает конвертировать 0.29999999999999998 в 0.3 , хотя 0.3 не может быть представлен в двоичном формате? Вот еще один пример: scala> 0.29999999999999998 re...
8 месяцев, 3 недели назад Tanin
269
голосов
6
ответов
int totalOptCount = 500; int totalRespCount=1500; float percentage =(float)(totalOptCount/totalRespCount); Почему это всегда возвращает значение 0.0? Также я хочу отформатировать это в формате 00.0...
8 месяцев, 3 недели назад kiran
92
голоса
1
ответ
Используя С++, я пытаюсь применить значение float к int , используя следующие инструкции: #include <iostream> int main() { float NbrToCast = 1.8f; int TmpNbr = NbrToCast * 10; std::cout <&...
8 месяцев, 3 недели назад Jérôme
255
голосов
3
ответа
Кажется, что стандарт IEEE 754 определяет 16,777,214 32-битных значений с плавающей запятой как NaNs, или 0,4% от всех возможных значений. Интересно, в чем заключается обоснование для резервировани...
8 месяцев, 3 недели назад leventov
144
голоса
2
ответа
Рассмотрим эти два случая: fmt.Println(912 * 0.01) fmt.Println(float64(912) * 0.01) ( Go Playground link ) Второй печатает 9.120000000000001, что на самом деле прекрасно,
8 месяцев, 3 недели назад Attila O.
255
голосов
4
ответа
Как преобразовать из int или десятичного числа в float в С#? Мне нужно использовать float для стороннего элемента управления, но я не использую его в своем коде, и я не уверен, как закончить с плав...
8 месяцев, 3 недели назад Jared
Чтобы , пожалуйста,
Выберите тему жалобы:

Другая проблема