Floating-Point – вопросы и ответы

93
голоса
1
ответ
Я пытаюсь объединить float с помощью Math.ceil() но он продолжает давать мне ошибку "required: float, found: double". Проблема в том, что все переменные определены как float. Что я могу сделать, чт...
3 месяца назад user2704743
345
голосов
9
ответов
Я знаю, что вы не можете полагаться на равенство между значениями двойного или десятичного типа, но мне интересно, является ли 0 особым случаем. Пока я могу понять неточности между 0.00000000000001...
3 месяца назад Gene Roberts
55
голосов
1
ответ
Поскольку я решил использовать UTF-16 внутренне в программе, которая должна работать в Windows и Linux, мне нужна замена для некоторых функций обработки строк, поскольку я не хочу конвертировать в ...
3 месяца назад user877329
94
голоса
3
ответа
Каковы могут быть последствия для математики с плавающей запятой, если наименьший бит значащего значения (/) установлен на случайное значение? Пояснение: Язык PicoLisp выделяет все значения, исполь...
3 месяца назад Leushenko
66
голосов
1
ответ
Я изучаю экзамен, и я смущен тем, что нашел "V" (представленное числовое значение) и "f", с плавающей запятой Давайте используем этот пример 16 бит: |S (1 bit)|exp( 7 bit)|M (8 bit)| Найти: exp: зн...
3 месяца назад 40Alpha
101
голос
3
ответа
Из любопытства я запустил следующее: >>> int(1e100) И, результат был: 10000000000000000159028911097599180468360808563945281389781327557747838772170381060813469985856815104L Почему? Почему ...
3 месяца назад orokusaki
115
голосов
4
ответа
Есть ли разница в точности вычислений для этих двух случаев: 1) x = y/1000d; 2) x = y * 0.001d; Изменение: Shoudn't добавить тег С#. Вопрос только с точки зрения "с плавающей точкой". Я не хочу зна...
3 месяца назад zgnilec
54
голоса
2
ответа
NSArray chemConstantArray = [[NSArray alloc] initWithObjects:0.0021400, 0.0012840, 0.0010700, nil]; Дает мне четыре ошибки: Incompatible type for argument 1 of 'initWithObjects:' Invalid initialize...
3 месяца назад Steve
101
голос
3
ответа
Мне задали эти два вопроса, и я не могу правильно обвести голову плавающей точкой, поэтому, если кто-то может предложить некоторые указания относительно того, как я должен работать с этими вопросам...
3 месяца назад Bojangles
-4
голоса
1
ответ
Рассмотрим следующий код, написанный в go: package main import "fmt" func main() { const pi float64 = 22 / 7 fmt.Println("pi value", pi) } здесь значение pi равно 3 . Вопрос в том, почему значение ...
3 месяца назад CuriousMind
54
голоса
6
ответов
Поэтому я понимаю, что если я объявляю длинную переменную, мне нужно добавить L в конце номера. long x = 123L; То же самое с float-типом, мне нужно добавить F в конце переменной. float x = 1.1F; но...
3 месяца назад Deepak
112
голосов
5
ответов
My C API имеет функцию, которая берет на входе double . Только 3 или 4 значения являются допустимыми вводами, все остальные значения являются недействительными и отклоняются. Я хотел бы проверить, ...
3 месяца назад Didier Trosset
77
голосов
4
ответа
У меня большой набор данных с малыми значениями порядка 10 ^ -3. Однако они написаны без "e"; например, 9.993e -3 записывается как 9.993 -3 в файле. Это создает проблемы в numpy. Как я могу добавит...
3 месяца назад onakaitai
76
голосов
3
ответа
Наблюдение за неожиданным поведением с Python сегодня вечером. Почему следующая распечатка "не равна"?! num = 1.00 num -= .95 nickel = .05 if nickel != num: print 'not equal' else: print 'equal'
3 месяца назад Benjamin Powers
114
голосов
3
ответа
Я хочу проверить, что заданная переменная double/float имеет фактический шаблон бит 0x0. Не спрашивайте, почему, он использовал в функции Qt ( qIsNull() ), что я хотел бы быть constexpr . В исходно...
3 месяца назад Marc Mutz - mmutz
55
голосов
3
ответа
Я занимаюсь заданием для компьютерных наук. Мы должны сделать среднюю программу ватин. Я работаю так, чтобы он вычислял хиты, ауты, синглы и т.д., Но когда дело доходит до расчета среднего значения...
3 месяца назад PulsePanda
67
голосов
2
ответа
Я пытаюсь создать текстуру с плавающей точкой в OpenGL. У меня есть 4 вершины (2 многоугольника), образующих квадрат: ------- |\ | | \ | | \| ------- Теперь я хочу создать текстуру с поплавковыми з...
3 месяца назад rluks
77
голосов
1
ответ
В настоящее время я реализую квадратный множитель матрицы, содержащий одиночные числа с плавающей запятой в коде линии MIPS. Моя проблема в том, что как только я закончил суммирование умножений соо...
3 месяца назад Cain
87
голосов
4
ответа
Такие функции, как numpy.random.uniform() , возвращают значения с плавающей запятой между двумя границами, включая первую оценку, но исключая верхнюю. То есть, numpy.random.uniform(0,1) может дават...
3 месяца назад mattdm
100
голосов
3
ответа
Я немного удивлен поведением MSVC ldexp (это происходит в Visual Studio 2013, но также со всеми более старыми версиями по крайней мере до 2003...). Например: #include <math.h> #include <st...
3 месяца назад aka.nice
54
голоса
1
ответ
У меня завтра экзамен, для которого мне нужно знать как фиксированные, так и плавающие представления. Я думаю, что я понял основную идею обоих, но когда дело доходит до сравнения их возможностей, я...
3 месяца назад Noble Six Taniguchi
67
голосов
3
ответа
Например, у меня есть "$ 100" и "$ 50" в двух строках, я хочу добавить их, чтобы получить выход "$ 150". Я знаю общий метод (преобразовывая их в целые числа и добавляя их), но я ищу более короткий ...
3 месяца назад user1471299
67
голосов
1
ответ
Например, с 32-разрядными денормализованными поплавками показатель будет -126. В чем смысл -126 в этом контексте?
3 месяца назад Toby
55
голосов
1
ответ
Недавно у меня возникла проблема: когда я добавил код в lib, который используется dll, DLL не может быть загружена. Я получаю исключение "Неверная операция с плавающей запятой в xxx". Когда я проко...
3 месяца назад Mathew Joy
77
голосов
3
ответа
Если у меня есть список чисел с плавающей запятой, содержащих: Infinity, -Infinity, другое случайное десятичное число и одно NaN. Где должно быть NaN после сортировки списка? Я использую сортировку...
3 месяца назад Stringy--
53
голоса
2
ответа
Я замечаю некоторое нечетное арифметическое поведение с плавающей запятой, когда я использую оператор modulo. Если я оцениваю 58 mod 2, я могу (и должен) получить 0. > 58 %% 2 [1] 0 Не удивитель...
3 месяца назад Dr. Arun
788
голосов
27
ответов
Каким будет наиболее эффективный способ сравнить два значения double или два float ? Просто это неправильно: bool CompareDoubles1 (double A, double B) { return A == B; } Но что-то вроде: bool Compa...
3 месяца назад Alex
-4
голоса
1
ответ
Я пытаюсь просмотреть список чисел с плавающей запятой, чтобы суммировать список, но я получаю текущую ошибку: TypeError: объект "float" не является итерабельным Вот мой код: sum = 0.0 for x in ran...
3 месяца назад Thomas
86
голосов
1
ответ
Я пытаюсь сравнить два значения y = 1 ye = 1.0000 Если я сравниваю в Matlab, например y == ye я получаю 0 ?! Данные в y читаются из текстового файла... может ли это иметь какое-то отношение к этому?
3 месяца назад jjepsuomi
54
голоса
2
ответа
Возможный дубликат: Выход 1000000 как 1,000,000 и так далее У меня есть переменная float в формате xxxxxxxx.xx (например, 11526.99). Я хотел бы напечатать его как 11,562.99 с запятой. Как вставить ...
3 месяца назад Jw123
115
голосов
4
ответа
Я пробовал System.out.println(Double.isInfinite(Float.POSITIVE_INFINITY)) System.out.println(Double.isInfinite(Float.NEGATIVE_INFINITY)); а выход был true true Итак, это означает, что "бесконечност...
3 месяца назад user113454
66
голосов
1
ответ
df[['gc_lat', 'gc_lng']] = df[['gc_lat', 'gc_lng']].apply(pd.to_numeric, errors='ignore') df_realty[['lat', 'lng']] = df_realty[['lat', 'lng']].apply(pd.to_numeric, errors='ignore') for index, row ...
3 месяца назад vazhega
-9
голосов
1
ответ
Мне нужно отображать значения с плавающей запятой через кросс-встроенную студию, но я вижу ошибку в компиляции float ecgin[4]={"1011.0f,1011.0f,1011.0f"}; printf("%f\n",ecgin); Я вижу следующую оши...
3 месяца назад Fahad Shaikh
78
голосов
2
ответа
Недавно я попытался реализовать базовый алгоритм Q-Learning в Голанге. Обратите внимание, что я новичок в обучении артефактам и искусственном интеллекте в целом, поэтому ошибка может быть очень хор...
3 месяца назад Fardin
102
голоса
2
ответа
Я пытаюсь создать случайное число между двумя поплавками (max увеличивается на половину) это то, что у меня есть до сих пор, но оно не работает //range NSString *minString = [dict objectForKey:@"mi...
3 месяца назад BlockReader
101
голос
2
ответа
Как преобразовать шестнадцатеричную строку в одинарную точку с плавающей запятой в Java? Например, как реализовать: float f = HexStringToFloat ( "BF800000" );//f теперь должно содержать -1.0 Я спра...
3 месяца назад apalopohapa
101
голос
4
ответа
Я пишу фрагмент кода, в котором мне нужно преобразовать из double в значения float. Я использую boost:: numeric_cast, чтобы сделать это преобразование, которое предупредит меня о любом переполнении...
3 месяца назад Yogesh Arora
77
голосов
2
ответа
Я хочу выяснить взаимосвязь между битами и RNG для int или float. (Случайным я означает равномерно распределенное) Мне дается идеальный булевый случайный генератор, и меня просят реализовать случай...
3 месяца назад Jackson Tale
137
голосов
9
ответов
Как я могу сериализировать двойные и плавающие в C? У меня есть следующий код для сериализации шорт, ints и символов. unsigned char * serialize_char(unsigned char *buffer, char value) { buffer[0] =...
3 месяца назад Trevor
88
голосов
3
ответа
JavaScript не имеет разных типов для целых чисел и чисел с плавающей запятой. При работе с "целыми числами" это означает, что мне нужно беспокоиться об ошибке округления? Например, если я хочу знат...
3 месяца назад Sophie Alpert
Чтобы , пожалуйста,
Выберите тему жалобы:

Другая проблема