Decimal – вопросы и ответы
-4
голоса
1
ответ
когда вы делаете десятичные знаки, 0 идет вперед или назад
62
голоса
1
ответ
В конце концов я натолкнулся на удивительный факт: внутренние типы ABAP Dictionary для валюты и количества (элементы данных на их основе) неявно сохраняют информацию о знаке независимо от того, как...
87
голосов
2
ответа
У меня есть массив строк, и каждый элемент является десятизначным значением базы 10, которое необходимо преобразовать в базовые 16 эквивалентов: Входные данные: a = ["23", "137", "44", "30", "38", ...
76
голосов
3
ответа
Я работаю над приложением, которое вычисляет ppm и проверяет, превышает ли он определенный порог. Недавно я обнаружил ошибку точности вычисления с плавающей запятой. double threshold = 1000.0; doub...
114
голосов
2
ответа
Мне удалось сделать эти две классности, но "оценка" должна иметь 7 цифр после точки. Я не могу изменить основной класс. Я думаю, что я должен использовать String.format("%. 7f",...), но я не знаю, ...
106
голосов
1
ответ
Я установил атрибут в моей сущности следующим образом: /** * @var decimal * * @ORM\Column(name="latitude", type="decimal", precision=10, scale=7, nullable=true) */ private $latitude; но когда я соз...
75
голосов
3
ответа
У меня есть большой массив, содержащий множество элементов, содержащих числовые данные. Пример: 3200 34300 1499 12899 Я хочу преобразовать их в: 32.00 343.00 14.99 128.99 Как я могу достичь этого э...
87
голосов
3
ответа
Можно ли изменить точность десятичных чисел на С# глобально? В TypeScript Я использую фреймворк Decimal.js , где я могу изменить точность операций Десятичная операция по всему миру так, чтобы Decim...
-4
голоса
2
ответа
Регулярное выражение, которое я хочу написать, должно соответствовать всем числовым значениям, превышающим 0.01 и максимум с двумя цифрами после десятичной точки. Для сопоставления всех чисел с мак...
62
голоса
2
ответа
Я хочу обменять два значения с нулевым десятичным значком, например: o2 = Interlocked.Exchange(ref o1, o2); Тип "десятичный?" должен быть ссылочным типом, чтобы использовать его как параметр "T" в ...
61
голос
5
ответов
tunnid = int(input("Sisestage oma töötundide arv ühes nädalas: ")) tasu = int(input("Sisestage oma tunnitasu: ")) if tunnid <= 40: print("Teie nädalapalk on " + str(tunnid*tasu)) else: print("Te...
107
голосов
4
ответа
Я выполняю простой расчет в C, для которого иногда результат равен точно 0. Затем я печатаю эти результаты, используя что-то вроде printf("%0.4g", result) . Если результат не равен 0, он делает то,...
62
голоса
1
ответ
У меня есть активная модель записи с атрибутом большого десятичного типа. Я хотел иметь возможность заказать в отношении этого атрибута, который рассматривается как число. Вместо этого у меня есть ...
107
голосов
1
ответ
Побитовое ИЛИ (|) похоже на арифметическое сложение (+), то есть A | B = A + B (если A!= B) Как, 2 | 4 = 6 и 2 + 4 = 6 Это означает, что есть способ получить результат "ИЛИ", выполнив добавление в ...
115
голосов
1
ответ
У меня есть текстовое поле, которое позволяет пользователю вводить до шести знаков после запятой. Это работает, однако, при сохранении (код ниже) значение округляется до 4 знаков после запятой, и и...
87
голосов
1
ответ
Прежде всего, я знаю, что есть аналогичная тема, касающаяся разделения 1 на 3. Однако мой код совсем другой, и я не знаю, как применять информацию, предоставленную там, к моей ситуации. Я был бы пр...
107
голосов
1
ответ
У меня есть система поддержки принятия решений в Microsoft Excel для студентов, которая рассматривает их подготовку к различным модулям и затем оценивает модули в приоритетном порядке. Для этого я ...
86
голосов
4
ответа
В Python 2.6 я обнаружил, что десятичный эквивалент sqrt(pi) равен Decimal(pi).sqrt() Есть ли что-нибудь подобное для sin, cos или других (обратных) тригонометрических функций? docs упоминает тольк...
117
голосов
2
ответа
Мне нужно записать десятичное значение в базу данных доступа ms, но у меня проблема с значениями преобразования до десятичной в разных культурах. Имейте значения из файла, который разделяет commma....
61
голос
3
ответа
Кажется, я не могу это понять. var arr = [2.62, 111.05, 1.05] arr.sort(); Это возвращает [1.05, 111.05, 2.62], но я ожидаю [1.05, 2.62, 111.05]. Как это можно достичь? Я немного читал о написании п...
122
голоса
4
ответа
Сделал ли мое исследование и сделал несколько улучшений, очень близко подошел к решению этой проблемы, но теперь я застрял и нуждаюсь в помощи. Задача: преобразовать список строк с плавающей точкой...
61
голос
2
ответа
Как получить округленное число 0.5, ранее я нашел в этой ссылке: Нажмите здесь Но это не то, что я хочу: Я хочу, как этот пример: 10,24 = 10,25 17.90 = 17.90 3,89 = 3,90 7,63 = 7,65 jQuery будет в ...
76
голосов
1
ответ
Я хочу понять, почему я получаю разные значения при использовании 1) np.round и 2) applymap на том же DF мой df df1 = pd.DataFrame({'total': [25.23, 3.55, 76.55, 36.48, 45.59]}, index=['cat1', 'cat...
143
голоса
3
ответа
Im, вставляя данные в базу данных, у них есть десятичное и отрицательное число, существует ли способ десятичного числа DataType в отрицательных числах или есть ли другой тип данных, который я могу ...
99
голосов
2
ответа
Мне поручено, что я должен отклонить любое десятичное число, и мне нужно снова ввести номер снова. Я пробовал этот код, но все же он просто переходит на весь процесс до подтверждения ошибки. Попроб...
61
голос
1
ответ
Я пытаюсь преобразовать десятичное число в двоичный (максимум 16 бит). Моя функция отлично работает до 8 бит, но когда я хочу печатать цифры до 16 бит, она останавливает печать символов. Я использо...
97
голосов
1
ответ
У меня возникает проблема с моими алгоритмами для преобразования десятичного числа в двоичное число без использования синтаксического анализа, это соответствующий раздел кода: public static void dt...
-10
голосов
3
ответа
У меня есть кнопка, которая при нажатии на нее я хочу, чтобы она обновила метку (которая начиналась с 0,0) до + 0,1 Я получаю следующее: 0.1 0.2 0.30000000000000004 0.4 0.5 0.6 0.79999999999999999 ...
167
голосов
1
ответ
Привет всем, быстрый вопрос: как получить тип .NET decimal в двоичном формате? Мы все знаем, как хранятся числа с плавающей запятой и, следовательно, причины их неточности, но я не могу найти никак...
-4
голоса
1
ответ
У меня есть этот пример: "если мы берем двоичное представление десятичного значения 220 (1101 1100), и мы хотели извлечь более высокие 4 бита, мы могли бы использовать битмаску с логической операци...
75
голосов
2
ответа
Я хочу преобразовать значение Hexa в десятичную. Поэтому я попробовал это. Когда значение равно > 0, он работает нормально. Но когда значение равно < 0, тогда возвращается неправильное значен...
113
голосов
3
ответа
В настоящее время я работаю над эскизом, который отправит данные на 3 светодиодных драйвера TLC5971. Мне нужно принять уровень яркости в форме uint16_t а затем преобразовать это значение в два 8-ра...
-6
голосов
1
ответ
Мне нужно вывести $result в два места, которые я пробовал echo "<td>" .number_format($result,2). "</td>\n"; что приводит к длинной строке десятичных знаков. И я также попробовал "% u.1"...
86
голосов
2
ответа
У меня есть этот код как часть моей программы для вычисления солнечного времени. Но мой расчет использует десятичное время. И теперь мне нужно отобразить результат в такт. %To calculate solar time ...
76
голосов
2
ответа
У меня есть требование, когда я генерирую двоичное число из строки, скажем "111111" и конвертируя его в десятичный номер для хранения в базе данных. Каждая цифра (т.е. 1/0) из этого двоичного числа...
76
голосов
1
ответ
В SQL у меня есть десятичный столбец: Что я сопоставил с собственностью объекта в моем edmx: Разочарочно, я
106
голосов
1
ответ
Друзья ROUNDDOWN(decimal, -2) я хочу конвертировать excel ROUNDDOWN(decimal, -2) к функции С# дайте мне решение. Я хочу это для финансового расчета. то есть [From excel based] = ROUNDDOWN (31415.92...
106
голосов
3
ответа
Итак, я написал функцию преобразования десятичного числа в шестнадцатеричное число с помощью рекурсии, но я не могу понять, как добавить префикс "0x" и ведущие нули к моему преобразованному шестнад...
62
голоса
1
ответ
Мне нужно сохранить до 17 знаков после запятой. Какова правильная точность с Decimal в SQL Server 2005?
97
голосов
3
ответа
Есть ли способ форматировать числовое десятичное число до 12 цифр? Мне нужно интегрировать проект с платежным шлюзом, и в нем говорится, что Сумма должна быть заполнена "0" слева и не содержать дес...
