Decimal – вопросы и ответы

-4
голоса
1
ответ
когда вы делаете десятичные знаки, 0 идет вперед или назад
2 месяца, 2 недели назад whitney
62
голоса
1
ответ
В конце концов я натолкнулся на удивительный факт: внутренние типы ABAP Dictionary для валюты и количества (элементы данных на их основе) неявно сохраняют информацию о знаке независимо от того, как...
2 месяца, 2 недели назад Suncatcher
87
голосов
2
ответа
У меня есть массив строк, и каждый элемент является десятизначным значением базы 10, которое необходимо преобразовать в базовые 16 эквивалентов: Входные данные: a = ["23", "137", "44", "30", "38", ...
2 месяца, 2 недели назад Tyler B
76
голосов
3
ответа
Я работаю над приложением, которое вычисляет ppm и проверяет, превышает ли он определенный порог. Недавно я обнаружил ошибку точности вычисления с плавающей запятой. double threshold = 1000.0; doub...
2 месяца, 2 недели назад ccyen
114
голосов
2
ответа
Мне удалось сделать эти две классности, но "оценка" должна иметь 7 цифр после точки. Я не могу изменить основной класс. Я думаю, что я должен использовать String.format("%. 7f",...), но я не знаю, ...
2 месяца, 2 недели назад Marfi
106
голосов
1
ответ
Я установил атрибут в моей сущности следующим образом: /** * @var decimal * * @ORM\Column(name="latitude", type="decimal", precision=10, scale=7, nullable=true) */ private $latitude; но когда я соз...
2 месяца, 2 недели назад Chuck Norris
75
голосов
3
ответа
У меня есть большой массив, содержащий множество элементов, содержащих числовые данные. Пример: 3200 34300 1499 12899 Я хочу преобразовать их в: 32.00 343.00 14.99 128.99 Как я могу достичь этого э...
2 месяца, 2 недели назад user4910881
87
голосов
3
ответа
Можно ли изменить точность десятичных чисел на С# глобально? В TypeScript Я использую фреймворк Decimal.js , где я могу изменить точность операций Десятичная операция по всему миру так, чтобы Decim...
2 месяца, 2 недели назад Devid
-4
голоса
2
ответа
Регулярное выражение, которое я хочу написать, должно соответствовать всем числовым значениям, превышающим 0.01 и максимум с двумя цифрами после десятичной точки. Для сопоставления всех чисел с мак...
2 месяца, 2 недели назад Leo Messi
62
голоса
2
ответа
Я хочу обменять два значения с нулевым десятичным значком, например: o2 = Interlocked.Exchange(ref o1, o2); Тип "десятичный?" должен быть ссылочным типом, чтобы использовать его как параметр "T" в ...
2 месяца, 2 недели назад Pingpong
61
голос
5
ответов
tunnid = int(input("Sisestage oma töötundide arv ühes nädalas: ")) tasu = int(input("Sisestage oma tunnitasu: ")) if tunnid <= 40: print("Teie nädalapalk on " + str(tunnid*tasu)) else: print("Te...
2 месяца, 2 недели назад Marek Lindvest
107
голосов
4
ответа
Я выполняю простой расчет в C, для которого иногда результат равен точно 0. Затем я печатаю эти результаты, используя что-то вроде printf("%0.4g", result) . Если результат не равен 0, он делает то,...
2 месяца, 2 недели назад Chris Wong
62
голоса
1
ответ
У меня есть активная модель записи с атрибутом большого десятичного типа. Я хотел иметь возможность заказать в отношении этого атрибута, который рассматривается как число. Вместо этого у меня есть ...
2 месяца, 2 недели назад Andrew
107
голосов
1
ответ
Побитовое ИЛИ (|) похоже на арифметическое сложение (+), то есть A | B = A + B (если A!= B) Как, 2 | 4 = 6 и 2 + 4 = 6 Это означает, что есть способ получить результат "ИЛИ", выполнив добавление в ...
2 месяца, 2 недели назад Rahul
115
голосов
1
ответ
У меня есть текстовое поле, которое позволяет пользователю вводить до шести знаков после запятой. Это работает, однако, при сохранении (код ниже) значение округляется до 4 знаков после запятой, и и...
2 месяца, 2 недели назад Harambe
87
голосов
1
ответ
Прежде всего, я знаю, что есть аналогичная тема, касающаяся разделения 1 на 3. Однако мой код совсем другой, и я не знаю, как применять информацию, предоставленную там, к моей ситуации. Я был бы пр...
2 месяца, 2 недели назад Alexandros
107
голосов
1
ответ
У меня есть система поддержки принятия решений в Microsoft Excel для студентов, которая рассматривает их подготовку к различным модулям и затем оценивает модули в приоритетном порядке. Для этого я ...
2 месяца, 2 недели назад Andrew
86
голосов
4
ответа
В Python 2.6 я обнаружил, что десятичный эквивалент sqrt(pi) равен Decimal(pi).sqrt() Есть ли что-нибудь подобное для sin, cos или других (обратных) тригонометрических функций? docs упоминает тольк...
2 месяца, 2 недели назад Mark
117
голосов
2
ответа
Мне нужно записать десятичное значение в базу данных доступа ms, но у меня проблема с значениями преобразования до десятичной в разных культурах. Имейте значения из файла, который разделяет commma....
2 месяца, 2 недели назад user3053940
61
голос
3
ответа
Кажется, я не могу это понять. var arr = [2.62, 111.05, 1.05] arr.sort(); Это возвращает [1.05, 111.05, 2.62], но я ожидаю [1.05, 2.62, 111.05]. Как это можно достичь? Я немного читал о написании п...
2 месяца, 2 недели назад zoosrc
122
голоса
4
ответа
Сделал ли мое исследование и сделал несколько улучшений, очень близко подошел к решению этой проблемы, но теперь я застрял и нуждаюсь в помощи. Задача: преобразовать список строк с плавающей точкой...
2 месяца, 2 недели назад Boosted_d16
61
голос
2
ответа
Как получить округленное число 0.5, ранее я нашел в этой ссылке: Нажмите здесь Но это не то, что я хочу: Я хочу, как этот пример: 10,24 = 10,25 17.90 = 17.90 3,89 = 3,90 7,63 = 7,65 jQuery будет в ...
2 месяца, 2 недели назад azim hamdan
76
голосов
1
ответ
Я хочу понять, почему я получаю разные значения при использовании 1) np.round и 2) applymap на том же DF мой df df1 = pd.DataFrame({'total': [25.23, 3.55, 76.55, 36.48, 45.59]}, index=['cat1', 'cat...
2 месяца, 2 недели назад Boosted_d16
143
голоса
3
ответа
Im, вставляя данные в базу данных, у них есть десятичное и отрицательное число, существует ли способ десятичного числа DataType в отрицательных числах или есть ли другой тип данных, который я могу ...
2 месяца, 2 недели назад user979331
99
голосов
2
ответа
Мне поручено, что я должен отклонить любое десятичное число, и мне нужно снова ввести номер снова. Я пробовал этот код, но все же он просто переходит на весь процесс до подтверждения ошибки. Попроб...
2 месяца, 2 недели назад darrel pinga
61
голос
1
ответ
Я пытаюсь преобразовать десятичное число в двоичный (максимум 16 бит). Моя функция отлично работает до 8 бит, но когда я хочу печатать цифры до 16 бит, она останавливает печать символов. Я использо...
2 месяца, 3 недели назад tadm123
97
голосов
1
ответ
У меня возникает проблема с моими алгоритмами для преобразования десятичного числа в двоичное число без использования синтаксического анализа, это соответствующий раздел кода: public static void dt...
2 месяца, 3 недели назад joescull
-10
голосов
3
ответа
У меня есть кнопка, которая при нажатии на нее я хочу, чтобы она обновила метку (которая начиналась с 0,0) до + 0,1 Я получаю следующее: 0.1 0.2 0.30000000000000004 0.4 0.5 0.6 0.79999999999999999 ...
2 месяца, 3 недели назад JakeB
167
голосов
1
ответ
Привет всем, быстрый вопрос: как получить тип .NET decimal в двоичном формате? Мы все знаем, как хранятся числа с плавающей запятой и, следовательно, причины их неточности, но я не могу найти никак...
2 месяца, 3 недели назад Squirrelsama
-4
голоса
1
ответ
У меня есть этот пример: "если мы берем двоичное представление десятичного значения 220 (1101 1100), и мы хотели извлечь более высокие 4 бита, мы могли бы использовать битмаску с логической операци...
2 месяца, 3 недели назад mohammedtair
75
голосов
2
ответа
Я хочу преобразовать значение Hexa в десятичную. Поэтому я попробовал это. Когда значение равно > 0, он работает нормально. Но когда значение равно < 0, тогда возвращается неправильное значен...
2 месяца, 3 недели назад Meet Doshi
113
голосов
3
ответа
В настоящее время я работаю над эскизом, который отправит данные на 3 светодиодных драйвера TLC5971. Мне нужно принять уровень яркости в форме uint16_t а затем преобразовать это значение в два 8-ра...
2 месяца, 3 недели назад user3185748
-6
голосов
1
ответ
Мне нужно вывести $result в два места, которые я пробовал echo "<td>" .number_format($result,2). "</td>\n"; что приводит к длинной строке десятичных знаков. И я также попробовал "% u.1"...
2 месяца, 3 недели назад Dewey Banks
86
голосов
2
ответа
У меня есть этот код как часть моей программы для вычисления солнечного времени. Но мой расчет использует десятичное время. И теперь мне нужно отобразить результат в такт. %To calculate solar time ...
2 месяца, 3 недели назад researcher
76
голосов
2
ответа
У меня есть требование, когда я генерирую двоичное число из строки, скажем "111111" и конвертируя его в десятичный номер для хранения в базе данных. Каждая цифра (т.е. 1/0) из этого двоичного числа...
2 месяца, 3 недели назад ABC
76
голосов
1
ответ
В SQL у меня есть десятичный столбец: Что я сопоставил с собственностью объекта в моем edmx: Разочарочно, я
2 месяца, 3 недели назад Jonathan
106
голосов
1
ответ
Друзья ROUNDDOWN(decimal, -2) я хочу конвертировать excel ROUNDDOWN(decimal, -2) к функции С# дайте мне решение. Я хочу это для финансового расчета. то есть [From excel based] = ROUNDDOWN (31415.92...
2 месяца, 3 недели назад Aamec Aamec
106
голосов
3
ответа
Итак, я написал функцию преобразования десятичного числа в шестнадцатеричное число с помощью рекурсии, но я не могу понять, как добавить префикс "0x" и ведущие нули к моему преобразованному шестнад...
2 месяца, 3 недели назад user2857532
62
голоса
1
ответ
Мне нужно сохранить до 17 знаков после запятой. Какова правильная точность с Decimal в SQL Server 2005?
2 месяца, 3 недели назад Relativity
97
голосов
3
ответа
Есть ли способ форматировать числовое десятичное число до 12 цифр? Мне нужно интегрировать проект с платежным шлюзом, и в нем говорится, что Сумма должна быть заполнена "0" слева и не содержать дес...
2 месяца, 3 недели назад Jaruwitt A.
Чтобы , пожалуйста,
Выберите тему жалобы:

Другая проблема