Найдено результатов: 5

Преобразовать Decimal в Double?

Я хочу использовать трек-бар, чтобы изменить непрозрачность формы.

Это мой код:

decimal trans = trackBar1.Value / 5000;
this.Opacity = trans;

Когда я строю приложение, оно выдает следующую ошибку:

Невозможно неявно преобразовать тип 'decimal' в 'double' .

Я пробовал использовать trans и double , но тогда контроль не работает. Этот код прекрасно работал в прошлом проекте VB.NET.

c#   floating-point   type-conversion   double   decimal    

671   13   16:03, 1st July, 2020


Небольшая диверсия в точность с плавающей запятой (im), часть 1

Большинство математиков согласны с тем, что:

электронная батарея Ni + 1 = 0

Однако большинство реализаций с плавающей запятой не согласны. Насколько хорошо мы можем разрешить этот спор?

Я очень хочу услышать о разных языках и реализациях, а также о различных методах, чтобы сделать результат как можно ближе к нулю. Будьте изобретательны!

math   language-agnostic   floating-point    

462   1   16:03, 1st July, 2020


Преобразование байтов в числа с плавающей запятой в Python

У меня есть двоичный файл, который я должен разобрать, и я использую Python. Есть ли способ взять 4 байта и преобразовать их в одно точное число с плавающей запятой?

python   floating-point    

568   3   16:03, 1st July, 2020


Каков наиболее эффективный способ для плавающего и двойного сравнения?

Каков был бы наиболее эффективный способ сравнить два значения double или два значения float ?

Просто делать это неправильно:

bool CompareDoubles1 (double A, double B)
{
   return A == B;
}

Но что-то вроде:

bool CompareDoubles2 (double A, double B) 
{
   diff = A - B;
   return (diff < EPSILON) && (-diff < EPSILON);
}

Похоже на переработку отходов.

Кто-нибудь знает более умный поплавковый компаратор?

c++   algorithm   optimization   floating-point    

720   25   20:10, 29th August, 2020


Сравнивая IEEE float и Double на равенство

Каков наилучший метод сравнения IEEE поплавков и двойников для равенства? Я слышал о нескольких методах, но мне хотелось узнать, что думает сообщество.

variables   floating-point   inequality    

496   15   14:32, 21st August, 2020