Сайт работает в тестовом режиме - все замечания, предложения и информацию о найденных ошибках направляйте, пожалуйста, в Telegram-группу
Курс в процессе наполнения. Полный курс доступен на Степике

Баг: Потеря точности при `float64` → `float32`

Что делают:
Переводят float64 в float32 и считают, что число осталось тем же самым.

Почему ошибка:
float32 имеет только ~7 значащих цифр против ~15 у float64. Большие или дробные числа теряют точность.

Как правильно:
Использовать float32 только тогда, когда экономия памяти важнее точности. Для расчётов предпочитать float64.

Загрузка...