Проблема конвертирования десятичной дроби в формат с плавающей точкой IEEE-754

Алгоритмы: от сортировки пузырьком до численных методов

Модераторы: C_O_D_E, DeeJayC

Ответить
Смотрящий
Сообщения: 0
Зарегистрирован: 19 дек 2015, 03:15

03 янв 2016, 10:34

Эта видеобеседа посвящена одной важной проблеме конвертирования произвольной десятичной дроби в формат с плавающей точкой. Речь пойдёт об ошибке округления в процессе конвертирования. На момент записи видео автору не было известно ни одного компилятора, который был бы избавлен от такой ошибки. Вы узнаете о том, что перевод числа в формат с плавающей точкой – это не такая простая задача, как может показаться поначалу, особенно после просмотра различных уроков о том, как всё просто и замечательно в теории.

Сопутствующие ссылки:
Архив к видео
— Muller, Jean-Michel and Brisebarre…
«Handbook of Floating-Point Arithmetic»
— «Что нужно знать про арифметику с плавающей запятой»
— Single-precision floating-point format. Из этой статьи можно перейти по ссылкам на все остальные форматы: half-, double-, quadruple- и extended-precision.
Функция David Gay’s strtod.
Онлайн-конвертер Rick Regan’s.
Decimal to Floating-Point Needs Arbitrary Precision.
Сайт Rick Regan’s. Наиболее подходящие к теме беседы статьи смотрите в меню Topics, подзаголовок “Correctly Rounded Decimal to Floating-Point Conversion”.
— «Простые тесты для проверки конвертирования десятичной дроби в формат с плавающей точкой IEEE-754».

Какие ещё моменты стоило упомянуть в лекции? С чем вы согласны или не согласны? Полезна ли была лекция?
Ответить