Страница 1 из 1

Точность 0 для поля типа real

Добавлено: 02 фев 2012, 05:42
bolotoved
Если при создании нового поля в калькуляторе полей выбрать тип поля "Десятичное число", а точность задать = 0, то при последующих вычислениях калькулятор возвращает отрицательные значения.
Причем это не связано с избыточным размером результатов.
Для воспроизведения:
1.Перепроецируйте слой admin геосемпла в UTM44N-WGS84.
2. С помощью калькулятора полей создайте поле (тип поля "Десятичное число"). В слое admin результаты расчета площади для самых крупных полигонов имеют 12 разрядов, по этому при создании поля задайте размер более 12. Точность задайте = 0.
3. Рассчитайте площади.
4. При записи пересчитанного поля в шейп, полученные значения становятся орицательными.

Баг или ограничение шейпа?

Re: Точность 0 для поля типа real

Добавлено: 04 фев 2012, 21:19
Максим Дубинин
подтверждаю, это баг

Re: Точность 0 для поля типа real

Добавлено: 08 фев 2012, 21:37
Voltron
Тикеты в тему 4955, 4766