некоторые мысли
а метаданные для этого чуда есть какие-то, или только HDF? (да и внутри него могут быть массивы с коэффициентами).
(EV-SV) - намекает, что это уже пересчитано из попугаев DN (в которых идет поток с борта) в radiance TOA (top of atmosphere), про это что-нибудь написано? обычно в исходном файле DN, которые пересчитываются в radiance (хотя это может быть спрятано в k1). И судя по всему, SV используется как "уровень черного" для получения излучения собственно Земли
единственное, что вызывает сомнения, это k1*DSL - получается, что линейка быстро деградирует со временем. И какие там значения для k1, k2? И уж совсем детские вещи нужно посмотреть в программе, типа перевода зенитного угла в радианы, и т.д. Лучше для начала положить d=1, SolZ=0 (хотя и множитель 100 при косинусе тоже вызывает подозрение, разве что для нормировки k1, k2).
В общем, для начала нужно попробовать посчитать radiance TOA, убрав все остальное, считая зенитный угол нулем и расстояние 1, и сравнить с данными других приборов типа MODIS для того же сезона. А вот радианс уже пересчитывается одинаково для всех.