Question

Merging a UINT8 attribute with a UINT64 attribute output an UINT8 attribute that goes beyond 255.


Hi,

 

I have two CSV readers containing the same informations but with different range of value. 

 

Let's say that I have something like this:

Reader_1:
[ATTRIBUTE_1](UINT8)
[ATTRIBUTE_2](DOUBLE)

And 

Reader_2:
[ATTRIBUTE_1](UINT64)
[ATTRIBUTE_2](DOUBLE)

(FME has choosed the datatype automatically)

 

Since both reader have the same attribute's name, I connect both reader's output to a "sorter" transformer. 

 

And here, a weird thing happens, the sorter output ATTRIBUTE_1 as UINT8 (I expected that FME would choose the biggest datatype, not the smallest one).

 

But some value are bigger than 255:

CaptureIs that a miracle ? 

 

Then I use a StatisticCalculator to find the max value of ATTRIBUTE_1 group by some other attributes and the output is, this time, limited to 255. 

 

So why FME do not pick the biggest datatype ? How can a FME_UINT8 variable be bigger than 255 and what can I do to calculate my statistics correctly ?

 

Of course I can manually change the ATTRIBUTE_1 datatype, but that does not explain that weird behaviour. (BTW I'm using FME 2020.0 Build 20238)


0 replies

Be the first to reply!

Reply