Skip to main content
Question

Merging a UINT8 attribute with a UINT64 attribute output an UINT8 attribute that goes beyond 255.


Hi,

 

I have two CSV readers containing the same informations but with different range of value. 

 

Let's say that I have something like this:

Reader_1:
[ATTRIBUTE_1](UINT8)
[ATTRIBUTE_2](DOUBLE)

And 

Reader_2:
[ATTRIBUTE_1](UINT64)
[ATTRIBUTE_2](DOUBLE)

(FME has choosed the datatype automatically)

 

Since both reader have the same attribute's name, I connect both reader's output to a "sorter" transformer. 

 

And here, a weird thing happens, the sorter output ATTRIBUTE_1 as UINT8 (I expected that FME would choose the biggest datatype, not the smallest one).

 

But some value are bigger than 255:

CaptureIs that a miracle ? 

 

Then I use a StatisticCalculator to find the max value of ATTRIBUTE_1 group by some other attributes and the output is, this time, limited to 255. 

 

So why FME do not pick the biggest datatype ? How can a FME_UINT8 variable be bigger than 255 and what can I do to calculate my statistics correctly ?

 

Of course I can manually change the ATTRIBUTE_1 datatype, but that does not explain that weird behaviour. (BTW I'm using FME 2020.0 Build 20238)

0 replies

Be the first to reply!

Reply


Cookie policy

We use cookies to enhance and personalize your experience. If you accept you agree to our full cookie policy. Learn more about our cookies.

 
Cookie settings