]> asedeno.scripts.mit.edu Git - linux.git/commit
gpu: ipu-v3: image-convert: fix output seam valid interval
authorPhilipp Zabel <p.zabel@pengutronix.de>
Tue, 13 Aug 2019 12:30:25 +0000 (14:30 +0200)
committerPhilipp Zabel <p.zabel@pengutronix.de>
Mon, 19 Aug 2019 14:24:37 +0000 (16:24 +0200)
commit82c3e948cc0fe7e01b39d437f7a58b197ebb422d
tree6391b3f2a75346c119cbaf4b71ccc3cd8d9e79fb
parentca84b1b860407109b4b5f3802907f13bbef5d0fd
gpu: ipu-v3: image-convert: fix output seam valid interval

This fixes a failure to determine any seam if the output size is
exactly 1024 multiplied by the number of tiles in a given direction.
In that case an empty interval out_start == out_end is being passed
to find_best_seam, which looks for a seam out_start <= x < out_end.

Also reduce the interval for all but the left column / top row, to
avoid returning position 0 as best fit.

Signed-off-by: Philipp Zabel <p.zabel@pengutronix.de>
drivers/gpu/ipu-v3/ipu-image-convert.c