Параметр Размер задает степень фильтрации, а именно — ширину и высоту квадратного фильтра. Он должен быть нечетным и может принимать значения 1, 3, 5 и 7.
Параметры Порядок по Х, Порядок по Y задают степень производной в фильтре. Обычно используют значения 0, 1 и, как максимум, 2. Значение 0 означает, что производная в этом направлении браться не будет, но в данном случае хотя бы одно из направлений должно не равняться нулю.
Преобразование Собеля комбинирует операции гауссовой фильтрации и дифференцирование, что приводит к более устойчивому к шуму изображению. Чаще всего для вычисления первой производной по X или Y выставляются параметры:
Подробнее о настройках и использовании фильтра можно прочитать в пошаговой инструкции Туториал по использованию фильтра «Преобразование Собеля».