add
subtract
intersect
exclude
デフォルトはaddで、それぞれの領域を足し合わせます。
subtractは1つ目のマスク画像から2つ目のマスク画像で減算します。
intersectはマスク画像の塗りが重なる部分をマスク領域とします。
excludeはマスク画像の塗りが重なる部分以外をマスク領域とします。
以下のそれぞれの違いの図がわかりやすいでしょう。