Fórmula para la mezcla de colores RGB

Estoy trabajando en un ampliador de imágenes de PixelArt y por enésima vez se me olvida la fórmula para combinar dos colores (RGB). 

Donde a y b son los compenentes RGB de cada color. Se tiene que evaluar por cada par de R, G y B.

Referencias

• Computer Color is Broken - https://www.youtube.com/watch?v=LKnqECcg6Gw&t=168s