He tomado como punto de partida la imagen de botones. La primera operación es seleccionar la banda del histograma de interés y aplicarle un Threshold para obtener la imagen binaria
La imagen binaria retocada (con Hole_Fill y lo que haga falta), tiene el fondo negro (que image J lo toma como 0) La imagen binaria debe invertirse para que sea 0 la región que nos interesa (en este caso los botones)
La operación de relación es Transparent-Zero Ahora lo que permanece es lo que coincide con los botones (que son cero).
Para seguir trabajando se debe volver a seleccionar con Threshold la imagen resultante, pero sin aplicar la máscara (dejando la imagen cubierta de rojo) y con un rango de selección entre Ahora se mide Analyze Particles Si te parece incómodo, una solución es pintar de negro el fondo y segmentar desde 1 a 255 (es lo mismo). Entonces el fondo se elimina como negro.