A massa total vai ser a soma da massa de cada gás
m(total)=m(H2)+m(O2)

Sendo que:
m=n.MM  (MM é a massa molar)

Logo:
m(H2)=0,4.2=0,8g de hidrogênio
m(O2)=0,1.32=3,2g de oxigênio
m(total)=0,8 + 3,2 = 4g na mistura.

A quantidade total de moléculas (em mols), será a soma da quantidade de mols dos dois gases:
n(total)=0,4+0,1=0,5mols

Como pede o número de moléculas: 
Sabe-se que 1mol tem 6,02.10^23 moléculas, então:

1mol 6,02.10^23 moléculas
0,5mol X
X=0,5 . 6,02.10^23= 3,01.10^23 moléculas na mistura gasosa

Espero ter ajudado :)