Seja a o n° de moedas de R$ 0,25 e b o de R$ 0,50.

Se ao todo são 17 moedas, então: a + b = 17.
Se o valor total é R$ 6,50, então: 0,25a + 0,50b = 6,50.



a + b = 17 ⇒ b = 17 - a

Substituindo o valor de b da primeira equação na segunda, temos:
0,25a + 0,50 (17 - a) = 6,50
0,25a + 8,50 - 0,50a = 6,50
0,25a + 8,50 - 0,50a - 6,50 = 0
0,25a - 0,50a - 2 = 0
-0,25a - 2 = 0 (multiplicando ambos por [-1])
0,25a = 2
a = 2 / 0,25
a = 8

Voltando à primeira equação:
8 + b = 17
b = 17 - 8
b = 9

resposta: são 8 moedas de R$ 0,25 e 9 de R$ 0,50.

Espero ter ajudado. Valeu!​