Вмешке лежат красные и белые шары петя вынул один шар потом заглянул в мешок и сказал 3/5 оставшихся шаров белые после чего положил шара обратно в мешок затем вынули один шар заглянул в мешок и сказал 4/7 оставшихся шаров белые сколько шаров было в мешке первоначально

Предварительное замечание: вынутые шары в первый и во второй раз - это шары разного цвета, поскольку, если бы они были одинакового цвета - то ситуация полностью повторилась бы. Ведь вынутый шар возвращают обратно. И если бы первый и второй вынутые шары оказались одинакового цвета - то и доля былых шаров в мешке осталась та же самая - но она второй попытке другая (3/5 не равно 4/7).
Пусть красных шаров в мешке m штук, а белых шаров в мешке n штук.
Поэтому возможны два варианта: 1) первый вынутый шар красный, второй вынутый шар - белый.
2) первый вынутый шар белый, второй вынутый шар - красный.
Рассмотрим вариант 1).
По условию:  3/5 = n/( m-1+n),
4/7 = (n-1)/(m+n-1).
Решаем систему этих двух уравнений:
3*(m-1+n) = 5n,
4*(m+n-1) = 7*(n-1).
Разделим последние два уравнения друг на друга:
3/4 = 5n/(7*(n-1)),
3*7*(n-1) = 4*5n,
21n - 21 = 20n,
n = 21.
3*(m-1+21) = 5*21;
m+20 = 5*21/3 = 5*7 = 35;
m = 35 - 20 = 15.
15 красных шаров и 21 белых шаров.
Рассмотрим вариант 2).
По условию: 3/5 = (n-1)/(m+n-1).
4/7 = n/(m-1+n).
Решаем систему этих двух уравнений:
3*(m+n-1) = 5*(n-1).
4*(m-1+n) = 7n.
Разделим последние два уравнения друг на друга:
3/4 = 5*(n-1)/(7n),
3*7n = 4*5*(n-1),
21n = 20n - 20,
n = -20.
И данный случай невозможен, поскольку n - это количество белых шаров, оно не может быть отрицательным. Данный вариант развития событий (сначала белый шар, а потом красный шар) - невозможен.
ответ. 15 красных шаров и 21 белых шаров.