В прямоугольной системе координат построен треугольник AOB даны координаты точек O(0;0;0);A(-3;-4;6);B(7;1;-9) найти длину отрезка OC если точка C принадлежит отрезку AB и известно что AC:CB=4:1

Найлем  для начало   стороны AB=√(8-4)^2+(2-6)^2  =√ 16 +16=2√8CD=√(-2-4)^2+(-1+3)^2 =√36+4 =√40 BC=√(4-8)^2+(-3-2)^2=√16+25=√41AD=√(-2-4)^2+(-1-6)^2=√36+49=√85 на рисунке можно видеть что это   трапеция выходит,  можно раздлить эту трапецию на два треугольника   затем найти площадь каждой    и суммировать Площадь треугольника S=ab/2*sinaнайдем угол   между  АВ  и AD   через скалярAB {4;-4}AD{-6;-7}cosa=4*-6+ 4*7 / √32*85 = 4/√2720теперь  sina=√1-16/2720=52/√2720теперь площадь S= 52/√2720     * √2720/2 =  26  теперь площадь другого треугольника  опять угол   B (8; 2), C (4; -3), D (-2; -1) ВС={-4;-5} CD={-6;2} cosa= 24-10/√1640 = 10/√1640 sina = √1-100/1640 = √1540/1640 S=√41*40/2 * √1540/1640  =√1540/2   = √385 S=√385+26   площадь искомая

См. рисунок в приложении.
Обозначим стороны прямоугольника
 MK=CN=х
 и
MC=KN=у
Тогда
S(прямоугольника)=x·y
Из подобия прямоугольных треугольников
АВС и AKM
AM:AC=MK:CB

5x=8(5-y)
5x=40-8y
x=(40-8y)/5

S=(40-8y)·y/5
S(y)=(40y-8y²)/5
Исследуем эту функцию на экстремум.
Находим производную.
S`(y)=(40-16y)/5
Приравниваем ее к нулю
40-16у=0
у=2,5- точка максимума, так как производная при переходе через эту точку меняет знак с + на - 
слева от точки 2,5:   S`(1)=34/5 >0
справа от точки 2,5: S`(4)=-24/5<0

x=(40-8y)/5=(40-8·2,5)/5=4
ответ. S=4·2,5=10  кв см - наибольшая площадь