Представям моя подход, който може би не е оптимален,
но е решение(оказа се, че съм решил само един от случаите, в общия случаи трябва да се назгледат повече варианти за разположението на тези точки):
Основното е от дадените разстояния да намериш ъглите
ADB, ADC, BDC(ъглите с точка Д) и
AEB, AEC, EBC(ъглите с точка Е).
Оттам забелязваме следното: (1)
- Ако точка Д е вътрешна за АВС(или е върху страните), сборът от ъглите с точка Д ще е 360°
- Ако точка Д е външна за АВС, тогава сборът от ъглите е <360°.
Така можем да разграничим дали точката е външна или вътрешна за триъгълника.
Ето още едно важно прозрение: (2)
Нека разделим равнината извън триъгълник АВС на три части:
1) частта, която се намира между правите АВ и АС и съдържа триъгълник АВС
2) частта, която се намира между правите АВ и ВС и съдържа триъгълник АВС
3) частта, която се намира между правите АС и ВС и съдържа триъгълник АВС
Ако точката е външна за АВС, то най-големият ъгъл съответства на това в коя част от равнината се намира точката
1) ако < BDC е МАХ, тогава сме в 1) - съответства на точка А(това съответствие с точка ще ти стане ясно по-долу)
2) ако < АДС е МАХ, тогава сме в 2) - съответства на точка В
3) ако < АДВ е МАХ, тогава сме в 3). - съответства на точка С
Сега от (1) имаме 3 случая:
1) сумата от всички 6 ъгъла(оцветените) е точно 720 градуса.
Тогава и двете точки са вътрешни за АВС(или са по контурите му).
Изчисляваме ДЕ използвайки триъгълник АДЕ(принципно можеш да използваш всеки триъгълник - ДЕС или ДЕВ също вършат работа)
Виждаш дали <CAD+<BAE ≤ <BAC и ако е вярно, тогава
<DAE=<BAC-<CAD-<BAE. В противен случай <DAE=<BAC-<BAD-<CAE
Така намерихме големината на <ЕАД.
Имаме и АЕ, АД
Откъдето от Косинусовата теорема (3) [tex]ED=\sqrt{AE^2+AD^2-2*AE*AD*\cos\angle EAD}[/tex].
Тази формула е вярна дори А, Д и Е да лежат на една права.
Така решихме първия случай.
Нататък обаче съм писал глупости, защото има други положения на точките, които трябва да се изследват.
Оказва се, че всяка част от равнината има 2 подчасти, които доста променят нещата....
За общо решение честно казано не мога да се сетя, но споделям поне това, до което стигнах до момента, дано да ти е от полза

Би трябвало ако точките Д и Е са вътрешни да става по първата част, това би трябвало да е вярно на 100%, но останалите два случая не знам.
2) Само една от тройките ъгли(оцветените) е със сума 360 градуса, другата е <360°.
Тогава единият ъгъл е външен, другият е вътрешен за триъгълник АВС.
2.1) Използвайки (2) намираш в коя част от равнината е външната точка. Нека допуснем, че сме в случай 1) от (2)
2.2) Избираме точки, която не съответства на тази част от равнината, ако сме в 1) ще изберем В и С
2.3) Намираме <DBE=<DBA+<ABE(или другите ъгли - <DCE=<DCB+<BCE), като сме сигурни, че това ще е ъгъл между 0 и 180 градуса.
2.4) Използваме формулата (3) за DE от триъгълник DBE(или съответно от триъгълник DCE), понеже знаем DC, CE и <DBE
Така решихме и втория случай.
3) И двете тройки суми от ъгли(пак оцветените) са по-малки от 360°.
Тогава и двата ъгъла са външни.(получава се твоят случай).
Тогава използваш (2) и намираш най-големият ъгъл между тези, съдържащи Д(червените) и така намираш в коя част(погледни (2)) е Д(в случая Д е в 3) и му съответства т. С. По същия начин намираш, че Е е в 2) и съответства точка В.
Тогава взимаш 3-тата точка - А и изчисляваш
<DAE=<DAТова решение допуска, че знаем САМО разстоянията между точките.