Ангем тебе в помощь. Возможно есть более простой способ, но мне сразу пришёл в голову вот такой:
1. Вычисляем радиус описанной окружности (вариантов масса, формулы вот
тут).
2. Выбираем любую сторону (
a) и находим длину серединного перпендикуляра к этой стороне (по формуле Пифагора это получается корень из
(R*R - a*a/4)).
3. Строим
орт к нашей выбранной стороне
a, точнее к вектору, представляющему нашу сторону (меняем местами координаты, добавляя к одной из них минус и делим координаты на длину вектора).
4. Умножаем орт на длину вычисленной на шаге 2 серединной высоты.
5. Устанавливаем полученный вектор в середину стороны
а, и, зная все координаты, получаем координаты центра описанной окружности.
6. Теперь, зная координаты центра описанной окружности (
Xc, Yx) и радиус описанной окружности (
R), несложно вычислить квадрат, ограничивающего эту окружность
(Xc - R, Yc - R, Xc + R, Yc + R).
P.S. Небольшая заметочка для сообразительных. На шаге 3 мы могли сменить знак либо у одной, либо у другой координаты, чтобы получить орт. Оба орта будут правильными (перпендикулярны исходному вектору-стороне), но при этом будут торчать в разные стороны от нашей стороны. Вопрос, как правильно выбрать нужный из этих двух ортов? Вопрос лежит на поверхности. Если угол треугольника, противолежащей нашей стороне, острый, то радиус описанной окружности лежит внутри треугольника, если же тупой, то снаружи. Острый угол или тупой, можно определить через косинус, который несложно вычисляется через скалярное произведение двух оставшихся сторон.