Интересно получается, раньше не задумывалась над этим популярным выражением. Выходит, что муж-жена-любовница - это 3 вершины, для того, чтобы получился треугольник, нужно соединить их.
Как вы себе это представляете в жизни?
Такой же расклад с ситуацией жена-муж-любовник, вершины треугольника, соединив которые получится абсурдная ситуация.
Согласна с автором вопроса, что это угол. В этом случае, подходит выражение, что люди загнали себя в угол.