请问在三维空间中，如何判断三角形ABC在三角形DEF中？

Question

在空间中，有两个三角形，分别是三角形ABC和三角形DEF，它们的顶点坐标分别是A（x1，y1，z1），B（x2，y2，z2），C（x3，y3，z3）；D（x4，y4，z4），E（x5，y5，z5），F（x6，y6，z6），请问判断三角形ABC在三角形DEF的具体算法是什么？

Answer 1

首先要知道 三个点可以确定唯一的一个平面 ，这个在立体几何中一般称为 “第三公理”，高中应该都学过

如果这两个三角形共面，那么它们所有的点才会在同一个平面上。也就是说，至少有四个点是共线的。（如果都不共面，那直接不用判断了，肯定不会存在包含关系）

如何判断共面呢？可以根据 法线向量 （也就是垂直于平面的向量）判断，比如假设 DEF 的法线向量为 N_DEF，则有公式 N_DEF = (E-D) × (F-D)

对于三角形 ABC 中的每个顶点（A、B、C），计算该顶点到三角形DEF的三个边的法线向量：N1、N2、N3 分别为

N1 = (E-A) × (D-A)
N2 = (F-B) × (E-B)
N3 = (D-C) × (F-C)

那判断两个三角形向量的点积即可

以下是 java 实现

public class TriangleInTriangle {
     public static void main(String[] args) {
        // 三角形ABC的顶点坐标（注释的是三角形不包含的测试用例）
        // double[] A = {1, 2, 3};
        // double[] B = {4, 5, 6};
        // double[] C = {7, 8, 9};
        double[] A = {0, 0, 0};
        double[] B = {1, 0, 0};
        double[] C = {0, 1, 0};

        // 三角形DEF的顶点坐标
        // double[] D = {11, 12, 13};
        // double[] E = {14, 15, 16};
        // double[] F = {17, 18, 19};
        double[] D = {0, 0, 0};
        double[] E = {1, 0, 0};
        double[] F = {0, 1, 0};

        // 计算三角形DEF所在平面的法向量N
        double[] N = crossProduct(subtractVectors(D, E), subtractVectors(D, F));

        // 判断三角形ABC的顶点是否都位于三角形DEF所在平面的同一侧
        boolean allInSameSide = dotProduct(subtractVectors(A, D), N) <= 0 &&
                dotProduct(subtractVectors(B, D), N) <= 0 &&
                dotProduct(subtractVectors(C, D), N) <= 0;

        // 进一步判断三角形ABC是否完全位于三角形DEF中
        boolean isTriangleInclusion = allInSameSide &&
                isPointInsideTriangle(A, D, E, F) &&
                isPointInsideTriangle(B, D, E, F) &&
                isPointInsideTriangle(C, D, E, F);

        System.out.println("三角形ABC是否在三角形DEF中：" + isTriangleInclusion);
    }

    // 计算两个向量的叉乘
    public static double[] crossProduct(double[] u, double[] v) {
        double[] result = new double[3];
        result[0] = u[1] * v[2] - u[2] * v[1];
        result[1] = u[2] * v[0] - u[0] * v[2];
        result[2] = u[0] * v[1] - u[1] * v[0];
        return result;
    }

    // 计算两个向量的点积
    public static double dotProduct(double[] u, double[] v) {
        return u[0] * v[0] + u[1] * v[1] + u[2] * v[2];
    }

    // 计算两个向量的差向量
    public static double[] subtractVectors(double[] u, double[] v) {
        double[] result = new double[3];
        for (int i = 0; i < 3; i++) {
            result[i] = u[i] - v[i];
        }
        return result;
    }

    // 判断一个点是否在三角形内部
    public static boolean isPointInsideTriangle(double[] P, double[] A, double[] B, double[] C) {
        double[] v0 = subtractVectors(C, A);
        double[] v1 = subtractVectors(B, A);
        double[] v2 = subtractVectors(P, A);

        double dot00 = dotProduct(v0, v0);
        double dot01 = dotProduct(v0, v1);
        double dot02 = dotProduct(v0, v2);
        double dot11 = dotProduct(v1, v1);
        double dot12 = dotProduct(v1, v2);

        double invDenom = 1 / (dot00 * dot11 - dot01 * dot01);
        double u = (dot11 * dot02 - dot01 * dot12) * invDenom;
        double v = (dot00 * dot12 - dot01 * dot02) * invDenom;

        return (u >= 0) && (v >= 0) && (u + v <= 1);
    }
}

我的测试用例在注释中，这版应该没问题