糟糕，忽略我的评论：想到了另一种方法。
对于面部F1 和F2，将F2 的点作为两个三角形，例如(p0, p1, p2) 和 (p1, p2, p3) 分别。然后取F1 的边，即(p0, p1)、(p1, p2)、(p2, p3) 和(p3, p0)，然后将它们中的每一个与两个三角形相交。
我找到了一些代码来做到这一点：（改编自http://geomalgorithms.com/a06-_intersect-2.html）
#define SMALL_NUM 0.00000001
/*
returns: 0 if no intersection
1 if parallel but disjoint
2 if coplanar
*/
int intersect3D_RayTriangle(Vector P0, Vector P1, Vector V0, Vector V1, Vector V2)
{
Vector u, v, n; // triangle vectors
Vector dir, w0, w; // ray vectors
float r, a, b; // params to calc ray-plane intersect
// get triangle edge vectors and plane normal
u = V1 - V0;
v = V2 - V0;
n = cross(u, v);
dir = P1 - P0; // ray direction vector
w0 = P0 - V0;
a = -dot(n, w0);
b = dot(n, dir);
if (fabs(b) < SMALL_NUM) // ray is parallel to triangle plane
return (fabs(a) < SMALL_NUM ? 2 : 0);
// get intersect point of ray with triangle plane
r = a / b;
if (r < 0.0 || r > 1.0)
return 0; // => no intersect
Vector I = R.P0 + r * dir; // intersect point of ray and plane
// is I inside T?
float uu, uv, vv, wu, wv, D;
uu = dot(u, u);
uv = dot(u, v);
vv = dot(v, v);
w = I - V0;
wu = dot(w, u);
wv = dot(w, v);
D = uv * uv - uu * vv;
// get and test parametric coords
float s, t;
s = (uv * wv - vv * wu) / D;
if (s < 0.0 || s > 1.0) // I is outside T
return 0;
t = (uv * wu - uu * wv) / D;
if (t < 0.0 || (s + t) > 1.0) // I is outside T
return 0;
return 1; // I is in T
}
P0 和 P1 形成 F1 的边之一，而 V0、V1 和 V2 形成 F2 的三角形之一。
- 如果其中一项检查（应该有 8 个）返回 1，那么它们肯定相交（立即返回 true）。
- 如果所有个都返回0，那么它们不相交。
- 如果其中一个检查返回 2（第一个检查可能会这样做），那么我们需要一个不同的方法。停止这些检查并立即进入第 2 步。
这部分适用于多边形是否共面（即平行且在同一平面内）。这一次，取F1 的所有边和F2 的所有边；对于F1 的每一条边，检查它是否与F2 的任何一条边相交，如果一对相交，则立即返回true。
要做这样的边相交：（改编自https://gist.github.com/hanigamal/6556506）
A0、A1 从F1 形成边缘，而B0、B1 从F2 形成边缘。
int intersection(Vector A0, Vector A1, Vector B0, Vector B1)
{
Vector dA = A1 - A0;
Vector dB = B1 - B0;
Vector dC = B0 - A0;
double s = dot(cross(dC, dB), cross(dA, dB)) / norm2(cross(dA, dB));
return (s >= 0.0 && s <= 1.0);
}