1. Вектор(линия), в общем то - это прямая палка во всех плоскостях. Для чего нужно вырезать углубление под прямую палку палку на 3Д модели, и как прямая линия(палка) должна учесть рельеф, если она прямая в любой плоскости? Надо хотя бы нарисовать для примера то, что в принципе надо получить, ибо постановка задачи неясно прописана.
2. Алгоритм снятия карта высот(тот, что на станке) промеряет рельеф поверхности. Но не сильно сложной. Чаще это применяют, чтоб учесть негоризонтальность плоскости стола или верха заготовки. Если снимать карту сильно часто(с высоким разрешением) - надо отпуск брать долгосрочный, чтоб дождаться результата

. Про дальнейшую обработку результата пока промолчу. Хотя, если требуется профрезеровать тонкую прямолинейную канавку одинаковой глубины с учетом рельефа - тут еще можно попробовать с картой высот поиграться.
3. Если требуется наложить векторное изображение на криволинейную поверхность - это несколько другой вопрос. А чтоб еще и вырезать это наложенное изображение на уже
готовой 3Д заготовке - это еще один другой вопрос