Тут всё ясно - конструкция сопливая, придерживал пальцем, естественно, голову слегка по Y наклонял. Ну и дополнительный показатель "сопливости" кронштейна.
Важно, что палец и погасил вибрацию того узла, в котором нарисовалась проблема после переделки.
На основании фото с окружностями, могу предположить, что, всё-таки, проблема в болтанке головы, а не второго зеркала.
Могу и ошибаться, но пока склоняюсь к голове.
Проверь просто на квадрат например начни 100*100 мм , а ещё если увеличиваешь в два раза то и там то ли умножить то ли делить тоже на два,
Да не забудь перед включением станка голову поближе к концевикам поставиь, и ориджин недалеко