Блокировка, возможно, случилась при импорте модели или была сделана вручную операцией Set Vertex Normal с включенной опцией Lock Normals.
Совет. Если вы не занимаетесь производством игр, вам вряд ли придется менять вершинные нормали вручную. Поэтому советую вам разблокировать их (с помощью Set Vertex Normal), а жесткостью ребер управлять с помощью Soften/Harden.
Проследите также, чтобы галка Set User Normal не была включена в Option Box операции Set to Face. Эта, еще одна нелогично названная, галка блокирует вершинные нормали и устанавливает их в весьма экзотическое направление.
Немного про историю и инстансирование Практически все операции полигонального моделирования создают историю. Как правило, исходные объекты основательно прячутся (превращаются в Intermediate Objects), однако остаются в сцене. Поэтому если вы не планируете использовать историю некоторых операций, удаляйте ее. В общем случае, история моделирования выглядит как цепочка нод, передающих друг другу модифицированную поверхность в виде связки атрибутов .output=>.inputPolymesh.

Часто попытка модифицировать атрибуты ноды где-нибудь в начале дерева истории оказывается весьма неудачной: ведь некоторые операции меняют количество и порядок вершин, поэтому нижеследующие операции начинают действовать на уже совсем другие компоненты, и результат становится, мягко говоря, забавным.

Поэтому общий совет может быть следующим: перед очередной операцией моделирования убивайте историю. Если это слишком сильное требование и выработать такую привычку невозможно в силу темперамента, могу смягчить свой совет: убивайте историю периодически.
Иногда возникает задача убить не всю историю, а только отрезать ее хвост, удалив, таким образом, часть дерева истории. Можно, конечно, взять в руки грязный консервный нож, открыть Hypergraph и «откусить» начало истории вручную, просто удалив нужные ноды. Для тех, кто не переносит вида крови, есть специальные MEL-скрипты, делающий это автоматически.
Они здесь:
http://highend3d.com/maya/downloads/meLscripts/data_management/257.html
http://highend3d.com/maya/downloads/mel_scripts/1722.html
В главе про изнанку MAYA я привел довольно подробный пример, объясняющий работу с полигональной историей и атрибутами inMesh и outMesh.
Здесь я лишь напомню про распространенный трюк, активно применявшийся и применяющийся поныне, как альтернатива операции Smooth Proxy.
Возьмите полигональную поверхность, например, куб.
Удалите историю, скопируйте и отодвиньте его вправо.
Выберите обе копии, откройте Hypergraph и выполните там Graph=>lnput and Output Connections.

Нажмите Shift и перетащите средней кнопкой мыши ноду pCubeShapel на pCubeShape2.
Появится Connection Editor. В нем надо соединить атрибут pCubeShapel .outMesh с атрибутом pCubeShape2. inMesh.

Теперь поверхность второго куба «синхронизирована» с поверхностью первого. При изменении формы первого куба происходит немедленное обновление связи и форма второго куба мгновенно перестраивается.
Внимание! В этом случае есть кардинальное отличие от простого инстансирования с помощью операции Duplicate (Geometry Type=lnstance). Оно заключается в том, что поверхностей две и одна повторяет форму другой. В случае инстансирования поверхность одна на два объекта (трансформа).