Движение в пространстве имеет степень свободы 6, а шара по плоскости 5. Систему координат надо брать точно не декартову. Задача сводится к движению шарика по желобу с 2 степенями свободы. Правда по болтреку он движется не по окружности, а по спирали. Но наверное это можно учесть. По решению уравнений: не пробывали решать систему из 2 дифуравнений... Вы путаете про 1 уравнение. Объясню просто: шарик одновременно катится и одновременно скользит. Столько интересных тем в анализе азартных игр, а вы все о своем.