حکیم خیّامی نیشابوری، ریاضیدان ممتاز