در دوران حمله مغول بزرگترین کسی که توانست سند استادی علوم ریاضی را چنانکه در ایران پیش از مغول بود بگیرد و از زوال و انحطاط فوری آن جلوگیری کند، خواجه نصیرالدین محمد بن حسن طوسی است. وی بهمان میزان که در حکمت اهمیت دارد در ریاضیات نیز دارای ارزش و اهمیت است. بزرگترین کار خواجه نصیر نوشتن تحریرات ریاضی اوست. رساله‌ها و کتاب‌هایی که پیش از او از زبان‌های دیگر به عربی درآمده بود، اغالب به ترجمه‌ی تحت اللفظ و بعضی از آن‌ها نامفهوم و محتاج اصلاح و تحریر ثانوی بوسیله یک ریاضی‌دان مطلع بود. این کار را خواجه نصیر با مهارت انجام داد و یک دسته از کتاب‌های ریاضی را که برای داشنجویان علوم در مراحل مختلف تحصیل لازم بود، با بیانی روشن و نظمی خاص در دسترس آنان قرار داد، مثل:

شرح کتاب الکره والاسطوانه ارشمیدس، کتاب تکسیرالدائره از ارشمیدس ، کتاب مأخوذات ارشمیدس، کتاب مفروضات ارشمیدس، کتاب بعدالشمس والقمر از اریسطرخس (Aristarchos de Samos) ، کتاب المطالع از ابسقلاوس (Hypsyklès) ، ترجمه‌ی کتاب الاکر از ثاوذوسیوس ( hèodose de Bithynie) و کتاب المساکن و کتاب الایام و اللیالی (Les jours et les nuits از همین مؤلف ، کتاب المعطیات (Les Donnèe) و اختلاف المناظر (Traitè ď Optique) – و کتاب اصول الهندسه (Les Elèments de Geometrie) از اقلیدس، کتاب اشکال الکریه ( Les Sphèriques ) راجع به مثلثات کروی از منلاؤس- ( Mènèlaos ď Alexandrie) و المجسطی از بطلمیوس و کتاب قطع مخروطات Traitè des sections coniques) ) از آپولونیوس (Apollonius de Pergamon) .

زحماتی که محقق طوسی در تنقیح و اصلاح و تحریر آثار ریاضی‌دانان بزرگ دنیای پیش از خود کشید، علوم ریاضی را برای علمای عهد او و کسانی که بعد از او سرگرم مطالعه و تحقیق در ابواب این علم بودند، علمی سهل الوصول ساخت و آنان را بی آن که دچار موانع گوناگون و مشکلات لاینحل شوند، از زلال حکمت ریاضی یونانی سیراب ساخت و به عبارت دیگر خواجه همان کار را در علوم ریاضی کرد که ابوعلی سینا پیش از او در حکمت مشاء انجام داد.

کار علمی دیگر خواجه نصیر آن است که توانست با جلب مساعدت هولاکو نواده چنگیز در مراغه رصدخانه‌ایی ترتیب دهد و آن را تا هنگام وفات خود اداره کند و در آن‌جا کتابخانه معتبری به وجود آورد که به‌خصوص از لحاظ کتاب‌های ریاضی بسیار قابل توجه بود. زیج ایلخانی محصول کار خواجه در این رصدخانه است. درباره رصدخانه مراغه و مخصوصا" آلات رصدی که در آن مورد استفاده قرار می گرفت متصدی امور رصدخانه یعنی مؤیدالدین اللمشقی (هم‌عصر خواجه نصیر طوسی) کتاب سودمندی تألیف نموده که در دست است.

خواجه نصیرالدین طوسی به علوم دیگری از قبیل جغرافیا و فلسفه و طب و کلام هم متوجه و درآن‌ها استاد بود(وفاتش در 672 اتفاق افتاد). شاگرد خواجه نصیر یعنی علامه قطب الدین محمد بن مسعود شیرازی در عین اطلاع از علوم مختلف، ریاضی دان و منجم بزرگی نیز بوده است و مدتی در خدمت سلطان احمد تکودار و ارغون خان ایلخانی بسر می برده است.