נולד ב-11 במאי 1922 בחיפה ולמד בבית הספר התיכון של המיסיון הבריטי בירושלים. בשנת 1940 הצטרף למפלגה הקומוניסטית של פלשתינה (פק"פ). בשנת 1943, לאחר פיצול המפלגה פרש ממנה ונמנה עם מייסדי 'הליגה לשחרור לאומי', אשר התנגדה בתחילה לתכנית החלוקה, והיה ממנהיגיה. בשנים 1948-1943 עבד במחלקת העבודות הציבוריות של ממשלת המנדט הבריטי. 

בשנת 1947, בעקבות תמיכתה של ברית המועצות בתכנית החלוקה, פעל להשיג את תמיכת מפלגתו בתכנית. לאחר הקמת המדינה היה מראשי התומכים באיחוד מפלגתו עם מק"י. לאחר שהאיחוד יצא לפועל, היה חבר הוועד המרכזי של מק"י, חבר הלשכה, חבר המזכירות  וחבר מערכת בטאון המפלגה בשפה הערבית 'אל-איתיחאד'. נבחר לאסיפה המכוננת כנציג מק"י. אחרי כן נבחר לכנסת הראשונה והמשיך לכהן כחבר כנסת ברציפות עד לשנת 1990. בשנות ה-50 היה חבר נשיאות ועד השלום הישראלי, ומאז שנות ה-50, חבר נשיאות מועצת השלום העולמית. בשנת 1956, לאחר הטבח בכפר קאסם, אסף יחד עם מאיר וילנר עדויות מהפצועים. הם הפיצו אותן בציבור, בין השאר מעל בימת הכנסת, תוך ניצול חסינותם הפרלמנטרית, ובכך עקבו את מגבלות הצנזורה הצבאית שניסתה להסתיר את ההתרחשויות.

עד שנת 1965 כיהן כחבר כנסת מטעם מק"י. בשנת 1965 התעוררו במפלגה חילוקי דיעות בנוגע ליחס לברית המועצות. טובי, שדגל בציות לברית המועצות, פרש יחד עם מאיר וילנר ורוב החברים הערבים האחרים ונמנה עם מייסדי רק"ח. היה ממנהיגי המפלגה והמשיך לכהן כחבר כנסת מטעמה. מאז הקמת חד"ש כמסגרת משותפת לרק"ח ול'פנתרים השחורים' כיהן בכנסת כנציג סיעה זאת. בשנים 1989-1976 שימש כסגן מזכ"ל רק"ח, ובשנים 1989–1993 כיהן כמזכ"ל המפלגה. ביולי 1990, במסגרת הסכם רוטציה בחד"ש, פרש מהכנסת לאחר 41 שנות כהונה רצופות. היה אחרון חברי הכנסת הראשונה שנותרו בחיים. נפטר ב-12 במרץ 2011 בחיפה.