היה פעיל בתנועת 'המחנות העולים' וממייסדי 'התנועה המאוחדת' וקיבוץ חמדיה. יצא בשליחות 'החלוץ' לארצות הברית ושם למד מדעי החברה ב'ניו סקול' בניו יורק. בשנים 1955-1953 שימש כמזכיר 'התנועה המאוחדת'. היה פעיל במפא"י, ניהל את מרכז ההסברה של המפלגה ונמנה עם 'צעירי מפא"י'. בסוף שנות ה-50 התקרב לפנחס ספיר והשתלב במנגנון ההסתדרות הכללית. בעת הסכסוך בין דוד בן-גוריון ללוי אשכול, היה מתומכיו של אשכול. בשנת 1966 נבחר לוועדה המרכזת של ההסתדרות וכיהן כמזכיר חברת העובדים. בשנים 1976-1972 שימש כמנכ"ל קופת חולים הכללית. באותה תקופה היה מבכירי הפעילים במפלגת העבודה ונחשב מועמד לכהן כשר.

באוגוסט 1976 הוכרז ידלין כמועמד של הממשלה לתפקיד נגיד בנק ישראל. ב-18 באוקטובר 1976, יומיים לפני מינויו לתפקיד, נעצר בחשד למעורבות בעסקאות לא כשרות בכספי קופת חולים. כעבור ארבעה חודשים הורשע על פי הודאתו בעבירות שוחד וקבלת טובות הנאה. במשפט טען כי רוב הכספים שקיבל באותן עיסקאות הועברו לקופת מפלגת העבודה ונועדו לתעמולת בחירות. הוא נדון לחמש שנות מאסר ולקנס כספי.

בתקופה שישב בכלא כתב את ספרו 'עדות' שבו טען כי חבריו בגדו בו והפקירו אותו כטרף קל לציבור ולמערכת המשטרתית והמשפטית. לדבריו הוא היה קורבן של מערכת מפלגתית מושחתת שהקריבה אותו כדי להציל את עצמה. לאחר שיחרורו בשנת 1981 עבר לארצות הברית. לאחר עשרים שנה שבהן עסק בייעוץ כלכלי, שב לארץ והתגורר בתל אביב.

פרשת ידלין היתה חוליה בשרשרת של פרשיות שחיתות שנחשפו באותה תקופה ואשר נקשרו למפלגת העבודה. הפרשה גרמה נזק רב למפלגה ונחשבת לאחד הגורמים שהביאו ל'מהפך' בבחירות לכנסת ה-9 במאי 1977.