ג'יימס מדיסון ידוע כאבי החוקה. לפני ה האמנה החוקתית, מדיסון בילתה שעות רבות בחקר מבני ממשל מרחבי העולם לפני שהעלה את הרעיון הבסיסי של רפובליקה מעורבת. הוא אמנם לא כתב באופן אישי כל חלק בחוקה, אך הוא היה שחקן מפתח בכל הדיונים וטען בעוצמה עבור סעיפים רבים שהיו בסופו של דבר להכנס לחוקה כולל ייצוג מבוסס אוכלוסין בקונגרס, הצורך בבדיקות ויתרות ותמיכה בפדרל חזק מנהלים.
מדיסון ניגש לקונגרס לבקש הכרזת מלחמה נגד אנגליה שהחלה את המדינה מלחמת 1812. זאת מכיוון שהבריטים לא יפסיקו להטריד אוניות אמריקאיות ולהרשים חיילים. האמריקאים נאבקו בהתחלה, איבדו את דטרויט ללא קטטה. חיל הים היה טוב יותר עם הקומודור אוליבר הזארד פרי מוביל את התבוסה של הבריטים באגם אריה. עם זאת, הבריטים עדיין הצליחו לצעוד על וושינגטון, ולא נעצרו עד שהיו בדרך לבולטימור. המלחמה הסתיימה בשנת 1814 עם קיפאון.
ביחד עם אלכסנדר המילטון וג'ון ג'יי, ג'יימס מדיסון כתב את הסרט ניירות פדרליסטים. 85 מאמרים אלה נדפסו בשני עיתונים בניו יורק כדרך להתווכח בעד חוקה כך שניו יורק תסכים לאשר אותה. אחד המפורסמים מבין העיתונים הללו הוא מספר 51 שמדיסון ציינה את הציטוט המפורסם "אם גברים היו מלאכים, שום ממשלה לא הייתה נחוצה ..."
מדיסון היה אחד התומכים העיקריים במעבר עשרת התיקונים הראשונים לחוקה, המכונים יחד "מגילת הזכויות". אלה אושררו בשנת 1791.
דולי פיין טוד מדיסון הייתה אחת הגברות הראשונות והאהובות ביותר ונודעה כמארחת נהדרת. מתי של תומאס ג'פרסון אשתו נפטרה בזמן שכיהנה כנשיאה, היא עזרה לו בתפקידי מדינה רשמיים. כאשר התחתנה עם מדיסון, היא נפרשה על ידי אגודת הידידים כי בעלה לא היה קוואקר. נולד לה ילד אחד בלבד בנישואין קודמים.
שתי שטרות סחר חוץ עברו בתקופת כהונתו: חוק אי קיום יחסי מין משנת 1809 וחוק מס '2 של מקון. החוק ללא יחסי מין היה בלתי ניתן לאכיפה יחסית, ואיפשר לארה"ב לסחור עם כל המדינות למעט צרפת ובריטניה. מדיסון הרחיב את ההצעה שאם אחת מהארצות האזרחיות תפעל להגנה על אינטרסים של משלוח אמריקני, הן יורשו לסחור בהן. בשנת 1810 בוטל מעשה זה באמצעות הצעת חוק מס '2 של מקון. נאמר כי מדינה שתפסיק לתקוף אוניות אמריקאיות תהיה מועדפת, וארה"ב תפסיק לסחור עם האומה האחרת. צרפת הסכימה, אך בריטניה המשיכה להרשים חיילים.
כאשר הבריטים צעדו על וושינגטון במלחמת 1812, הם שרפו מבנים חשובים רבים כולל חצרות חיל הים, בניין הקונגרס האמריקני הבלתי גמור, בניין האוצר והלבנים בית. דולי מדיסון נמלט מהבית הלבן כשהוא לוקח עמה אוצרות רבים כשנראתה סכנת הכיבוש. במילותיה, "בשעה מאוחרת זו הושגה עגלה, והיה לי מלא אותה בצלחת ובמוצרים הניידים היקרים ביותר, השייכים לבית... חברנו האדיב, מר קרול, בא לזרז את עזיבתי, ובהומור רע מאוד איתי, כי אני מתעקש בהמתנה עד שתתבטא התמונה הגדולה של הגנרל וושינגטון, והיא מחייבת להתנתק מהגדה קיר... הוריתי לשבור את המסגרת ולהוציא את הבד. "
ה ועידת הרטפורד הייתה פגישה פדרליסטית חשאית עם אנשים מקונטיקט, רוד איילנד, מסצ'וסטס, ניו המפשיירורמונט שהתנגדו למדיניות הסחר במדיסון ומלחמת 1812. הם הגיעו עם מספר תיקונים שביקשו להעביר לטיפול בנושאים שהיו להם עם המלחמה והמבורגואים. עם סיום המלחמה וידיעות על הישיבה הסודית, המפלגה הפדרליסטית הוסמכה ובסופו של דבר התפרקה.