มหาวิทยาลัยสงขลานครินทร์ ได้ดำเนินการสอนหลักสูตรระดับบัณฑิตศึกษา ตั้งแต่ปีการศึกษา 2522 โดยเปิดรับนักศึกษาในหลักสูตรปริญญาโท สาขาวิชาเคมีศึกษาเป็นสาขาวิชาแรกและได้จัดตั้งบัณฑิตวิทยาลัยอย่างเป็นทางการ เมื่อวันที่ 11 มิถุนายน 2523 มีฐานะเป็นคณะหนึ่งในมหาวิทยาลัย โดยมีภาระกิจหลัก คือ ประสานงานในการจัดการเรียนการสอนระดับบัณฑิตศึกษา รักษามาตรฐานการศึกษาและประกันคุณภาพการศึกษา ส่งเสริม สนับสนุนการค้นคว้าวิจัย และเป็นหน่วยงานกลางในการรับสมัครสอบคัดเลือกบุคคลเข้าศึกษาต่อระดับบัณฑิตศึกษา

ปัจจุบันบัณฑิตวิทยาลัย มีหลักสูตรระดับบัณฑิตศึกษาจำนวน 166 หลักสูตร แยกเป็นหลักสูตรระดับประกาศนียบัตร 2 สาขาวิชา หลักสูตรระดับประกาศนียบัตรบัณฑิตชั้นสูง 3 สาขาวิชา หลักสูตรระดับปริญญาโท 109 สาขาวิชา และหลักสูตรระดับปริญญาเอก 52 สาขาวิชา