เดิมอำเภอรามันเป็นหนึ่งในเจ็ดหัวเมือง มีพระยาเมืองเป็นผู้ปกครองปกครอง โดยตัวเมืองตั้งอยู่ริมแม่น้ำสายบุรี บริเวณตำบลกายูบอเกาะในปัจจุบัน คำว่า “รามัน”เป็นภาษามาลายูแปลว่า “สนุก” เจ้าพระยาเมืองจัดให้มีการละเล่นมโหรสพ เพื่อให้ประชาชนมีความสนุกสนานเพลิดเพลินครึกครื้น จึงเรียกว่า นครรามันห์ หรือ ศรีรามันห์ หมายถึง เมืองสนุกสนาน ต่อมาสมัยสมเด็จพระเจ้าอยู่หัวจุลจอมเกล้าเจ้าอยู่หัว มีการเปลี่ยนแปลงการปกครอง โดยพระยาเมืองถูกลดอานาจลงและทางส่วนกลางได้แต่งตั้งให้ข้าหลวงเป็นผู้ปกครองโดยย้ายที่ทาการปกครองไปตั้งที่ตำบลโกตาบารูและขึ้นตรงต่อเมืองปัตตานี ซึ่งเป็นเมืองข้าหลวงใหญ่ แต่เนื่องจากตัวเมืองอยู่ห่างจากแม่น้ำ ไม่สะดวกในการคมนาคมขนส่ง การค้าขายกับเมืองอื่น จึงได้ย้ายเมืองอีกครั้งไปอยู่ริมแม่น้ำท่าสาป (แม่น้ำปัตตานี ปัจจุบัน) เรียกว่า เมืองยาลอ หรือ เมืองยะลา ต่อมาเมืองปัตตานีได้เปลี่ยนเป็นมณฑลและเปลี่ยนตำแหน่งข้าหลวงใหญ่เมืองปัตตานีเป็นตำแหน่ง เทศาภิบาลมณฑล เมืองรามัน จึงถูกยุบ ปีพ.ศ. 2457มีการจัดรูปแบบการบริหารราชการแผ่นดินใหม่อีกครั้งเมืองรามัน จึงเปลี่ยนเป็นอำเภอรามัน และได้ย้ายที่ว่าการอำเภอไปตั้งที่ตำบล โกตาบารูอีกครั้ง ปี พ.ศ. 2460 ทางราชการได้เปลี่ยนชื่อเป็นอำเภอโกตาบารู โดยเรียกตามตำบลที่ตั้ง ปีพ.ศ.2481ทางราชการได้เปลี่ยนชื่ออำเภอโกตาบารูกลับมาใช้เป็นอำเภอรามันเช่นเดิม จนกระทั่ง ปี พ.ศ. 2475 ได้ย้ายที่ว่าการอำเภอ ไปตั้งอยู่ที่ ตาบลกายูบอเกาะ จนถึงปัจจุบันนี้