พื้นที่เขตบางคอแหลมมีประวัติความเป็นมายาวนาน นับตั้งแต่การประกาศใช้พระราชบัญญัติลักษณะปกครองท้องที่ พ.ศ. 2457 จนถึงปัจจุบัน ซึ่งสรุปสาระสำคัญโดยลำดับได้ดังนี้

เดิมพื้นที่เขตบางคอแหลมเป็นพื้นที่ส่วนหนึ่งของเขตยานนาวา มีชื่อเรียกว่า "บ้านทวาย" เนื่องจากมีชนชาติทวายอาศัยอยู่เป็นจำนวนมาก และจากการที่ชาวบ้านทวายมักนำกระบือที่เลี้ยงไว้มาทำการซื้อขายแลกเปลี่ยนกันเป็นประจำในหมู่บ้าน จึงมีชื่อเรียกขานอีกชื่อหนึ่งว่า "บ้านคอกควาย" 

ในหมู่บ้านมีวัดเก่าวัดหนึ่ง สร้างมาตั้งแต่ครั้งกรุงศรีอยุธยาเป็นราชธานี คือ "วัดคอกควาย" (ปัจจุบันคือวัดยานนาวา) ได้รับการยกฐานะขึ้นเป็นพระอารามหลวงในสมัยกรุงธนบุรี มีการขนานนามทางราชการว่า "วัดคอกกระบือ" และในสมัยรัชกาลที่ 1 ได้มีพระราชศรัทธาสร้างพระอุโบสถไว้

ในสมัยรัชกาลที่ 3 ได้ทรงพระกรุณาโปรดเกล้าให้ปฏิสังขรณ์พระอุโบสถวัดคอกกระบือซึ่งชำรุดทรุดโทรม รวมทั้งสร้างพระเจดีย์เป็นเรือสำเภาขนาดเท่าเรือสำเภาจริงๆโดยมีพระราชดำรัสว่าคนภายหลังอยากเห็นเรือสำเภาว่าเป็นอย่างไร จะได้มาดูที่วัดคอกกระบือ และทรงขนานนามใหม่ว่า "วัดยานนาวา" และเรียกกันมาตราบเท่าทุกวันนี้

ครั้นสมัยราชการที่ 4 ตำบลบ้านทวายมีอำเภอเกิดขึ้น เรียกชื่อว่าอำเภอแต่ไม่มีนายอำเภอหรือปลัดอำเภอเป็นผู้ปกครอง โดยราษฎรได้เลือกบุคคลซึ่งเป็นที่เคารพนับถือขึ้นเป็นหัวหน้าในตำบลนั้น เรียกว่า "จางวางปกครอง"

ในสมัยรัชกาลที่ 5 กระทรวงมหาดไทยได้เปลี่ยนแปลงการปกครอง ตั้งเป็นอำเภอขนานนามว่า "อำเภอบ้านทวาย" มีนายอำเภอเป็นผู้ปกครอง และกระทรวงมหาดไทยได้พิจารณาเห็นว่าชื่ออำเภอบ้านทวายมีสำเนียงเป็นภาษาต่างด้าว จึงเรียกชื่อเสียใหม่ว่า "อำเภอยานนาวา" โดยถือหลักตาม วัดยานนาวาขึ้นเป็นนามของอำเภอ

ปี พ.ศ. 2515 ได้เปลี่ยนชื่อเรียกว่า "เขตยานนาวา" ตามประกาศคณะปฏิวัติ ฉบับที่ 335 ลงวันที่ 13 ธันวาคม 2515 และแบ่งพื้นที่การปกครองออกเป็น 8 แขวง คือ แขวงช่องนนทรี แขวงบางโพงพาง แขวงยานนาวา แขวงทุ่งมหาเมฆ แขวงทุ่งวัดดอน แขวงบางคอแหลม แขวงบางโคล่ และแขวงวัดพระยาไกร

ต่อมาในปี 2532 ได้จัดตั้งสำนักงานเขตสาขาขึ้น 2 สาขา คือ
 สำนักงานเขตยานนาวา สาขา 1 แขวงยานนาวา (ปัจจุบันคือเขตสาทร)
 สำนักงานเขตยานนาวา สาขา 2 แขวงบางคอแหลม (ปัจจุบันคือเขตบางคอแหลม) เริ่มเปิดทำการเมื่อวันที่ 18 เมษายน 2532 มีพื้นที่การปกครอง 3 แขวง คือ แขวงบางคอแหลม แขวงวัดพระยาไกร และแขวงบางโคล่

สำนักงานเขตบางคอแหลม จัดตั้งขึ้นโดยประกาศกระทรวงมหาดไทย ลงวันที่ 9 พฤศจิกายน 2532 โดยใช้สถานที่อาคารบางส่วนของวัดและโรงเรียนวัดราชสิงขรเป็นที่ทำการชั่วคราว จนกระทั่ง พ.ศ. 2537 ได้ย้ายมา ณ ที่ทำการถาวรเป็นอาคารสูง 9 ชั้น ชั้นใต้ดิน 1 ชั้น ในเนื้อที่ 3 ไร่ 3 งาน 86 ตารางวา ซึ่งได้เปิดให้บริการประชาชนตั้งแต่วันที่ 17 มกราคม 2537