มาร์ค แอนดรูว์ สปิตซ์ เกิดเมื่อวันที่ 10 กุมภาพันธ์ 1950 ที่เมืองโมเดสโต้ รัฐแคลิฟอร์เนีย ประเทศสหรัฐอเมริกา โดยเขาเริ่มเรียนว่ายน้ำเพื่อเข้าแข่งขันในขณะที่มีอายุเพียง 6 ปีเท่านั้น ต่อมาเมื่ออายุได้ 14 ปี ครอบครัวของเขาย้ายไปอยู่ที่ซานตา คลารา (Santa Clara) ซึ่งที่นี่เองที่ทำให้เขามีโอกาส ฝึกซ้อมการว่ายน้ำกับ จอร์จ ไฮเนส จากสมาคมว่ายน้ำซานตา คลารา
จากนั้นเมื่ออายุ 16 ปี เขาได้สัมผัสถึงรสชาติของการเป็นผู้ชนะครั้งแรก จากการแข่งขันว่ายน้ำสมัครเล่น ก่อนจะคว้าเหรียญทองจากการแข่งขัน Pan-American Games ที่ประเทศแคนาดา เมื่ออายุ 17 ปี
จุดเริ่มต้นของตำนานในฐานะฉลามหนุ่มของ สปิตซ์ ซึ่งเริ่มเป็นที่รู้จักของคนทั่วโลก อยู่ที่การแข่งขันกีฬาโอลิมปิก ปี 1968 ที่ประเทศเม็กซิโก ซึ่งเขากวาดไปได้ทั้งสิ้น 4 เหรียญ แบ่งเป็น 2 เหรียญทอง 1 เหรียญเงิน และ 1 เหรียญทองแดง อย่างไรก็ตาม เขากลับมองว่ายังทำผลงานได้ไม่น่าพอใจ จึงไปซุ่มซ้อมเพื่อฝึกปรือฝีมือกับ ด็อก เคาน์ซิลแมน โค้ชว่ายน้ำระดับตำนานแห่งมหาวิทยาลัยอินเดียน่า ก่อนจะเข้าร่วมชิงชัยในมหกรรมโอลิมปิกในอีก 4 ปีต่อมา
ซึ่งที่ มิวนิคเกมส์ 1972 ประเทศเยอรมนี นี่เองที่ สปิตซ์ ประกาศศักดาในฐานะราชาจ้าวสระได้อย่างยิ่ใหญ่ด้วยการกวาดเหรียญทองมาครองได้อย่างมากมายถึง 7 เหรียญ จากการแข่งขัน ผีเสื้อ 100 เมตร, ฟรีสไตล์ 100 เมตร, ผีเสื้อ 200 เมตร, ฟรีสไตล์ 200 เมตร, ผลัด ฟรีสไตล์ 4x100 เมตร, ผลัด ผสม 4x100 เมตร และ ผลัด ฟรีสไตล์ 4x200 เมตร นอกจากนั้นยังสร้างสถิติโลกขึ้นใหม่ในทุกรายการอีกด้วย
ผลงานสุดยอดดังกล่าวของ สปิตซ์ กลายเป็นสถิติของการแข่งขันว่ายน้ำที่ยังไม่มีฉลามหนุ่มรุ่นหลังรายใดสามารถทาบได้ โดยมีเพียง ไมเคิล เฟลป์ส นักว่ายน้ำหนุ่มชาวอเมริกันที่ทำได้ใกล้เคียงที่สุดจากผลงานคว้า 6 เหรียญทอง ในการแข่งขันครั้งล่าสุดที่ เอเธนส์เกมส์ ประเทศกรีซ ปี 2004
ในปี 1977 สปิตซ์ ได้ถูกรับเชิญให้เข้าเป็นสมาชิกของ International Swimming Hall of Fame และได้ถูกรับเชิญให้เข้าเป็นสมาชิกระดับเฟิร์สทคลาสของ United States Olympic Hall of Fame ในปี 1983