ต้นมะกอกโอลีฟที่โตเต็มที่มีระบบรากที่แผ่กระจายและตื้น เป็นรากซึ่งงอกออกมาจากส่วนล่างของลำต้น ความลึกของการหยั่งรากขึ้นอยู่กับลักษณะของดิน ในพื้นที่ดินร่วนซุย รากสามารถหยั่งได้ลึกตั้งแต่ 10.15 ถึง 80 ซม. ความเติบโตตามแนวกว้างของต้นพืชนั้นจะเป็น 2-3 เท่าของรัศมีของส่วนยอดสุด โดยมีความสัมพันธ์ของระยะห่างของต้นพืชเข้ามาเกี่ยวข้องด้วย
          ลำต้นของมะกอกโอลีฟ จะมีลักษณะเป็นเช่นไรนั้นขึ้นอยู่กับการตัดแต่งเป็นสำคัญ เช่น เกี่ยวข้องกับการอนุบาลต้นไม้ และอุปกรณ์ที่ใช้ เป็นต้น ในพื้นที่หลายส่วนของประเทศสเปน พบว่าต้นมะกอกมีลักษณะที่ขึ้นเป็นกอ ในขณะที่ต้นมะกอกในประเทศอื่นๆ เกือบทั้งหมดเป็นลำต้นเดี่ยว ส่วนความสูงของต้นมะกอกนั้นขึ้นอยู่กับหลายปัจจัย เช่น การตัดแต่งกิ่ง กิ่งตอนที่นำมาปลูก และปัจจัยอื่นๆ ซึ่งมีส่วนทำให้ความสูงของต้นมะกอกแตกต่างจากกันราว 1-2 เมตร ลำต้นของต้นมะกอกขณะที่ยังเล็กจะมีลักษณะเป็นลำต้นตรงมากกว่า ในณะที่ต้นมะกอกที่โตกว่ามีกิ่งก้านแตกใหญ่ดูคล้ายกับว่ามีกลุ่มกอที่ขึ้นอยู่รวมกัน

กิ่งใหญ่จะแยกออกจากลำต้น และแตกกิ่งก้านสาขาออกไปความหนาแน่นของกิ่งใบขึ้นอยู่กับการจัดวางผังในพื้นที่เพาะปลูกความอุดมสมบูรณ์ของดิน แหล่งน้ำ รวมทั้งการตัดแต่งกิ่ง ลักษณะกิ่งอ่อนของต้นมะกอกโอลีฟจะเป็นกิ่งเล็ก มีใบแน่นเป็นมัน เป็นประกอบที่เรียงตัวเป็นคู่ตรงข้าม มีรูเปิดเล็กๆ ที่อยู่ใต้ใบเพื่อช่วยควบคุมการคายน้ำ ส่วนในเรื่องขนาดของใบ สีสันและการเรียงตัวนั้นมีลักษณะแตกต่างกันออกไปตามสายพันธุ์ ตำแหน่งของตาใบและตาดอกจะอยู่ตรงหูใบ
          ช่อดอกซึ่งแตกออกมาจากตาอ่อนเมื่อปีกลายจะค่อยๆ ฟอร์มตัวเป็นช่อดอกที่มีก้านยาว ในแต่ละช่อมีตั้งแต่ 11 - 23 ดอก กลีบดอกมะกอกมีสีขาว เรียงกันเป็นสี่กลีบ ส่วนกลีบเลี้ยงเป็นทรงกระเปาะ ขนาดสั้น และมีสีเขียวอ่อน เกสรตัวผู้ทั้งสองอันมีก้านชูสั้นและรังไข่ที่อ้วนหนา มีอับละอองเรณูซึ่งเก็บละอองเกสรไว้มากมายอยู่ภายใน ; ส่วนที่คอยดักจับละอองเกสรมีลักษณะเป็นสองแฉกและมีขนอ่อน เมื่อเกิดการผสมพันธุ์ขึ้นในโพรงเกสรตัวเมียทั้งสองอัน ซึ่งภายในโพรงนี้มีถุงรังไข่แยกออกจากกัน โดยในแต่ละเซลล์จะมีเซลล์ไข่อยู่สองเซลล์ เซลล์ที่ได้รับการผสมแล้วจะฟักตัวเป็นผลเมล็ดเดี่ยวหรือโมโนสเปิร์ม ดอกมะกอกมีทั้งเกสรตัวผู้และเกสรตัวเมียอยู่ในดอกเดียวกัน ซึ่งสามารถจะผสมกันและให้ผลให้เมล็ดต่อไป บางครั้งดอกมะกอกก็อาจจะไม่มีเกสรตัวเมีย จึงไม่ติดผลหรือบางดอกอาจจะไม่มีเซลล์ไข่ หรือเกสรตัวผู้ไม่สมบูรณ์ ผลมะกอกที่ได้ก็จะแกร็นและไม่สมบูรณ์เช่นกัน อย่างไรก็ตาม มีลูกมะกอกเพียง 2-3 เปอร์เซนต์ เท่านั้นที่มีความสมบูรณ์เพียงพอที่จะเก็บเกี่ยวได้
          ลูกมะกอกมีเมล็ดในเดี่ยว และมีรูปทรงค่อนข้างกลม อาจจะกลมน้อยหรือกลมมากแตกต่างกันไป ส่วนขนาดของผลขึ้นอยู่กับสายพันธุ์ ลูกมะกอกประกอบด้วยส่วนของเปลือกชั้นนอก ซึ่งสีจะเปลี่ยนไปเมื่อผลสุก เนื้อมะกอกเป็นส่วนที่มีปริมาณน้ำมันมากที่สุด ส่วนเมล็ดในของลูกมะกอกเป็นเมล็ดที่แข็ง ลักษณะยาว และมีตุ่มอยู่ตรงส่วนบนของเมล็ด ห่อหุ้มเมล็ดพันธุ์ที่อยู่ด้านใน ซึ่งพบว่ามีทั้งคัพภะ (embryo)
และโภชนาสาร