Σύμφωνα με την αθωνική παράδοση η Ιερά Μονή Αγίου Παύλου ιδρύθηκε από τον γιο του αυτοκράτορα Μιχαήλ Γ΄ του Ραγκαβέ (842-867), Παύλο (κατά κόσμο Προκόπιο). Οι σωζόμενες αρχειακές πηγές, ωστόσο, βεβαιώνουν ότι τη Μονή ίδρυσε ο φημισμένος ασκητής του Αγίου Όρους, όσιος Παύλος ο Ξηροποταμηνός, κατά το δεύτερο μισό του 10ου αιώνα. Ο μοναχός αυτός, ύστερα από την ίδρυση της Μονής Ξηροποτάμου, κατέφυγε στη νότια και έρημη τότε περιοχή του Άθω, όπου και ίδρυσε ένα μονύδριο επ’ ονόματι της Θεοτόκου. Ο ίδιος διετέλεσε και πρώτος ηγούμενός του. Λόγω της φήμης του ιδρυτή, η Μονή απέκτησε κύρος μέσα στην αθωνική κοινότητα, ώστε ο ηγούμενός της να υπογράφει το Τυπικό του αυτοκράτορα Κωνσταντίνου Θ΄ Μονομάχου το 1045, όντας όγδοος στη σειρά μεταξύ τριάντα δύο ηγουμένων. Οι μόνες πληροφορίες που διαθέτουμε από αυτή την πρώτη φάση της ιστορίας της Μονής είναι οι προσπάθειές της να διαμορφώσει τον παραγωγικό χώρο της και κυρίως τα σύνορά της προς τα νότια, όπου υπήρχε η μη σωζόμενη σήμερα Μονή των Βουλευτηρίων (στην περιοχή της σημερινής Σκήτης της Αγίας Άννας). Μέχρι τις αρχές του 12ου αιώνα η Ιερά Μονή Αγίου Παύλου ήταν ένα σχετικά μικρό μοναστικό ίδρυμα, χωρίς μαρτυρημένη περιουσία εκτός της Αθωνικής χερσονήσου.