Ο Όσιος Εφραίμ «ο θαυμάσιος» κατά τον Συμεών τον Μεταφραστή γεννήθηκε από φτωχούς γονείς στην πόλη Νίσιβη της Μεσοποταμίας, περί το 306.
Οι πρόγονοί του ομολόγησαν τον Χριστό κατά τον διωγμό του Διοκλητιανού, γι’ αυτό γράφει ότι «μαρτύρων συγγενής ειμί». Την οικογενειακή αυτή παρακαταθήκη αγάπης προς τον Χριστό συνεχίζει ο ίδιος. Κατά την παιδική ηλικία διδάχθηκε περί Χριστού από τους γονείς αλλά και από τον άγιο επίσκοπο Ιάκωβο, τον μεγάλο Ιεράρχη της Νίσιβης. Γρήγορα εγκατέλειψε τον κόσμο και αναχώρησε στα όρη με τους αναχωρητές, όπου έγινε μαθητής του. Αυτός τον δίδαξε την αγάπη για την αρετή και την αδιάλειπτη μελέτη του λόγου του Θεού. Γίνεται δοχείο δωρεών του αγίου Πνεύματος μετά από τους πνευματικούς αγώνες και την προκοπή του στην καθαρότητα και τον αγιασμό.Στο τέλος της ζωής του, αναγνώριζε ότι δεν είχε πει κακό λόγο για κανένα, ούτε είχε αφήσει να ξεφύγει από το στόμα του μάταιη κουβέντα. Στερημένος της κοσμικής σοφίας γίνεται μέτοχος της θείας σοφίας και δέχεται από τον Θεό τη δωρεά του χαρίσματος της διδασκαλίας. Κατά την μαρτυρία του Μ. Βασιλείου ο όσιος Εφραίμ υπερείχε από όλους τους άνδρες της εποχής του. Αγωνιζόμενος την ημέρα κατά της πείνας και την νύχτα κατά του ύπνου, ενδύοντας τις πράξεις και τους λόγους του με την αγία ταπείνωση του Χριστού, έλαβε από τον Θεό το χάρισμα της κατανύξεως και των αδιάλειπτων δακρύων. Θρηνούσε αδιάκοπα τα αμαρτήματά του ή τα αμαρτήματα των άλλων και καμιά φορά, όταν αναλογιζόταν τα όσα θαυμαστά έκανε ο Θεός για μας τους ανθρώπους, τα δάκρυά του μεταβάλλονταν σε δάκρυα χαράς.
Κατά την πολιορκία της Νίσιβης από τους Πέρσες ο όσιος μετέχει στην υπεράσπιση της πόλης ενισχύοντας τον λαό. Όταν αργότερα η πόλη έπεσε στα χέρια των επιδρομέων πήγε μαζί με πολλούς χριστιανούς στην Έδεσσα. Άρχισε να διδάσκει προφορικά και γραπτά την πίστη και την ευσέβεια, άνοιξε δε Διδασκαλείο, στο οποίο φοίτησαν πολλοί σπουδαίοι δάσκαλοι της Εκκλησίας των Σύρων.
Ύστερα από μερικά χρόνια στην Έδεσσα, ο άγιος Εφραίμ επέστρεψε ξανά στην έρημο. Είχε ακούσει να επαινούν τις αρετές του Μεγάλου Βασιλείου, και ο Θεός του αποκάλυψε σε όραμα ότι ο επίσκοπος Καισαρείας έμοιαζε με πύρινη στήλη που ένωνε τη γη με τον ουρανό. Χωρίς αργοπορία ξεκίνησε για την Καππαδοκία. Έφθασε στην Καισαρεία την ημέρα των Θεοφανείων και μπήκε στο ναό τη στιγμή που τελούνταν η θεία Λειτουργία. Μολονότι δεν καταλάβαινε ελληνικά, ένιωσε θαυμασμό βλέποντας τον μεγάλο ιεράρχη να κηρύττει, γιατί έβλεπε ένα λευκό περιστέρι καθισμένο στον δεξιό ώμο του, να του ψιθυρίζει στο αυτί θεϊκά λόγια. Το ίδιο αυτό περιστέρι αποκάλυψε στον Μέγα Βασίλειο την παρουσία ανάμεσα στο πλήθος του ταπεινού Σύρου ασκητή. Έστειλε να τον βρουν, συνομίλησε λίγο μαζί του στο βάθος του ιερού και απαντώντας στο αίτημά του, ο Θεός παραχώρησε να αρχίσει ξαφνικά ο Εφραίμ να μιλά ελληνικά, σαν να ήταν η μητρική του γλώσσα. Κατόπιν ο Βασίλειος τον χειροτόνησε διάκονο και τον άφησε να επιστρέψει στην πατρίδα του. Από ταπείνωση αρνιόταν πάντα να ανέλθει στον βαθμό του πρεσβυτέρου.
Όταν δεν ήταν απασχολημένος με τη διδασκαλία για την στερέωση της πίστεως έναντι των ειδωλολατρών και των αιρετικών, έθετε τον εαυτό του ταπεινά στην υπηρεσία όλων, ως αληθινός διάκονος, μιμούμενος τον Χριστό, ο οποίος έγινε «δούλος» μας. Τους αγώνες του υπέρ της αληθείας μαρτυρεί η σταθερότητα των Εδεσσηνών στην Ορθοδοξία και μετά το θάνατό του.
Όταν το 372 έγινε μεγάλος λιμός στην πόλη της Έδεσσας οργάνωσε την κοινωνική περίθαλψη της πόλης. Όταν πέρασε ο δύσκολος χρόνος του λιμού αποσύρθηκε στο κελλί του και παρέδωσε την ψυχή του στον Θεό στις 9 Ιουνίου του 373, σε ηλικία εξήντα επτά ετών. Επειδή αισθάνθηκε ότι πλησιάζει το τέλος της ζωής του συγκέντρωσε τους μαθητές του και πολλούς κατοίκους της Έδεσσας για να τους ανακοινώσει τις τελευταίες παρακαταθήκες του, που σώζονται στη Διαθήκη του. Παρακαλεί όλους όσοι τον αγαπούν να μην τον τιμήσουν με λαμπρή κηδεία, αλλά να βάλουν το σώμα του στην τάφρο την προορισμένη για τους ξένους και να του προσφέρουν, αντί για λουλούδια και αρώματα, το στήριγμα των προσευχών τους.