Πέρασε τα παιδικά του χρόνια στη Λισαβόνα, όπου παρά την έφεσή του στα γράμματα αναγκάστηκε ν’ αφήσει το γυμνάσιο για μία τεχνική σχολή που τον βοήθησε να βρει δουλειά ως μηχανικός αυτοκινήτων. Παράλληλα, όσα βράδια παρέμενε ανοιχτή, επισκεπτόταν την Εθνική Βιβλιοθήκη και διάβαζε «χωρίς βοήθεια ή καθοδήγηση, παρά μόνο με την περιέργεια και τη θέληση να μάθω», όπως έγραψε στην αυτοβιογραφία του. Τα διαβάσματά του αυτά τον βοήθησαν αργότερα να βρει δουλειά ως μεταφραστής, δημοσιογράφος και να δοξαστεί ως συγγραφέας.
Το 1947, κατά τη διάρκεια της δικτατορίας Σαλαζάρ, εξέδωσε το πρώτο του έργο, το μυθιστόρημα «Γη της Αμαρτίας», που πέρασε απαρατήρητο. Την ίδια χρονιά γεννήθηκε η κόρη του Βιολάντα, από τον πρώτο του γάμο με την Ίλντε Ρέις.
Κομμουνιστής με παράνομη πολιτική δράση και άθεος, εργάστηκε για πολλά χρόνια σε εκδοτικούς οίκους και σε εφημερίδες ως σχολιαστής, ως υπεύθυνος λογοτεχνικών σελίδων και ως βιβλιοκριτικός. Από το πρώτο βιβλίο μεσολάβησε ένα διάστημα 19 ετών μέχρι να εκδώσει το δεύτερο βιβλίο του το 1966, την ποιητική συλλογή «Οs Poemas Possiveis» («Τα Πιθανά Ποιήματα»).
Ο Ζοζέ Σαραμάγκου άφησε την τελευταία του πνοή στο σπίτι του στο Λανθαρότε των Καναρίων Νήσων στις 18 Ιουνίου 2010. Ο νομπελίστας συγγραφέας, έπασχε από λευχαιμία και νοσηλεύθηκε αρκετές φορές τα τελευταία χρόνια της ζωής του σε νοσοκομεία, κυρίως εξαιτίας αναπνευστικών προβλημάτων.