In 1959 stuurde Bernlef enkele niet eerder gepubliceerde verhalen en gedichten in voor de Reina Prinsen Geerligsprijs, die aan hem werd toegekend. De winnende gedichten verschenen in 1960 in Kokkels en de verhalen in datzelfde jaar in Stenen spoelen. De twee boeken vormen samen zijn debuut.

In de jaren zestig vertaalde Bernlef het werk van diverse Zweedse dichters en schrijvers en recenseerde hij voor onder andere De Groene Amsterdammer, Het Parool, De Gids en Haagse Post. Met G. Brands en K. Schippers begon hij in 1958 het roemruchte tijdschrift Barbarber.

Met de roman Hersenschimmen (1984) brak Bernlef door naar het grote publiek: van het boek zijn in Nederland en Vlaanderen inmiddels bijna een miljoen exemplaren verkocht en het werd in tien talen vertaald. Meer dan een verhaal over dementie is Hersenschimmen een liefdesgeschiedenis, met een onvermijdelijk tragisch einde. In 1988 werd de roman verfilmd door Heddy Honigmann, met Joop Admiraal in de hoofdrol.

De jazz heeft altijd Bernlefs warme belangstelling gehad. Niet alleen dichtte hij over jazz, hij schreef er ook een aantal essays over die in 1993 gebundeld werden in Schiet niet op de pianist en in 1999 in Haalt de jazz de eenentwintigste eeuw? In 2006 publiceerde hij bovendien zijn jazzverhalen in Hoe van de trap te vallen.

Het werk van Bernlef is vaak bekroond. In 1962 kreeg hij de Poëzieprijs van de gemeente Amsterdam voor zijn dichtbundel Morene (1961) en in 1964 de Lucy B. en C.W. van der Hoogtprijs voor Dit verheugd verval (1963). In 1984 werd zijn hele oeuvre bekroond met de Constantijn Huygensprijs. Voor de roman Publiek geheim (1987) kreeg hij de AKO Literatuurprijs en in 1994 werd hem de P.C. Hooftprijs toegekend voor zijn poëzie.

In 2008 schreef Bernlef het Boekenweekgeschenk, onder de titel De pianoman. Nog onlangs verschenen een nieuwe verhalenbundel, Help me herinneren, en zijn verzamelde poëzie, Voorgoed.