Blandt en håndfuld stilskabende pianister, der tæller navne som Bill Evans, Herbie Hancock og Chick Corea blev McCoy Tyner regnet for en betydelig eksponent for nyere jazz.
Gennembruddet til et større publikum kom omkring 1960, da Tyner blev hyret som medlem af saxofonisten John Coltranes kvartet. Det var en frodig tid for jazzmusikken, og den unge Tyners lyriske improvisationer var med til at sætte nye standarder for, hvordan moderne musik kunne lyde.
»McCoy Tyners fremtræden var ydmyg, men hans lyd var rig, rytmisk og seriøs,« skriver The New York Times i sin nekrolog.
Alfred McCoy Tyner var født i Philadelphia og begyndte at få klaverundervisning som 13-årig ikke mindst inspireret af, at naboerne til hans forældres hus talte navne som organisten Jimmie Smith, trompetisten Lee Morgan og pianisten Richie Powell, bror til Bud Powell, der var et idol for den unge Alfred.
For meget larm
Efter succesen med John Coltrane forlod McCoy Tyner midt i 1960erne kvartetten, fordi Coltrane begyndte at udvide med større besætning. Tyner mente, at der »blev for meget larm« i musikken.
Det forhindrede ham dog ikke mange år senere at skabe sit eget berømte McCoy Tyner Big Band. I slutningen af 1960erne turnerede han en del med trommeslageren Art Blakeys orkester.
McCoy Tyner optrådte flere gange i Danmark. I modsætning til flere af sine samtidige kolleger holdt han sig fra at eksperimentere med orgel, el-piano, synthezisere eller andre moderne keyboards, men forblev tro mod det akustiske flygel.