Låtskrivarna Paul Overstreet och Don Shlitz hade en ”dålig dag på jobbet” inte en enda komposition. Precis när de skulle gå hem började de skoja om hur svårt det var att komma på nåt bra att skriva och försökte komma på flera sätt att ‘säga ingenting alls’ och så upptäckte de att de hade ett ämne till en låt. På något sätt kom låten till Kieth Whitley. Han hade tidigare spelat in en låt skriven av Overstreet/Schlitz (On the Other Hand) och ångrat sig bittert att han inte gett ut den som singel – han skulle inte missa den här chansen.
Keith version blev #1 på country-listan men han fick inte skörda alla framgångarna då han dog av alkoholförgiftning den 9 maj 1989. Keith var alkolist. Redan i tonåren drack han mängder av hemkörd bourbon. De körde rally i backarna i Sandy Hook. Kompisen dog i en avkörning och Keith hade tur vid en annan avkörning när bilen hamnade 30 meter på isen nere i en ravin – isen höll inte, men han kom undan med brott på nyckelbenen (krave-/krageben).
1969, 15 år gammal var Keith med på en talangtävling där han blev vän med Ricky Skaggs. Deras bluegrass gigs blev väldigt populära och blev också starten på karriärstegen för bägge. Keith fortsatte dock med sitt drickande.
På morgonen den 9 maj 1989 vaknade Keith efter en helg partajande, han pratade med sin mor och fick besök av svågern, Lane Palmer (Lorrie Morgans bror). De drack en kopp kaffe och bestämde att de skulle spela golf innan de skulle skriva låtar till Lorrie. När Lane Palmer hämtat sina golfgrejer hittade han Keith livlös i sängen.
1994 gavs albumet Keith Whitley Tribute ut. Alison Krauss & Union Station bidrog med «When You Say Nothing at All». Den då 23-åriga men redan erkände Alison (hon var 19 när hon vann sin första Grammy Award) fick så mycket beröm så de gav ut låten som singel i januari 1995 – den blev #3 på countrylistan.
1999 spelade Ronan Keating in låten för soundtrack till «Notting Hill» – det var också Ronans debutsingel som blev #1 i många länder som UK Top 40.
2004 presenterade CMT sin lista över «The greatest love songs» och «When You Say Nothing At All» blev utsedd som #12. Sara Evans sjöng låten under programmet.