El nombre de la banda se inspiró en un artista amigo del grupo que padecía de esquizofrenia y que usaba el término black keys para describir a "las personas que no estaban del todo bien". Un doble significado también puede interpretarse como el hecho de que las teclas negras (black keys) de un piano comprenden una escala pentatónica menor empezando en mi bemol mayor, que se asocia frecuentemente con elblues y el rock.
Seguido se les compara con los White Stripes — otro duo de música lo-fi con influencias blues y que tuvieron su primer éxito significativo en el2001, varios meses antes que The Black Keys.
El grupo editó su primer álbum The Big Come Up en el 2002, seguido por Thickfreakness en 2003 y Rubber Factory en 2004. En octubre de 2005 salió a la venta su DVD en vivo, Live que fue grabado en el Metro Theatre de Sydney el 18 de marzo del mismo año. Para 2006editaron Magic Potion y el menos conocido EP Chulahoma.
Han logrado gran reconocimiento y aclamación por parte de la crítica desde que su álbum debut fuera ovacionado por la revista Rolling Stone[1]. La revista Time los nombró como uno de los "10 mejores actos del 2003"[2] (detrás de OutKast y The White Stripes). Le han abierto a varios grupos como Beck y Radiohead, salido de gira con otros como Sleater-Kinney y participaron en el festival Lollapalooza de 2005. Además, recibieron gran apoyo del influyente locutor británico John Peel, aparecieron en el Late Night with Conan O'Brien y el Late Show with David Letterman
Robert Plant (el líder de Led Zeppelin), Billy Gibbons de ZZ Top y Thom Yorke y Jonny Greenwood de Radiohead son todos fans de The Black Keys[3]. Kirk Hammett, el guitarrista de Metallica también ha declarado en una entrevista que disfruta escuchar de su música. Matt Helders, baterista de los Arctic Monkeys, fue visto con una playera del grupo en una entrevista para MTV.