En 1969 el grupo debutó como telonero de los Rolling Stones en un concierto en el Hyde Park, y grabó su primer disco, “In the Court of the Crimson King”. También realizaron su primera gira por Europa y Norteamérica.
En 1970 grabaron su segundo disco,” In the Wake of Poseidon”, Greg Lake se retiró de la banda para formar con Keith Emerson y Carl Palmer el también grupo de rock progresivo Emerson, Lake & Palmer, dejando a King Crimson sin vocalista hasta que Gordon Haskell tomó ese lugar y también el de bajista para” Lizard”, el tercer álbum de la banda, también de 1970.
Andy McCulloch tocó la batería en Lizard, además de la participación de Jon Anderson del grupo Yes en una de las canciones. Haskell y McCulloch abandonaron la banda poco antes del lanzamiento de Lizard, dejando a King Crimson sin vocalista, bajista ni baterísta.
En 1971 realizaron el cuarto álbum de la agrupación, “Islands”.Y en 1972 realizaron una nueva gira llamada Earthbound con la intención de disolver la agrupación al término de ella. Poco después, con el material grabado de esa gira, Fripp editó el disco “Earthbound”, su primer álbum en directo. King Crimson comenzaba de nuevo.
El ex-baterista de Yes, Bill Bruford, fue el siguiente elegido. Comenzaron a trabajar en 1972 y para el siguiente año concretaron su nuevo álbum,” Larks' Tongues in Aspic”. El grupo se embarcó entonces en una nueva gira por Europa y Estados Unidos.
Esta etapa de King Crimson se caracterizó por la influencia que recibió de la naciente música heavy metal que se desarrollaba principalmente en los Estados Unidos y en Gran Bretaña. La guitarra de Fripp se mostró más agresiva, así como la batería de Bruford, que sonaba potente, y también el bajo se oyó más fuerte.
En 1974 salió al mercado su siguiente álbum, “Starless and Bible Black”. La mayor parte del disco fue grabado en conciertos durante 1973, con sólo dos temas grabados en estudio ("The Great Deceiver" y "Lament"), otro de los temas fue sólo parcialmente grabado en estudio ("The Night Watch"), lo cual demostró que King Crimson era esencialmente un grupo para tocar en vivo
En 1974 comenzaron a grabar su siguiente álbum titulado Red. La banda no llegó a realizar ninguna gira y dos meses antes de que se publicara el álbum, Robert Fripp anunció la disolución del grupo. En 1975 se editó el segundo disco en directo de la banda, llamado “USA”, compuesto de interpretaciones durante 1974.
Fripp se dedicó entonces a hacer una carrera solista colaborando además con importantes músicos. King Crimson aparentemente había dejado de existir, pero sólo era el término de una etapa más del grupo.
Al inicio de 1981 Robert Fripp y Bill Bruford comenzaron a gestar la formación de un nuevo grupo que se llamaría "Discipline". Durante algún tiempo buscaron a un nuevo bajista hasta que dieron con Tony Levin, quien era conocido principalmente por sus colaboraciones con reconocidos músicos como John Lennon y Peter Gabriel.
Fripp convocó también al guitarrista y vocalista Adrian Belew, quien se encontraba con los Talking Heads en una gira. Fripp nunca había trabajado con otro guitarrista en una misma banda, así que la decisión de buscar a un segundo guitarrista revelaba su intención de crear un sonido totalmente distinto al de King Crimson. Belew aceptó grabar con el nuevo grupo de Fripp inmediatamente después de acabar con la gira con los Talking Heads.
Durante las grabaciones del disco en 1981, Fripp se dio cuenta que el sonido de King Crimson se encontraba ahí y reconsideró su decisión de llamar al grupo Discipline. Los otros miembros estuvieron de acuerdo con Fripp y en su lugar llamaron al álbum “Discipline”, bajo el nombre de King Crimson. El grupo realizó una trilogía de discos continuada con “Beat” de 1982 y concluida en “Three of a Perfect Pair” de 1984. Esta versión de King Crimson tenía elementos de la música new wave, muy probablemente resultado del trabajo de Belew con los Talking Heads, quienes fueron unos de los iniciadores del género.
Después de Three of a Perfect Pair, King Crimson volvió a desintegrarse durante diez años.
En 1994 King Crimson volvió a formarse, Fripp y Belew en las guitarras, Levin en el bajo, Trey Gunn en un instrumento llamado guitarra Warr y Bruford en la batería acompañado de otro percusionista, Pat Mastelotto (salido de la banda Mr. Mister). Esta formación de "doble-trío" realizó apenas unos cuantos discos en la década de los noventas, el EP “VROOOM” de 1994, que sólo antecedió al lanzamiento del álbum “THRAK” en 1995 y luego el álbum en vivo “THRaKaTTaK” en 1996.
El resto de los noventa se lanzaron trabajos de los proyectos colaterales a King Crimson, llamados ProjeKct One, ProjeKct Two, ProjeKct Three, ProjeKct Four, así como el ProjeKct X, o simplemente ProjeKCts, los cuales son subgrupos de King Crimson (de acuerdo a Fripp son una fraKctalización de King Crimson) que han llevado a cabo varias grabaciones en vivo.
Después del trabajo de los ProjeKcts, Bruford y Levin dejaron la banda. Y en el año 2000 se publicó el siguiente álbum de la banda llamado “The ConstruKction of Light”.
Para el 2002 apareció el EP “Happy With What You Have to Be Happy With” que antecedió al lanzamiento en el 2003 de “The Power to Believe”, el penúltimo álbum de estudio, siendo “A Scarcity of Miracles” hasta el momento la última producción de King Crimson.