Se desempeñó como secretario de Estado durante el mando de George W. Bush, cuando tuvieron lugar los ataques del 11/9 contra USA, y formó parte de la posterior ofensiva conocida como las "guerras contra el terror".
La carrera de Powell lo llevó del deber de combate en Vietnam a ser el primer asesor de Seguridad Nacional negro durante el final de la presidencia de Ronald Reagan y el primer y más joven presidente negro del Estado Mayor Conjunto bajo el presidente George H.W. Bush.
Su reputación quedó seriamente dañada cuando, siendo secretario de Estado de George W. Bush, presentó ante el Consejo de Seguridad de la ONU un discurso sobre las supuestas armas de destrucción masiva (ADM) que poseía Irak, argumento que sirvió para justificar la invasión a ese país poco después.
Se trató de información deficiente, por lo que Powell describió luego el hecho como una "mancha" en su historial.